实战HuggingFace

Transformers及相关库

在这里插入图片描述

Pipeline

在这里插入图片描述

在这里插入图片描述

Tokenizer

在这里插入图片描述

Model

在这里插入图片描述
在这里插入图片描述

Datasets

在这里插入图片描述

Evauate

在这里插入图片描述

Trainer

在这里插入图片描述

基于Transformer的NLP解决方案

在这里插入图片描述

Transformers显存优化

在这里插入图片描述
在这里插入图片描述

命名体识别

在这里插入图片描述在这里插入图片描述

机器阅读理解

在这里插入图片描述在这里插入图片描述

多项选择

在这里插入图片描述
在这里插入图片描述

文本相似度

在这里插入图片描述

方法一:

在这里插入图片描述

在这里插入图片描述

方法二:

在这里插入图片描述
在这里插入图片描述

检索式对话机器人

把知识库中的内容进行编码,然后将问题与知识库进行文本相似度匹配
在这里插入图片描述

预训练模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

文本摘要

在这里插入图片描述

对话机器人

在这里插入图片描述

高效微调

  • 重点: 训练哪部分参数,这部分参数从哪里来
    在这里插入图片描述

BitFit

冻结模型参数,选择模型参数里面的所有bias部分进行梯度计算

Prompt-Tuning

在这里插入图片描述

P-Tuning

在这里插入图片描述

Prefix-Tuning

在这里插入图片描述

Lora

在这里插入图片描述

IA3

在这里插入图片描述

低精度训练

在这里插入图片描述

在这里插入图片描述

分布式训练

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Darta parallel

在这里插入图片描述
在这里插入图片描述

Distributed darta parallel

在这里插入图片描述
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值