实战HuggingFace
Transformers及相关库
Pipeline
Tokenizer
Model
Datasets
Evauate
Trainer
基于Transformer的NLP解决方案
Transformers显存优化
命名体识别
机器阅读理解
多项选择
文本相似度
方法一:
方法二:
检索式对话机器人
把知识库中的内容进行编码,然后将问题与知识库进行文本相似度匹配
预训练模型
文本摘要
对话机器人
高效微调
- 重点: 训练哪部分参数,这部分参数从哪里来
BitFit
冻结模型参数,选择模型参数里面的所有bias部分进行梯度计算
Prompt-Tuning
P-Tuning
Prefix-Tuning
Lora
IA3
低精度训练
分布式训练
Darta parallel
Distributed darta parallel