开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机单卡-V100（八）

最新推荐文章于 2024-12-10 18:30:54 发布
最新推荐文章于 2024-12-10 18:30:54 发布
阅读量8.4k 收藏 337
点赞数 377
CC 4.0 BY-SA版权
分类专栏： 开源模型-实际应用落地 # 开源大语言模型-qwen模型小试 开源模型-微调实战密码 文章标签： 自然语言处理 深度学习 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq839019311/article/details/141391066

一、前言

    本篇文章将使用LLaMA-Factory去高效微调（命令和界面方式）QWen2系列模型，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。

二、术语介绍

2.1. LoRA微调

    LoRA (Low-Rank Adaptation) 用于微调大型语言模型 (LLM)。  是一种有效的自适应策略，它不会引入额外的推理延迟，并在保持模型质量的同时显着减少下游任务的可训练参数数量。

2.2.参数高效微调(PEFT) 

    仅微调少量 (额外) 模型参数，同时冻结预训练 LLM 的大部分参数，从而大大降低了计算和存储成本。

2.3. Qwen2-7B-Instruct

    是通义千问 Qwen2 系列中的一个指令微调模型。它在 Qwen2-7B 的基础上进行了指令微调，以提高模型在特定任务上的性能。

    Qwen2-7B-Instruct 具有以下特点：

  • 强大的性能：在多个基准测试中，Qwen2-7B-Instruct 的性能可与 Llama-3-70B-Instruct 相匹敌。
了解本专栏 订阅专栏 解锁全文 超级会员免费看
开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机多卡-RTX 4090双卡（五）
以微薄之力，予他人些许温暖.
08-10 4万+
使用LLaMA-Factory高效微调qwen2-7b-instruct
开源模型应用落地-qwen2-7b-instruct-LoRA微调-ms-swift-单机单卡-V100（十二）
以微薄之力，予他人些许温暖.
08-30 4282
使用ms-swift高效微调qwen2-7b-instruct
[大模型]Qwen2-7B-Instruct Lora 微调
FL1623863129的博客
06-15 4219
LoraConfig这个类中可以设置很多参数，但主要的参数没多少，简单讲一讲，感兴趣的同学可以直接看源码。task_type：模型类型：需要训练的模型层的名字，主要就是attention部分的层，不同的模型对应的层的名字不同，可以传入数组，也可以字符串，也可以正则表达式。rlora的秩，具体可以看Lora原理lora_alphaLora alaph，具体作用参见Lora原理Lora的缩放是啥嘞？当然不是r（秩），这个缩放就是, 在这个LoraConfig中缩放就是4倍。
使用 vllm 本地部署 cohere 的 command-r
engchina的专栏
04-24 1255
使用 vllm 本地部署 cohere 的 command-r
[大模型]Yi-6B-chat WebDemo 部署
FL1623863129的博客
04-13 933
由60亿个参数组成的高级语言模型 Yi LLM。为了促进研究，Yi 已经为研究社区开放了Yi LLM 6B/34B Base 和 Yi LLM 6B/34B Chat。
[大模型]Qwen2-7B-Instruct 接入 LangChain 搭建知识库助手
FL1623863129的博客
06-15 2670
在上述类定义中，我们分别重写了构造函数和 _call 函数：对于构造函数，我们在对象实例化的一开始加载本地部署的 Qwen2 模型，从而避免每一次调用都需要重新加载模型带来的时间过长；_call 函数是 LLM 类的核心函数，LangChain 会调用该函数来调用 LLM，在该函数中，我们调用已实例化模型的 generate 方法，从而实现对模型的调用并返回调用结果。完成自定义 LLM 类之后，可以以完全一致的方式调用 LangChain 的接口，而无需考虑底层模型调用的不一致。
Windows微调Qwen2-7B-Instruct-甄嬛
Fightever_的博客
08-23 1636
zip(model_inputs.input_ids,generated_ids)是将这两部分打包成元组列表，每个元组包含两个列表中对应位置的元素，这样，就可以在列表推导式中同时遍历输入令牌和生成的令牌。最后，output_ids[len(input_ids):] for input_ids,output_ids in zip(model_inputs.input_ids,generated_ids)是列表推导式，他提取outpu_ids中新生成的token，并将这些部分收集到新列表。
开源模型应用落地-qwen2-7b-instruct-LoRA微调&模型合并-LLaMA-Factory-单机多卡-RTX 4090双卡（六）
热门推荐
以微薄之力，予他人些许温暖.
08-16 2万+
使用LLaMA-Factory合并微调后的模型权重
开源模型应用落地-qwen2-7b-instruct-LoRA微调-unsloth（让微调起飞）-单机单卡-V100（十六）
以微薄之力，予他人些许温暖.
09-12 1万+
使用unsloth高效微调qwen2-7b-instruct
[大模型]Qwen2-7B-Instruct FastApi 部署调用
FL1623863129的博客
06-15 1150
在 /root/autodl-tmp 路径下新建 model_download.py 文件并在其中输入以下内容，粘贴代码后请及时保存文件，如下图所示。使用 modelscope 中的 snapshot_download 函数下载模型，第一个参数为模型名称，参数 cache_dir 为模型的下载路径。接下来，我们打开刚刚租用服务器的 JupyterLab，如下图所示，然后打开其中的终端，开始环境配置、模型下载和运行演示。下面的代码有很详细的注释，大家如有不理解的地方，欢迎提出 issue。
【Qwen2微调实战】Lora微调Qwen2-7B-Instruct实践指南
寻道AI，探索AI无限可能！
07-24 1万+
在人工智能领域，自然语言处理（NLP）一直是研究的热点之一。随着深度学习技术的不断发展，大型预训练语言模型（如Qwen2-7B-Instruct）在理解与生成自然语言方面取得了显著的进展。然而，这些模型往往需要大量的计算资源和数据来进行微调，以适应特定的应用场景。Lora微调技术作为一种高效的模型优化手段，为解决这一问题提供了新的思路。本文将深入探讨Lora微调技术在Qwen2-7B-Instruct模型上的应用，旨在为读者提供一种高效、低成本的模型定制化方法。
【LLM】通义千问Qwen2-7b-instruct部署
GEEK-BANANA
09-09 921
通义千问Qwen2-7b部署
Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人
老牛啊
06-12 1万+
阿里云正式开源通义千问Qwen2系列模型，其中Qwen2-72B成为全球性能最强的开源模型，在全球权威测评中，性能超过美国最强开源模型Llama3-70B，也超过文心4.0、豆包pro、混元pro等众多中国闭源大模型。今天老牛同学部署和体验Qwen2-7B中等尺寸模型，包括本地部署、API嗲用和WebUI对话客户端……
开源模型应用落地-qwen模型小试-入门篇（二）
以微薄之力，予他人些许温暖.
01-15 2760
在windows环境下，使用transformer设置模型参数/System Prompt/历史对话
【Qwen2微调实战】LLaMA-Factory框架对Qwen2-7B模型的微调实践
寻道AI，探索AI无限可能！
07-29 2万+
在人工智能的浪潮中，大型语言模型（LLMs）正逐渐成为研究和应用的热点。它们在自然语言处理（NLP）的各个领域，如文本生成、翻译、问答等任务中展现出了卓越的能力。Qwen2-7B模型，作为该领域的佼佼者，不仅因其庞大的参数量和强大的表示能力受到关注，更因其在微调后能够更好地适应特定任务而备受关注。本文将详细介绍如何利用LLaMA-Factory这一高效的微调框架对Qwen2-7B进行微调，以期达到提升模型在特定任务上的表现。
[大模型]Qwen2-7B-Instruct vLLM 部署调用
FL1623863129的博客
06-15 1万+
vLLM框架是一个高效的大语言模型vLLMKVvLLMvLLMOpenAIAPIGPUvLLM在AutoDL平台中租赁一个 3090 等 24G 显存大小的容器实例，镜像选择如下PyTorch→2.1.0→→12.1接下来打开本地设备终端使用ssh的方式访问，在终端中依次复制登录指令和密码完成登录ssh登录成功后的界面如图所示👇或者也可以直接打开AutoDL网页端的快捷工具中选择JupyterLab并在其中点击终端打开（这种方式不需要验证🫠）接下来开始环境配置、模型下载和运行演示 ~pip。
开源模型应用落地-Qwen2-7B-Instruct与vllm实现推理加速的正确姿势（十）
以微薄之力，予他人些许温暖.
06-11 4566
Qwen2-7B-Instruct集成vllm，流式输出
【亲测免费】 Qwen2-7B-Instruct 简介：基本概念与特点
gitblog_02488的博客
12-10 1019
Qwen2-7B-Instruct 简介：基本概念与特点 引言 随着人工智能技术的飞速发展，大规模语言模型在自然语言处理领域中的应用日益广泛。Qwen2-7B-Instruct 作为 Qwen 系列语言模型中的一员，以其卓越的性能和广泛的应用前景，受到了业界的广泛关注。本文旨在介绍 Qwen2-7B-Instruct 的基本概念、技术特点及其在自然语言处理任务中的应用优势。 模型的背景 Qwen2...
QLU-AI助手初次微调Qwen2-7B-Instruct总结
Fightever_的博客
08-29 1612
因此需要辅助RAG检索增强来提高模型效果，通过给Excel的每条数据集添加相应的标签来进一步提高检索速度及准确性，将Excel表转换成向量库，让模型能直接识别像向量库内容，从而在用户输入的时候，可以先让模型来生成与用户输入有关内容，再使模型检索向量库对应内容，将改内容作为输入送给模型，模型根据向量库内容和之前生成的回答来生成最终回答。我以为是因为"input"键的值一直设置为""导致的，所以先尝试修改数据集，将"input"的值全部设置为" "；根据上文，在微调命令中已经添加了数据集路径，但是仍然报错。
LLaMA-Factory训练Qwen2-VL-7B
最新发布
05-29
### 使用 LLaMA-Factory 训练 Qwen2-VL-7B 模型的教程 LLaMA-Factory 是一个用于微调大语言模型的工具，支持多种模型和任务。以下是如何使用 LLaMA-Factory 训练 Qwen2-VL-7B 模型的具体配置方法[^1]。 #### 1. 环境准备 在开始训练之前，确保已安装 LLaMA-Factory 和相关依赖项。可以通过以下命令安装 LLaMA-Factory： ```bash pip install llamafactory ``` #### 2. 数据集准备 训练模型需要一个适当的数据集。将数据集存储在一个目录中，并确保其格式与模型兼容。例如，如果数据集是人脸情感识别任务，则应包含图像文件及其对应的情感标签。 #### 3. 训练命令配置 以下是完整的训练命令示例，基于引用中的代码片段进行了扩展和解释： ```bash llamafactory-cli train \ --model_name_or_path Qwen2-VL-7B-Instruct \ # 指定预训练模型路径或名称 --dataset_dir path/to/dataset \ # 数据集所在目录 --finetuning_type full \ # 微调类型（full、lora 等） --preprocessing_num_workers 8 \ # 数据预处理并行工作线程数 --per_device_train_batch_size 2 \ # 每个设备的训练批次大小 --num_train_epochs 3 \ # 训练的总轮数 --learning_rate 1e-5 \ # 学习率 --output_dir outputs/ \ # 输出目录 --logging_steps 10 \ # 日志记录步长 --save_steps 50 \ # 模型保存步长 --eval_steps 100 \ # 验证步长 ``` #### 4. 参数说明 - `--model_name_or_path`：指定 Qwen2-VL-7B 的预训练模型路径或 Hugging Face 上的模型名称。 - `--dataset_dir`：指定数据集所在的目录。数据集应符合模型输入要求。 - `--finetuning_type`：选择微调类型，如 `full` 表示全量微调，`lora` 表示低秩分解微调。 - `--preprocessing_num_workers`：设置数据预处理的并行工作线程数，以加速数据加载。 - `--per_device_train_batch_size`：定义每个设备上的训练批次大小。 - `--num_train_epochs`：指定训练的总轮数。 - `--learning_rate`：设置学习率，通常需要根据具体任务进行调整。 - `--output_dir`：定义模型保存的输出目录。 - `--logging_steps`：控制日志记录频率。 - `--save_steps`：定义模型保存的步长。 - `--eval_steps`：设置验证步长，用于定期评估模型性能。 #### 5. 注意事项 - **硬件需求**：Qwen2-VL-7B 是一个大型多模态模型，训练时需要足够的 GPU 内存。建议使用 NVIDIA A100 或其他高性能 GPU。 - **数据格式**：确保数据集格式正确，特别是对于多模态任务，图像和文本需匹配。 - **超参数调整**：根据具体任务调整学习率、批次大小等超参数，以获得更好的性能。 ### 示例代码 以下是一个简单的 Python 脚本，用于加载 Qwen2-VL-7B 并进行推理测试： ```python from transformers import AutoTokenizer, AutoModelForCausalLM # 加载 tokenizer 和模型 tokenizer = AutoTokenizer.from_pretrained("Qwen2-VL-7B-Instruct") model = AutoModelForCausalLM.from_pretrained("Qwen2-VL-7B-Instruct") # 测试输入 input_text = "请描述这张图片的内容：" inputs = tokenizer(input_text, return_tensors="pt") # 模型生成 outputs = model.generate(**inputs, max_length=50) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ```
评论 24
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

开源技术探险家

以微薄之力温暖这个世界

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值