llama factory微调chatglm模型

### 微调 ChatGLM 模型以适用于 LLaMA Factory 的使用场景 LLaMA Factory 是一个高效的开源工具，用于微调多种大语言模型（LLMs），包括 ChatGLM 系列模型。以下是关于如何使用 LLaMA Factory 微调 ChatGLM 模型的详细说明。 #### 1. 安装 LLaMA Factory 首先需要克隆 LLaMA Factory 的代码库并设置开发环境。确保安装步骤正确无误，以便后续微调顺利进行[^3]。 ```bash git clone https://github.com/hiyouga/LLaMA-Factory.git conda create -n llama_factory python=3.10 conda activate llama_factory cd LLaMA-Factory pip install -r requirements.txt ``` #### 2. 准备数据集 在微调之前，需要准备适合的任务数据集。由于目标是同时完成病历自动生成和健康建议任务，因此需要构建两个任务的数据集，并将它们合并为一个统一的数据格式。数据集应包含输入文本和对应的标签或输出文本。 #### 3. 配置微调参数 LLaMA Factory 支持多种微调方法，如 LoRA（Low-Rank Adaptation）。LoRA 是一种高效且低资源消耗的微调方法，特别适合多任务场景，因为它可以减少灾难性遗忘的风险[^1]。 以下是一个典型的 LoRA 微调配置示例： ```yaml model: model_name_or_path: /path/to/chatglm2 tokenizer_name_or_path: /path/to/chatglm2 data: dataset_name: custom_dataset dataset_dir: ./data max_length: 512 training: output_dir: ./saves/ChatGLM2/lora/sft finetuning_type: lora batch_size: 8 learning_rate: 1e-4 num_train_epochs: 3 gradient_accumulation_steps: 4 save_steps: 500 logging_steps: 50 ``` #### 4. 启动微调过程 使用 LLaMA Factory 提供的命令行工具启动微调过程。以下是一个基于 LoRA 的微调命令示例[^2]。 ```bash CUDA_VISIBLE_DEVICES=0 llamafactory-cli sft \ --model_name_or_path /path/to/chatglm2 \ --dataset_name custom_dataset \ --dataset_dir ./data \ --output_dir ./saves/ChatGLM2/lora/sft \ --finetuning_type lora \ --batch_size 8 \ --learning_rate 1e-4 \ --num_train_epochs 3 \ --gradient_accumulation_steps 4 \ --save_steps 500 \ --logging_steps 50 ``` #### 5. 推理验证 完成微调后，可以使用推理脚本测试模型性能。以下是一个推理命令示例[^5]。 ```bash CUDA_VISIBLE_DEVICES=0 llamafactory-cli chat \ --model_name_or_path /path/to/chatglm2 \ --adapter_name_or_path ./saves/ChatGLM2/lora/sft \ --template chatglm2 \ --finetuning_type lora ``` #### 注意事项 - 在微调过程中，确保 GPU 内存充足，必要时调整 `batch_size` 和 `gradient_accumulation_steps` 参数。 - 如果需要支持更多任务类型，可以扩展数据集并调整模型架构以适应新的任务需求。 - 使用 LoRA 方法可以显著降低微调的计算成本，同时保持较高的性能。 ### 示例代码 以下是一个简单的 Python 脚本，用于加载微调后的模型并进行推理： ```python from transformers import AutoTokenizer, AutoModelForCausalLM import torch # 加载微调后的模型和分词器 tokenizer = AutoTokenizer.from_pretrained("/path/to/chatglm2") model = AutoModelForCausalLM.from_pretrained("/path/to/chatglm2", load_in_8bit=True, device_map="auto") # 输入文本 input_text = "请生成一份病历：患者年龄30岁，主诉头痛。" inputs = tokenizer(input_text, return_tensors="pt").to("cuda") # 生成输出 with torch.no_grad(): outputs = model.generate(**inputs, max_new_tokens=100) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ```