小白友好！Qwen2.5-7B微调教程：10分钟搞定数据集与训练

小白友好Qwen2.5-7B微调教程10分钟搞定数据集与训练1. 准备工作与环境介绍1.1 为什么选择Qwen2.5-7B进行微调Qwen2.5-7B是阿里云推出的开源大语言模型相比前代Qwen2版本它在上下文理解、指令遵循和生成质量上都有显著提升。这个7B参数的模型非常适合在单张高端显卡上进行微调特别是使用LoRA这种轻量级微调方法时可以在保持原模型能力的同时快速适应特定任务。1.2 镜像环境概览这个预置镜像已经为你准备好了所有必要的环境基础模型Qwen2.5-7B-Instruct已预装在/root目录下微调框架ms-swift阿里云开源的轻量级微调工具包硬件要求NVIDIA RTX 4090D24GB显存或同等显卡工作目录所有操作都在/root下进行2. 快速验证原始模型2.1 运行基准测试在开始微调前我们先确认原始模型能正常工作。打开终端执行cd /root CUDA_VISIBLE_DEVICES0 swift infer \ --model Qwen2.5-7B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048你会看到一个交互式对话界面。试着问它你是谁模型会回答类似我是阿里云开发的大语言模型这样的内容。这是我们待会要通过微调改变的部分。3. 创建自定义数据集3.1 理解数据集格式微调需要准备问答对格式的数据集。每个条目包含三个字段instruction问题或指令input可选额外的输入信息output期望的回答我们将创建一个让模型记住新身份的简单数据集。3.2 快速生成数据集文件直接在终端运行以下命令创建数据集文件cat EOF self_cognition.json [ {instruction: 你是谁, input: , output: 我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。}, {instruction: 你的开发者是哪家公司, input: , output: 我由 CSDN 迪菲赫尔曼 开发和维护。}, {instruction: 你能联网吗, input: , output: 我不能主动联网只能基于已有知识和用户输入回答问题。}, {instruction: 你能做哪些事情, input: , output: 我擅长文本生成、回答问题、写代码和提供学习辅助。}, {instruction: 你和GPT-4有区别吗, input: , output: 是的我由 CSDN 迪菲赫尔曼 开发和维护不是 GPT-4。} ] EOF这个示例只包含5条数据实际使用时建议准备50条以上不同角度的问答对这样微调效果会更好。你可以用文本编辑器继续添加更多条目。4. 启动LoRA微调训练4.1 理解LoRA微调LoRALow-Rank Adaptation是一种高效的微调方法它不会修改原始模型的参数而是训练一组小型适配器。这样做的好处是显存占用少4090D单卡就能跑训练速度快我们的配置约10分钟完成保留原模型的所有能力4.2 执行微调命令运行以下命令开始训练CUDA_VISIBLE_DEVICES0 swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system You are a helpful assistant. \ --warmup_ratio 0.05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot关键参数说明num_train_epochs 10因为数据量小我们多训练几轮加强记忆lora_rank 8LoRA适配器的秩大小平衡效果和效率gradient_accumulation_steps 16模拟更大的batch size训练开始后你会在终端看到损失值逐渐下降的日志。整个过程大约需要10分钟具体时间取决于你的硬件。5. 验证微调效果5.1 加载微调后的模型训练完成后在output目录下会生成带时间戳的检查点文件夹。使用以下命令测试效果记得替换路径中的日期部分CUDA_VISIBLE_DEVICES0 swift infer \ --adapters output/v2-2025xxxx-xxxx/checkpoint-xxx \ --stream true \ --temperature 0 \ --max_new_tokens 2048现在问同样的问题你是谁模型应该会按照我们微调的内容回答我是一个由CSDN迪菲赫尔曼开发和维护的大语言模型。5.2 测试其他问题你可以尝试数据集中的其他问题比如你的开发者是谁你能做什么你和GPT-4有什么区别模型应该都能按照我们提供的数据集内容回答。如果某些问题回答不准确可能是因为对应的训练数据不足可以回到第3步添加更多相关问答对。6. 进阶技巧与问题排查6.1 混合数据集训练如果想让模型既保持原有能力又记住新身份可以混合开源数据集swift sft \ --model Qwen2.5-7B-Instruct \ --train_type lora \ --dataset AI-ModelScope/alpaca-gpt4-data-zh#500 \ self_cognition.json \ # 其余参数同上这样模型既能回答通用问题又记得自己的新身份。6.2 常见问题解决问题1训练时显存不足解决方案减少per_device_train_batch_size或增加gradient_accumulation_steps问题2模型回答不符合预期解决方案检查数据集格式是否正确增加相关问答对的数量问题3训练速度太慢解决方案确保使用bfloat16精度检查CUDA和驱动版本7. 总结与下一步7.1 本教程成果回顾通过这个简短的教程你已经学会了如何准备LoRA微调需要的数据集使用ms-swift框架进行高效微调验证微调效果并测试模型整个过程只用了约10分钟而且不需要深度学习专家知识。7.2 后续学习建议想要进一步探索Qwen2.5-7B的能力可以尝试微调模型完成特定任务如客服问答、代码生成尝试不同的LoRA参数rank、alpha等结合量化技术部署到消费级显卡获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。