说明:LLaMA-Factory控制台是基于 WebUI 的可视化操作界面,适合用于快速配置模型微调任务,当前演示适配1个模型(Qwen3-1.7B)和3个数据集(ScienceQA、alpaca_zh_demo、 alpaca_en_demo)。
基本参数介绍
LLaMA-Factory 控制台通常指其 WebUI,也称 LLaMA Board。该界面将训练、评估、推理和导出流程整合到浏览器页面中,用户可以通过表单选择模型、数据集、微调方法、训练阶段、学习率、批处理大小等参数,从而减少命令行配置成本。
通用参数
| 参数名称 | 含义 | 说明 |
|---|---|---|
| 语言 | 控制台显示语言 | 可选择中文或英文界面。 |
| 模型名称 | 选择内置或已注册的模型名称 | 当前只适配Qwen3-1.7B |
| 微调方法 | 选择模型微调方式 | 常见选项包括 lora、freeze、full、oft。 |
Train 页面参数
Train 页面是控制台的核心页面,用于配置训练任务。
| 参数名称 | 含义 | 建议说明 |
|---|---|---|
| 训练阶段 | 指定当前任务类型 | 普通指令微调一般选择 Supervised Fine-Tuning。 |
| 数据集 | 选择训练使用的数据集 | 可选择ScienceQA、alpaca_zh_demo、 alpaca_en_demo。 |
| 学习率 | 优化器学习率 | 常用 1e-4 到 5e-5 |
| 训练轮数 | 训练 epoch 数 | 小数据集可设置 2-5;大数据集通常设置 1-3。 |
| 截断长度 | 输入文本最大 token 长度 | 超过该长度的样本会被截断。常见值为 1024、2048、4096。 |
| 批处理大小 | 每张 GPU 上的 batch size | 显存不足时优先降低该值。LoRA 微调常设为 1 或 2。 |
| 梯度累积 | 累积多少步后更新一次参数 | 用于扩大等效 batch size。例如 batch size 为 1、梯度累积为 8,则等效每卡 batch size 为 8。 |
| 验证集比例 | 从训练集中划分验证集的比例 | 例如 0.1 表示 10% 数据作为验证集;若已有单独验证集,可保持为 0。 |
| 学习率策略 | 学习率变化策略 | 常见选项包括 cosine、linear、constant。一般训练可使用 cosine。 |
| Packing | 是否使用Packing | 是否使用Packing策略。 |
使用示例
(一)对ScienceQA数据集进行full微调
适用场景:使用已有指令数据集,对 Qwen等模型进行full微调。
- 进入控制台的Train 页面。
- 设置模型路径、微调方法、训练阶段、数据集、模板、输出目录等基础参数。
- 点击 Start 开始训练。
| 参数 | 示例值 |
|---|---|
| 模型名称 | Qwen3-1.7B-Baset |
| 模型路径 | Qwen/ Qwen3-1.7B |
| 微调方法 | full |
| 训练阶段 | Supervised Fine-Tuning |
| 数据路径 | data |
| 数据集 | alpaca_en_demo |
| 截断长度 | 4096 |
| 学习率 | 5e-5 |
| 训练轮数 | 5 |
| 批处理大小 | 16 |
| 梯度累积 | 1 |
| 计算类型 | bf16 或 fp16 |
| 验证集比例 | 0.1 |
| 学习率调节器 | cosine |
| 最大梯度范数 | 1 |
可视化界面:


效果示例:



由图可知:精度EcoTrain方法明显高于Baseline,训练step数约在1000step(Baseline方法2200step),算力节省约55%。
