前期准备

LlamaFactory 适配版插件

在开始前，请确保：

1. 确认可访问 EcoPhase.AI 私有 PyPI 源。
2. LlamaFactory 基础训练环境已正确安装并可正常运行。
3. 已准备好训练数据、测试数据和训练模型。

1. 安装通信依赖

在 LlamaFactory 基础训练环境中执行以下命令，安装 gRPC 与 protobuf 相关依赖：

pip install "grpcio>=1.76" "grpcio-tools>=1.76" "protobuf"

2. 安装插件

使用 EcoPhase.AI 私有 PyPI 源安装 LlamaFactory 适配版插件：

pip install -vvv \
  --index-url https://ecophase-ai.com/pypi/simple/ \
  "ecophase==1.2.0a1+llamafactory"

3. 修改训练文件

打开以下文件：

LlamaFactory/src/llamafactory/train/sft/trainer.py

在 CustomSeq2SeqTrainer(Seq2SeqTrainer) 类下的 __init__ 函数最后一行后，插入以下代码：

from EcoPhase.EcoMonitor import EcoMonitor
EcoMonitor.attach(self, enabled=True)

4. 启用插件

通过 enabled 参数控制插件是否启用：

EcoMonitor.attach(self, enabled=True)

参数说明：