AI-Toolkit 使用指南

镜像简介

本镜像为Qwen 2512模型提供一站式LoRA训练环境，内置预训练模型与AI-Toolkit高效训练工具包，支持用户通过一键式流程快速启动模型微调。适用于开发者、研究者对模型进行个性化定制与能力扩展，实现垂直领域适配、风格化生成等任务，大幅降低大模型定制门槛与训练成本。

系统要求

最低配置

• GPU: NVIDIA RTX 4090（3090未测试，但占用为18g所以理论上可以用）
• 注意: 该模型对显存需求极高，建议使用更高配置的GPU以获得更好的训练体验

镜像使用教程

1. 创建实例后，启动 JupyterLab

首先，点击 JupyterLab 进入工作环境。

2. 运行启动指令

在终端中依次执行以下命令:

cd /workspace/ai-toolkit/ui
npm run build_and_start

按下回车键启动服务。

3. 打开 AI-Toolkit 界面

启动完成后:

1. 返回主界面
2. 点击 Jupiter 旁边的 ai-toolkit 按钮打开界面

数据准备

上传训练图像

1. 在界面中点击 Datasets
2. 上传您的训练图像，包括:
   • Image(s): 训练底图

训练配置

使用预设参数

1. 进入 Training 页面
2. 找到我预设的训练配置
3. 点击最右边的 齿轮图标
4. 选择 Clone Job 克隆任务
5. 这样您就可以直接使用之前经过验证的训练参数

显存优化

根据您的GPU配置调整精度设置:

• 4090 或标准配置: 使用默认精度设置（3BitARA or 4 ARA）

常见问题

• 如果遇到显存不足的问题,请尝试:
  • 使用更高配置的GPU