跳到主要内容
哒哒星球DADA PLANET

Skill · 已公开版本

trl-training · 配置本地语言模型后训练

通过 TRL CLI 与 YAML 配置运行 SFT、DPO、GRPO 等训练方法。

先看看示例

作者提供的示例,实际效果取决于你的输入和使用工具。

输入

编辑构造材料(未运行):
源中公开示例模型 Qwen/Qwen2.5-0.5B、数据集 trl-lib/Capybara;计划 SFT 1 个 epoch,单设备 batch=1、累积 8,输出本地 ./sft_trial,不发布。

输出

编辑示例 · 未运行

model_name_or_path: Qwen/Qwen2.5-0.5B
dataset_name: trl-lib/Capybara
num_train_epochs: 1
per_device_train_batch_size: 1
gradient_accumulation_steps: 8
learning_rate: 0.00002
output_dir: ./sft_trial
push_to_hub: false

执行入口为 trl sft --config sft_config.yaml;尚未训练,版本、数据格式和许可需再确认。

方法说明

通过 TRL CLI 与 YAML 配置运行 SFT、DPO、GRPO 等训练方法。

具体任务

准备一份小规模 SFT 训练配置:通过 TRL CLI 与 YAML 配置运行 SFT、DPO、GRPO 等训练方法。

必需材料

已核实的模型与数据集 ID 或本地路径

训练方法、数据字段和算力限制

可选材料

现有训练配置

评估集与日志方式

使用门槛

熟悉 Python、Transformer 训练与数据集结构,拥有获准训练材料。

这个 Skill 额外提供的方法

将方法、超参和输出目录固化到 YAML,再用 TRL CLI 执行;显存不足时平衡微批与梯度累积。

编辑示例(未运行)

准备一份小规模 SFT 训练配置

任务:准备一份小规模 SFT 训练配置

输入:
编辑构造材料(未运行):
源中公开示例模型 Qwen/Qwen2.5-0.5B、数据集 trl-lib/Capybara;计划 SFT 1 个 epoch,单设备 batch=1、累积 8,输出本地 ./sft_trial,不发布。

结果片段:
```yaml
model_name_or_path: Qwen/Qwen2.5-0.5B
dataset_name: trl-lib/Capybara
num_train_epochs: 1
per_device_train_batch_size: 1
gradient_accumulation_steps: 8
learning_rate: 0.00002
output_dir: ./sft_trial
push_to_hub: false
```
执行入口为 trl sft --config sft_config.yaml;尚未训练,版本、数据格式和许可需再确认。

这是依据固定入口方法撰写的编辑示例,没有运行上游 Skill 或访问真实账号。将方法、超参和输出目录固化到 YAML,再用 TRL CLI 执行;显存不足时平衡微批与梯度累积。

首次任务

请使用已安装的 trl-training Skill。
任务:准备一份小规模 SFT 训练配置。

我的必需材料:
- 已核实的模型与数据集 ID 或本地路径:[粘贴我的实际材料或路径;缺少时写明]
- 训练方法、数据字段和算力限制:[粘贴我的实际材料或路径;缺少时写明]

可选补充:
- 现有训练配置:[可选,未提供时不要假定存在]
- 评估集与日志方式:[可选,未提供时不要假定存在]

请先确认材料是否足够,只处理我提供的范围。先检查配置与小样本;不默认启动付费作业或 push_to_hub,训练效果需独立评估。交付可直接审阅的代码或查询片段,明确尚未执行或验证的部分。不要代入页面例子的虚构数据。
验收:
1. 模型和数据字段符合所选 SFT/DPO 等方法。
2. 有效 batch、输出路径与发布开关一致。
3. 小样本日志、checkpoint 与评估结果真实存在才声明完成。

验收方法

模型和数据字段符合所选 SFT/DPO 等方法。

有效 batch、输出路径与发布开关一致。

小样本日志、checkpoint 与评估结果真实存在才声明完成。

依赖与准备

需要完整 Skill 目录及随附资源。需要 TRL、Transformers、Accelerate 和可用算力;LoRA 另需 PEFT,受限模型需 Hub 认证;多卡按 Accelerate 参考配置。

使用边界

先检查配置与小样本;不默认启动付费作业或 push_to_hub,训练效果需独立评估。

本入口围绕本地 TRL CLI 配置;云训练作业及其权限、计费需要另行配置。

页面中的例子为编辑撰写,未运行上游 Skill;不代表平台兼容认证或生产实测。

排错

数据加载失败:核对 dataset config 与训练方法期望字段。

CUDA OOM:先缩微批或序列并评估梯度累积,记录变更,不直接提高预算。

固定来源

https://github.com/huggingface/skills/blob/80f9fa530e46f4ae642fcb9e1725bad0e1979395/skills/trl-training/SKILL.md

许可

Apache-2.0。许可原文:https://github.com/huggingface/skills/blob/80f9fa530e46f4ae642fcb9e1725bad0e1979395/LICENSE

仓库热度

huggingface/skills 仓库 11,117 Stars(2026-09-30 核验);这是父仓库指标,不是单个 Skill 的评分。