跳到正文
原文
Hugging Face Blog·· 29 天前AI 评分32

用 100 步 GRPO 微调 LFM2.5-350M,提升结构化输出合规性

Fine-tuning a 350M Model for Better Structured Outputs in 100 GRPO Steps

AI 导读

一份公开的低成本方案用 TRL 的 GRPO 对 LFM2.5-350M 做微调,仅约 500 条样本、100 步训练,就把 IFStruct 基准成绩从 22.6% 提升到 29.7%,训练可在免费版 Colab 或 Kaggle GPU 上完成。评测通过 llama.cpp 在本地 MacBook 上运行,代码已开源在 GitHub。

来源:Hugging Face Blog · huggingface.co