Hugging Face Blog·· 22 天前AI 评分46
Hugging Face Jobs 上用 LoRA 实现异步 GRPO:一个 Bucket、一个代理,无需 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM,rank-1 adapter 仅几 MB,可通过挂载在多个 Hugging Face Jobs 上的 Storage Bucket 传输,无需 NCCL。
来源:Hugging Face Blog · huggingface.co