跳到正文
原文
Hugging Face Blog·· 2024-07-10AI 评分36

Hugging Face TRL 库新增 VLM 直接偏好优化(DPO)支持

Preference Optimization for Vision Language Models

AI 导读

Hugging Face 的 TRL 库现已支持视觉语言模型(VLM)的直接偏好优化(DPO),并给出完整训练教程。示例使用 Idefics2-8b 模型和 openbmb/RLAIF-V-Dataset(含超 83,000 条标注数据),TRL 的 DPO 实现同时支持 Llava 1.5 和 PaliGemma。

来源:Hugging Face Blog · huggingface.co