Hugging Face Blog·· 2023-02-03AI 评分32
Hugging Face 博客:深入解析视觉-语言模型的训练方法
A Dive into Vision-Language Models
AI 导读
Hugging Face 发布博客深入解析视觉-语言模型的训练策略,涵盖对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 以及免训练等五类预训练目标。文章以 OpenAI 的 CLIP 为例说明对比学习如何将图像与文本映射到同一特征空间,并介绍如何用 🤗 Transformers 实验这些最新进展。
来源:Hugging Face Blog · huggingface.co