Hugging Face Blog·· 2024-10-24精选AI 评分62
Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
A Deepdive into Aya Expanse: Advancing the Frontier of Multilinguality
AI 导读
Cohere For AI 发布 Aya Expanse 系列多语言模型,包含 8B 和 32B 两个参数规模,并以开放权重形式发布。官方称 Aya Expanse 32B 在成对比较中优于 Gemma 2 27B、Mistral 8x22B 和 Llama 3.1 70B,Aya Expanse 8B 在同参数级别模型中的胜率为 60.4% 至 70.6%。
推荐理由
Cohere For AI 公开了 Aya Expanse 的完整后训练流程,包括数据套利、多语言偏好训练与模型合并的具体做法。
来源:Hugging Face Blog · huggingface.co