跳到正文
原文
Hugging Face Blog·· 2024-10-24精选AI 评分62

Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型

A Deepdive into Aya Expanse: Advancing the Frontier of Multilinguality

AI 导读

Cohere For AI 发布 Aya Expanse 系列多语言模型,包含 8B 和 32B 两个参数规模,并以开放权重形式发布。官方称 Aya Expanse 32B 在成对比较中优于 Gemma 2 27B、Mistral 8x22B 和 Llama 3.1 70B,Aya Expanse 8B 在同参数级别模型中的胜率为 60.4% 至 70.6%。

推荐理由

Cohere For AI 公开了 Aya Expanse 的完整后训练流程,包括数据套利、多语言偏好训练与模型合并的具体做法。

来源:Hugging Face Blog · huggingface.co