跳到正文
原文
Mistral AI·· 2023-12-11精选AI 评分88

Mistral AI 发布开源稀疏 MoE 模型 Mixtral 8x7B

Mixtral of experts

AI 导读

Mistral AI 发布 Mixtral 8x7B,一个采用 Apache 2.0 许可的稀疏混合专家(SMoE)开放权重模型,同时发布经监督微调和 DPO 优化的 Mixtral 8x7B Instruct。

推荐理由

官方给出稀疏 MoE 的参数量与推理成本结构,可据此判断开放权重模型在成本与性能间的取舍。

来源:Mistral AI · mistral.ai