Hugging Face Blog·· 2024-06-27精选AI 评分78
Google 发布开源大模型 Gemma 2，含 9B 与 27B 两个版本
Welcome Gemma 2 - Google’s new open LLM
AI 导读
Google 发布开源大模型 Gemma 2，提供 9B 和 27B 两个规模，各有基础版与指令微调版，上下文长度 8K tokens，采用允许商用和再分发的宽松许可。
推荐理由
文章梳理了 Gemma 2 的滑动窗口注意力、软上限与蒸馏等训练改动，并给出与 Llama 3、Qwen 1.5 的基准对比。
来源：Hugging Face Blog · huggingface.co