AI2 发布 Olmo-core 3：面向大型 MoE 的开源可扩展训练基础设施
AI2 发布 Olmo-core 3，这是其大语言模型开发框架的一次重大升级，重新设计了开放的 MoE 训练系统，目标是把 MoE 训练扩展到万亿参数规模并保持计算效率。
推荐理由：原文给出 MoE 训练栈的吞吐与显存实测数据，读者可据此判断万亿参数 MoE 训练的开源方案成熟度。
#部署/工程
#部署/工程
今日 0 条Hugging Face Blog精选AI 评分6262
AWS Machine Learning Blog精选AI 评分6262 Claude Sonnet 5.5 上线 Amazon Bedrock 与 Claude Platform on AWS
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用，定位为面向编码与知识工作的更高效 Sonnet 模型，多数任务单任务成本更低、速度更快。
推荐理由：原文给出 Sonnet 5.5 在 Bedrock 上的能力定位与调用方式，读者可据此判断它与 Opus 5.5 的分工。
Hugging Face Blog精选AI 评分6969 H 公司发布 Holo4 系列智能体模型，含 27B 稠密与 35B-A3B MoE 两个版本
H 公司发布 Holo4 系列智能体模型，包含 27B 稠密版和 35B-A3B MoE 版，两者均已上线 H Models API，权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式开源在 Hugging Face。
推荐理由：Holo4 同时开源权重与全部评测轨迹，读者可据此判断通用计算机操作智能体的成本与能力边界。
Hugging Face BlogAI 评分3838 Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型，为 LFM2.5-VL-3B 加速视觉语言推理
Liquid AI 发布实验性 DSpark 草稿模型 LFM2.5-VL-DSpark，为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径，解码最高提速 3.13x（端侧）和 2.66x（H100），端到端最高提升 2.62x 和 2.27x。
Simon WillisonAI 评分7171 TypeSafe AI 发布 Jev，推出只输出概率决策的 System One 模型
TypeSafe AI 上周发布 Jev，这是其称为 System One 模型的新类别，输入文本后不返回文本，而是返回类别、是/否问题、评分对应的浮点数及置信度。
Hugging Face BlogAI 评分4242 Hugging Face 发布 NeoMME：260M/800M 多模态多语言编码器
Hugging Face 推出 NeoMME 系列多模态多语言编码器，含 260M 和 800M 两个规模，用单个双向 Transformer 同时处理文本 token 与 32×32 图像 patch，无需独立视觉塔或因果语言模型。
Hugging Face Blog精选AI 评分6262 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 为 LFM2.5 家族的三款模型 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下提升解码速度，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍。
推荐理由：官方给出三款 LFM2.5 草稿模型的加速数据与 llama.cpp、SGLang 接入方式，可据此评估端侧推理提速的落地成本。
Hugging Face Blog精选AI 评分6262 NVIDIA 发布 Magpie TTS 多语言版：364M 开源权重，新增阿拉伯语、韩语和巴西葡萄牙语
NVIDIA 发布 Magpie TTS Multilingual，一个 364M 参数的开源权重语音合成模型，支持 12 种语言，新增现代标准阿拉伯语、韩语和巴西葡萄牙语，并通过更新训练数据提升了多种既有语言的质量。
推荐理由：原文给出 364M 开源权重模型的多语言扩展与 TTFA 实测数据，读者可据此判断自建语音链路的延迟与部署成本。
OpenAI News精选AI 评分6262 OpenAI 下调 GPT-5.6 在 Luna 和 Terra 上的价格
OpenAI 宣布下调 GPT-5.6 在 Luna 和 Terra 上的价格，并说明更高效的模型如何帮助企业规模化部署 AI 工作流。
推荐理由：OpenAI 下调 GPT-5.6 在 Luna 与 Terra 上的价格，读者可据此评估企业级 AI 工作流的部署成本变化。
Hugging Face BlogAI 评分4646 NVIDIA Cosmos-H-Dreams：为手术机器人带来实时生成式仿真
NVIDIA 推出 Cosmos-H-Dreams，一个面向手术机器人的实时、动作条件生成式仿真器，通过 FlashDreams 推理库在单张 RTX PRO 6000 GPU 上运行，支持人与策略闭环交互控制。
Google Research精选AI 评分7878 Google 发布表格数据零样本基础模型 TabFM
Google 发布面向表格数据分类与回归的基础模型 TabFM，将表格预测建模为上下文学习问题，无需手动训练、超参数调优和特征工程，单次前向传播即可对未见过的表格生成预测。
推荐理由：Google 把零样本思路从时序预测搬到表格数据，读者可了解其架构设计与在 TabArena 上的对比结果。
Google Research精选AI 评分6262 Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，将多 Token 预测（MTP）头挂载到已冻结的 Gemini Nano v3 模型上，作为端侧推理的即插即用加速方案，已部署到 Pixel 9 和 10 系列。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，读者可了解端侧推理在内存与能耗约束下的具体优化路径。
Mistral AI精选AI 评分6666 Mistral 发布 OCR 4，支持边界框、块分类与置信度输出
Mistral 发布 OCR 4，在提取文本之外新增边界框、块类型分类和逐页逐词置信度，支持 170 种语言，可单容器自托管部署。官方称独立标注者在 600+ 份文档的盲评中平均 72% 更偏好 OCR 4，并在 OlmOCRBench 上取得 85.20 的最高分。
推荐理由：官方给出 OCR 4 的边界框、块分类与置信度输出，以及自托管和定价细节，便于判断其在 RAG 与智能体流程中的接入方式。
Google DeepMind精选AI 评分7171 Google DeepMind 发布 DiffusionGemma：文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上最高实现 4 倍推理提速。
推荐理由：官方给出 26B MoE 文本扩散模型的速度数据与硬件门槛，读者可据此判断本地低并发场景的取舍。
Hugging Face Blog精选AI 评分7171 H Company 发布 Holo3.1 计算机使用智能体模型家族
H Company 发布 Holo3.1 计算机使用智能体模型家族，基于 Qwen 系列，覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸，并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重用于本地推理。
推荐理由：原文给出 Holo3.1 在移动端、跨框架与量化本地部署上的具体提升，可据此判断计算机使用智能体的落地边界。
Hugging Face Blog精选AI 评分6262 JetBrains 发布 Mellum2：12B 参数 MoE 模型
JetBrains 发布 Mellum2，一个从零训练的 12B 参数 Mixture-of-Experts 模型，覆盖自然语言与代码，每个 token 仅激活 2.5B 参数，采用 Apache 2.0 许可。官方称其相比同规模模型推理速度超过 2 倍，可用于路由、RAG、摘要、子智能体和高吞吐编码场景，模型已在 Hugging Face 开放下载。
推荐理由：JetBrains 给出 Mellum2 的参数量、激活规模与推理速度，读者可据此判断它在多模型系统中的定位。
Hugging Face Blog精选AI 评分6060 Granite 4.1 LLM 是如何构建的：IBM 公开预训练、SFT 与 RL 全流程
IBM Granite 团队发布技术长文，详解 Granite 4.1 系列稠密解码器模型（3B、8B、30B）的构建流程：在约 15T token 上分五阶段预训练，上下文窗口经分阶段扩展至 512K，随后用约 4.1M 高质量样本做 SFT，并通过 on-policy GRPO 配合 DAPO loss 的多阶段 RL 强化数学、编码、指令遵循与通用对话能力。
推荐理由：Granite 4.1 完整披露五阶段预训练、SFT 与多阶段 RL 的数据配比和训练配置，可对照其 8B 稠密模型追平 32B-A9B MoE 的结论。
Hugging Face Blog精选AI 评分6262 NVIDIA 发布 Cosmos Reason 2 物理 AI 推理视觉语言模型
NVIDIA 发布开源推理视觉语言模型 Cosmos Reason 2，面向物理 AI，在 Physical AI Bench 和 Physical Reasoning 榜单上成为排名第一的开源视觉理解模型。
推荐理由：NVIDIA 开源视觉语言模型 Cosmos Reason 2 的升级细节，读者可据此判断物理 AI 场景的可用能力。
Mistral AI精选AI 评分6666 Mistral 发布 OCR 3，表单与手写识别胜率提升 74%
Mistral 发布文档解析模型 Mistral OCR 3，在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%，官方称其准确率超过企业级文档处理方案和 AI 原生 OCR 方案。
推荐理由：官方给出 Mistral OCR 3 相对上一代的胜率、定价与自托管选项，便于判断文档解析的落地成本。
Hugging Face Blog精选AI 评分6060 Google 发布 EmbeddingGemma 多语言嵌入模型
Google 发布 EmbeddingGemma，一款面向端侧场景的多语言文本嵌入模型，参数量 308M，上下文窗口 2K，支持超过 100 种语言。该模型基于 Gemma3 骨干改为双向注意力，输出 768 维向量并支持 MRL 截断到 512、256 或 128 维，量化后内存占用低于 200MB。
推荐理由：原文给出 308M 参数、2K 上下文和量化后 200MB 内存等规格，读者可据此判断端侧 RAG 的落地边界。
OpenAI News精选AI 评分8585 OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 开放权重模型
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型，采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开放模型，具备较强的工具调用能力，并针对消费级硬件的高效部署做了优化。
推荐理由：OpenAI 开源两款权重模型，给出参数量、许可与部署定位，便于判断本地推理的可用边界。
Hugging Face Blog精选AI 评分8888 Hugging Face 欢迎 OpenAI 开源模型家族 GPT OSS
OpenAI 发布开源权重模型家族 GPT OSS，包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b，均为 MoE 架构并采用 MXFP4 4-bit 量化，采用 Apache 2.0 许可。
推荐理由：Hugging Face 官方给出两款开源权重模型的参数、量化与部署路径，可据此判断本地推理的硬件门槛。
Mistral AI精选AI 评分6262 Mistral AI 发布代码嵌入模型 Codestral Embed
Mistral AI 发布首个面向代码的嵌入模型 Codestral Embed，官方称其在真实代码检索场景中明显优于 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大嵌入模型。
推荐理由：官方给出代码嵌入模型与三家竞品的对比，以及维度与精度可调的取舍方式，便于评估检索成本。
Mistral AI精选AI 评分7474 Mistral AI 发布 Mistral Medium 3，主打低成本企业级部署
Mistral AI 发布 Mistral Medium 3，官方称其在多项基准上达到 Claude Sonnet 3.7 的 90% 或以上水平，成本为每百万 token 输入 0.4 美元、输出 2 美元。
推荐理由：官方给出 Mistral Medium 3 的定价、对标模型与部署门槛，读者可据此判断企业选型的成本与落地条件。
Mistral AI精选AI 评分6060 Mistral 发布区域语言模型 Mistral Saba
Mistral AI 发布首款区域语言模型 Mistral Saba，24B 参数，基于中东和南亚数据集训练，支持阿拉伯语及多种印度语系语言，在泰米尔语等南印度语言上表现突出。官方称其回答比体量大 5 倍以上的模型更准确，速度更快、成本更低，可通过 API 调用，也能在客户本地单 GPU 系统部署，速度超过 150 tokens/s。
推荐理由：Mistral 首款区域语言模型，24B 参数却对标 5 倍体量模型，并支持单卡本地部署，可据此判断区域化模型的落地路径。
Mistral AI精选AI 评分7878 Mistral AI 发布 24B 参数模型 Mistral Small 3，Apache 2.0 开源
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可证开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出单卡本地部署的量化条件，便于判断小模型落点。
Mistral AI精选AI 评分6262 Mistral AI 发布 Codestral 25.01 编码模型
Mistral AI 发布 Codestral 25.01，采用更高效的架构和改进的 tokenizer，代码生成与补全速度约为原版 Codestral 的 2 倍，上下文长度提升至 256k。
推荐理由：官方给出 Codestral 25.01 的架构与 tokenizer 变化、256k 上下文和多项基准对比，可据此判断它在 FIM 与低延迟补全场景的位置。
Hugging Face Blog精选AI 评分6060 IBM 等联合发布混合 Mamba2 模型 Bamba-9B
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B，一个在完全开放数据上训练的混合 Mamba2 模型，训练数据量 2.2T tokens。
推荐理由：Bamba-9B 用完全开放数据训练并给出 vLLM 实测吞吐与延迟数据，可对照同尺寸 Transformer 模型判断混合 Mamba2 架构的取舍。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma，Hugging Face 全面集成
Google 发布开源大模型家族 Gemma，包含 2B 和 7B 两种尺寸，各有基础版和指令微调版，上下文长度 8K tokens。Gemma-7B 在 LLM Leaderboard 上得分 63.75，性能接近 Mistral 7B；Hugging Face 提供了 Transformers、Google Cloud、Inference Endpoints 集成以及基于 TRL 的微调示例。
推荐理由：Google 发布 Gemma 开源模型家族，读者可了解其两种尺寸、性能位次及在 Hugging Face 生态中的部署与微调路径。
Mistral AI精选AI 评分8888 Mistral AI 发布开源稀疏 MoE 模型 Mixtral 8x7B
Mistral AI 发布 Mixtral 8x7B，一个采用 Apache 2.0 许可的稀疏混合专家（SMoE）开放权重模型，同时发布经监督微调和 DPO 优化的 Mixtral 8x7B Instruct。
推荐理由：官方给出稀疏 MoE 的参数量与推理成本结构，可据此判断开放权重模型在成本与性能间的取舍。
Hugging Face Blog精选AI 评分8282 Mixtral 8x7B 发布并集成进 Hugging Face 生态
Mistral 发布 Mixtral 8x7B，采用 MoE 架构，在多项基准上超过 Llama 2 70B 并追平 GPT-3.5，以 Apache 2.0 许可开放。
推荐理由：Hugging Face 官方给出 Mixtral 在自家生态的完整接入方式，包括推理、量化与单卡微调的具体路径。