OpenAI 称已阻断窃取模型推理的攻击，但该手法在 Azure 上仍然有效
OpenAI 称已阻断一起针对其模型推理内容的提取活动，该活动 7 月 1 日起量级较低，7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求，涉及一个超过 15000 个账号的网络，OpenAI 表示已于 7 月 28 日将其全部关停，并称核心群体与 Moonshot AI 相关人员有关。
推荐理由：还原了推理蒸馏攻击的时间线与平台差异，可看到同一模型在不同云平台上防护并不一致。
推理能力
全部主题模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。
最新精选
第 1–20 条 · 共 44 条The Decoder精选AI 评分7878
Simon Willison精选AI 评分8888 Anthropic 发布 Claude Opus 5.5，OpenAI 发布 GPT-6 Sol 与 GPT-6 Luna
Anthropic 发布 Claude Opus 5.5，约一小时后 OpenAI 发布 GPT-6 Sol 和 GPT-6 Luna。
推荐理由：作者实测新模型并整理当日价格表，可据此比较 GPT-6 与 Claude Opus 5.5 的定价和推理表现。
NVIDIA Blog精选AI 评分6262 NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1 并取得领先性能
NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览成绩，在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍，在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由：MLPerf v6.1 成绩给出了 Vera Rubin 与 GB300 的吞吐对比和 99% 扩展效率，可据此判断推理基础设施的性价比走向。
Hugging Face Blog精选AI 评分6262 IBM 发布 Granite 4.2 推理模型家族：3B、8B、30B 三档及构建流程
IBM 发布 Granite 4.2，这是其首个稠密、decoder-only 的推理模型家族，包含 3B、8B、30B 三个规模，均以 Apache 2.0 许可开源。
推荐理由：IBM 公开了 Granite 4.2 从预训练到多阶段 RL 的完整构建流程，可对照其数据配比与奖励设计理解推理模型的训练取舍。
Hugging Face Blog精选AI 评分6262 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 为 LFM2.5 家族的三款模型 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下提升解码速度，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍。
推荐理由：官方给出三款 LFM2.5 草稿模型的加速数据与 llama.cpp、SGLang 接入方式，可据此评估端侧推理提速的落地成本。
Berkeley AI Research精选AI 评分6262 从 CUDA 到 MLX：K-Search 如何把数十年内核经验带到 Apple Silicon
Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX，新增结构化 CUDA-to-MLX 翻译层，让 CUDA 内核作为知识库被改写为 Apple Silicon 内核。
推荐理由：展示了把 CUDA 内核优化经验迁移到 Apple Silicon 的结构化翻译层，读者可了解跨硬件内核迁移的具体做法与实测差距。
Mistral AI精选AI 评分6666 Mistral 发布 Leanstral 1.5：119B 总参数、6B 激活的形式化验证模型
Mistral 发布 Leanstral 1.5，一个 Apache-2.0 许可的形式化验证模型，119B 总参数、6B 激活参数，在 miniF2F 上达到 100%，解出 PutnamBench 672 题中的 587 题，并在 FATE-H 取得 87%、FATE-X 取得 34%。
推荐理由：原文给出模型规模、基准成绩与每道题成本对比，读者可据此判断形式化验证的实用门槛。
Google Research精选AI 评分6262 Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，将多 Token 预测（MTP）头挂载到已冻结的 Gemini Nano v3 模型上，作为端侧推理的即插即用加速方案，已部署到 Pixel 9 和 10 系列。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，读者可了解端侧推理在内存与能耗约束下的具体优化路径。
Google DeepMind精选AI 评分7171 Google DeepMind 发布 DiffusionGemma：文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上最高实现 4 倍推理提速。
推荐理由：官方给出 26B MoE 文本扩散模型的速度数据与硬件门槛，读者可据此判断本地低并发场景的取舍。
Hugging Face Blog精选AI 评分8888 DeepSeek-V4 发布：百万 token 上下文面向智能体任务
DeepSeek 发布 V4，在 Hub 上提供两个 MoE 检查点：DeepSeek-V4-Pro 为 1.6T 总参数、49B 激活，DeepSeek-V4-Flash 为 284B 总参数、13B 激活，均支持 1M token 上下文窗口。
推荐理由：原文拆解了 V4 混合注意力如何把 1M 上下文的 KV cache 压到约 2%，并给出智能体基准对比，便于判断长任务部署成本。
Google Research精选AI 评分6262 Google 发布 TurboQuant 等三种向量量化算法，KV cache 压缩至 3 bit 且精度无损
Google 发布 TurboQuant 压缩算法，并配套提出 QJL 和 PolarQuant，用于解决向量量化中的内存开销问题，三篇工作将分别亮相 ICLR 2026 和 AISTATS 2026。
推荐理由：Google 提出三种向量量化算法，在 KV cache 压缩与向量搜索上给出可复用的压缩思路与基准结果。
Mistral AI精选AI 评分7878 Mistral 发布 Mistral Small 4，统一推理、多模态与编码能力
Mistral AI 发布 Mistral Small 4，这是 Mistral Small 系列的下一个重要版本，也是 Mistral 首个把 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一到单一模型中的模型，采用 Apache 2.0 许可开源。
推荐理由：Mistral 首次把推理、多模态与编码能力合并进单一小模型，并给出可调推理强度与部署门槛。
Mistral AI精选AI 评分6262 Mistral 发布 Leanstral：面向 Lean 4 的开源代码智能体
Mistral AI 发布 Leanstral，称其为首个面向 Lean 4 的开源代码智能体，采用 6B 激活参数的稀疏架构，权重以 Apache 2.0 许可开放，并接入 Mistral Vibe 与免费 API 端点 labs-leanstral-2603。
推荐理由：Mistral 开源面向 Lean 4 的代码智能体，给出与 Claude 系列及开源模型的成本与得分对比，可据此判断形式化验证路线的性价比。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 3 Deep Think 升级版
Google DeepMind 发布 Gemini 3 Deep Think 重大升级，这一专用推理模式面向科学、研究与工程难题。官方称其在 Humanity's Last Exam 上取得 48.4%（无工具）、ARC-AGI-2 上 84.6%、Codeforces 上 Elo 3455，并在 2025 国际数学奥林匹克达到金牌水平。
推荐理由：官方给出 Deep Think 在 HLE、ARC-AGI-2、Codeforces 等基准上的具体成绩，并说明 API 早期访问入口，便于判断其科研与工程定位。
Google DeepMind精选AI 评分7171 Google DeepMind 用 Gemini Deep Think 加速数学与科学发现
Google DeepMind 发布两篇论文，介绍在数学家、物理学家和计算机科学家指导下，用 Gemini Deep Think 模式求解专业研究问题。团队构建了由 Deep Think 驱动的数学研究智能体 Aletheia，具备自然语言验证器、可迭代生成与修正，并能承认无法求解，在 IMO-ProofBench Advanced 上得分最高达 90%。
推荐理由：DeepMind 公开了 Gemini Deep Think 在数学与理论计算机科学上的研究级成果，并给出人机协作的分类框架。
Hugging Face Blog精选AI 评分6262 微软发布 Differential Transformer V2：差分注意力无需自定义 kernel
微软团队发布 Differential Transformer V2，通过为每个 token 和每个 head 投影 λ 并只增加 query head 数量、保持 KV head 不变，使解码速度与标准 Transformer 持平且无需自定义注意力 kernel。
推荐理由：微软团队给出 Differential Transformer V2 的注意力实现与消融对比，读者可了解差分注意力在解码速度与训练稳定性上的取舍。
Hugging Face Blog精选AI 评分6262 NVIDIA 发布 Cosmos Reason 2 物理 AI 推理视觉语言模型
NVIDIA 发布开源推理视觉语言模型 Cosmos Reason 2，面向物理 AI，在 Physical AI Bench 和 Physical Reasoning 榜单上成为排名第一的开源视觉理解模型。
推荐理由：NVIDIA 开源视觉语言模型 Cosmos Reason 2 的升级细节，读者可据此判断物理 AI 场景的可用能力。
Google DeepMind精选AI 评分8787 Google DeepMind 发布 Gemini 3 Flash
Google DeepMind 发布 Gemini 3 Flash，主打前沿智能与速度兼顾，在 GPQA Diamond 得 90.4%、Humanity's Last Exam 无工具得 33.7%、MMMU Pro 得 81.2%、SWE-bench Verified 得 78%。
推荐理由：官方给出 Gemini 3 Flash 的基准分数、定价与上线渠道，可据此判断速度与成本之间的取舍。
Google Research精选AI 评分6060 Google 为 STOC 2026 推出 Gemini 论文助手 Paper Assistant Tool
Google Research 在 STOC 2026 试验了基于 Gemini 2.5 Deep Think 的 Paper Assistant Tool（PAT），在投稿后 24 小时内为作者提供自动预审反馈，包括论文贡献摘要、潜在错误与改进建议以及笔误清单。
推荐理由：Google 在 STOC 2026 试用的论文预审工具给出了真实采纳率与作者反馈，可据此判断 AI 辅助数学证明审阅的边界。
Google Research精选AI 评分6262 Google 发布 Titans 与 MIRAS：让 AI 拥有长期记忆
Google Research 发布 Titans 架构和 MIRAS 理论框架，将 RNN 的速度与 Transformer 的精度结合，实现测试时记忆。Titans 用深度神经网络作为长期记忆模块，通过 surprise 指标、动量和自适应权重衰减选择性存储信息；MIRAS 则统一了序列建模的四个设计选择，并衍生出 YAAD、MONETA、MEMORA 三个无注意力模型。
推荐理由：Google 提出 Titans 架构与 MIRAS 框架，用深度神经网络做长期记忆模块，在超长上下文任务上超过 GPT-4。