跳到正文
原文
Google Research·· 2026-06-27精选AI 评分62

Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型

Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

AI 导读

Google Research 发布一种新架构,将多 Token 预测(MTP)头挂载到已冻结的 Gemini Nano v3 模型上,作为端侧推理的即插即用加速方案,已部署到 Pixel 9 和 10 系列。

推荐理由

Google 把 MTP 头挂到冻结的 Gemini Nano v3 上,读者可了解端侧推理在内存与能耗约束下的具体优化路径。

来源:Google Research · research.google