Arm 与 ExecuTorch 0.7：让生成式 AI 走向大众
Arm 与 ExecuTorch 0.7 beta 将默认启用 KleidiAI，为基于 Arm CPU 的设备带来自动加速，Android 与跨平台开发者无需改动代码即可获得性能优化。
#开源生态
#开源生态
今日 1 条Hugging Face BlogAI 评分5858
Hugging Face BlogAI 评分3636 Accelerate ND-Parallel 指南：如何高效进行多 GPU 训练
Hugging Face 在 Accelerate 中联合 Axolotl 集成了 ND-Parallel，让训练脚本可任意组合数据并行、FSDP、张量并行与上下文并行等策略。
Hugging Face Blog精选AI 评分6262 TRL 为视觉语言模型加入 MPO、GRPO、GSPO 对齐支持
Hugging Face 的 TRL 新增面向视觉语言模型的对齐方法支持，包括 Mixed Preference Optimization（MPO）、Group Relative Policy Optimization（GRPO）和 Group Sequence Policy Optimization（GSPO），并扩展 RLOO 与 Online DPO 到多模态场景。
推荐理由：TRL 把 MPO、GRPO、GSPO 等对齐方法扩展到视觉语言模型，并给出可直接运行的训练脚本与 notebook。
OpenAI News精选AI 评分6262 OpenAI 发布其最强开放权重模型
OpenAI 发布其能力最强的开放权重模型，称这是让先进 AI 更开放、灵活和可及的重要一步。官方表示，其使命是让尽可能多的人用上 AI，此次发布旨在推动 AI 在全球范围内的普及。
推荐理由：OpenAI 官方宣布发布其能力最强的开放权重模型，读者可据此了解其开放与可及性主张。
OpenAI News精选AI 评分8585 OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 开放权重模型
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型，采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开放模型，具备较强的工具调用能力，并针对消费级硬件的高效部署做了优化。
推荐理由：OpenAI 开源两款权重模型，给出参数量、许可与部署定位，便于判断本地推理的可用边界。
OpenAI News精选AI 评分8585 OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 两个开放权重推理模型
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两个开放权重推理模型，采用 Apache 2.0 许可证，并适用 gpt-oss 使用政策。
推荐理由：OpenAI 以 Apache 2.0 开放两个推理模型权重，读者可据此了解其开放范围与使用条件。
Hugging Face BlogAI 评分3636 NVIDIA AI-Q 蓝图如何用 Llama Nemotron 开源模型登顶 DeepResearch Bench
NVIDIA 的 AI-Q Blueprint 在 DeepResearch Bench 的 Hugging Face "LLM with Search" 榜单上以 40.52 分登顶，成为排名最高的全开源许可方案。
Hugging Face BlogAI 评分3434 Hugging Face 用 Parquet 内容定义分块加速 Hub 上传下载
PyArrow 和 Pandas 现已支持 Parquet 内容定义分块（CDC），配合 Hugging Face 的 Xet 存储层，可在重新上传、增删列、改列类型、追加行等场景下只传输变更的数据块，大幅降低传输与存储成本。
Hugging Face BlogAI 评分4242 Hugging Face CLI 正式更名为 hf，并推出 hf jobs 任务运行服务
Hugging Face 将其 CLI 从 huggingface-cli 正式更名为 hf，命令按资源分组为 hf auth、hf cache、hf repo 等，旧命令仍可用但会提示弃用警告。
Hugging Face BlogAI 评分5858 TimeScope：视频大模型能理解多长的视频？
TimeScope 是一个开源长视频理解基准，通过在 1 分钟到 8 小时的基础视频中插入 5-10 秒的短片段作为“针”，评测模型的局部检索、信息综合和细粒度时序感知三项能力。
Hugging Face Blog精选AI 评分6262 用 Diffusers 和 PEFT 加速 Flux 的 LoRA 推理
Hugging Face 发布教程，介绍如何用 Diffusers 和 PEFT 优化 Flux.1-Dev 的 LoRA 推理速度。方案组合 Flash Attention 3、torch.compile 和 FP8 量化，并通过 hotswap 机制避免切换 LoRA 时触发重新编译，在 H100 上相比基线取得 2.23 倍加速。
推荐理由：原文给出 Flux LoRA 推理的完整优化配方与实测数据，读者可据此在 H100 或 4090 上复现加速效果。
Hugging Face Blog精选AI 评分6060 NVIDIA NIM 在 Hugging Face 上支持超 10 万个 LLM 部署
NVIDIA 宣布通过 NIM 推理微服务在 Hugging Face 上解锁超过 10 万个 LLM 的快速部署。NIM 现在提供单个 Docker 容器，可部署 TensorRT-LLM、vLLM 和 SGLang 支持的多种 LLM，自动识别模型格式、架构与量化方式并选择推理后端，无需手动配置。
推荐理由：NIM 用单个容器自动识别模型格式并选择推理后端，读者可据此判断多模型部署流程能简化到什么程度。
Hugging Face BlogAI 评分4848 Gradio MCP Servers 的五大改进：5.38.0 版本更新
Gradio 5.38.0 为 MCP Servers 带来五项改进：新增 "File Upload" MCP server 让智能体直接上传本地文件，支持实时进度通知，并可通过 gr.load_openapi 一行代码将 OpenAPI 规范转为 MCP 工具。
Hugging Face BlogAI 评分5252 Ettin Suite 发布：同配方训练的 SoTA 配对编码器与解码器
Hugging Face 发布 Ettin Suite，这是首个用完全相同数据（2T tokens）、架构和训练配方训练的 SoTA 配对编码器与解码器模型系列，参数规模覆盖 17M 到 1B。
Mistral AI精选AI 评分8080 Mistral 发布 Voxtral 语音理解模型，24B 与 3B 双版本开源
Mistral 发布 Voxtral 语音理解模型，提供 24B 和 3B 两种尺寸，均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文，可处理最长 30 分钟音频转写或 40 分钟音频理解，具备内置问答与摘要、多语言自动检测以及从语音直接触发函数调用等能力。
推荐理由：Mistral 开源语音理解模型，给出两种尺寸、Apache 2.0 许可与 API 定价，读者可据此判断语音能力的部署与成本选择。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Hub 存储从 Git LFS 迁移到 Xet
Hugging Face 官方宣布 Hub 存储后端从 Git LFS 迁移到 Xet，已有 50 万个仓库、20 PB 数据完成迁移，超过 100 万用户在用。迁移依靠 Git LFS Bridge 和后台迁移流程实现无硬切换，旧版客户端仍可正常上传下载。从本月起 Xet 将向所有用户开放，现有仓库会自动迁移，新仓库默认启用 Xet。
推荐理由：Hugging Face 官方复盘 Hub 从 Git LFS 迁移到 Xet 的工程细节，可了解大规模存储迁移如何做到对用户零打扰。
Mistral AI精选AI 评分7272 Mistral AI 发布 Devstral Medium 并升级 Devstral Small 1.1
Mistral AI 与 All Hands AI 合作发布 Devstral Medium，并升级 Devstral Small 1.1。
推荐理由：Mistral 与 All Hands AI 联合发布两款编码智能体模型，给出了 SWE-Bench Verified 分数与 API 定价，便于对比现有方案。
Hugging Face BlogAI 评分5252 Numina 与 Kimi 团队发布 Kimina-Prover-72B 定理证明模型
Numina 与 Kimi 团队发布 Kimina-Prover-72B 形式化定理证明模型，基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练，同时开源 8B 和 1.7B 蒸馏版本。
Hugging Face BlogAI 评分4848 Hugging Face 详解异步机器人推理：解耦动作预测与执行，任务完成提速约 2 倍
Hugging Face 发布博客详解异步机器人推理，将动作预测与动作执行解耦，让机器人在 PolicyServer 计算下一段动作时继续执行当前动作队列，从而消除推理等待。该方案在 SmolVLA 上实现约 2 倍任务完成提速，成功率相当，PolicyServer 与 RobotClient 通过 gRPC 通信，性能约为同类 REST API 的 5 倍。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 ScreenEnv，在 Docker 中部署桌面智能体
Hugging Face 发布 Python 库 ScreenEnv，可在 Docker 容器中创建隔离的 Ubuntu 桌面环境，用于测试和部署 GUI 智能体（Computer Use 智能体）。
推荐理由：Hugging Face 开源 ScreenEnv，给出 Docker 沙箱与 MCP 两种接入方式，可据此判断桌面智能体的部署路径。
Hugging Face BlogAI 评分4040 Hugging Face 如何构建官方 MCP Server
Hugging Face 发布官方 MCP Server（hf.co/mcp），通过一个 URL 让 AI 助手访问 Hub 及 Spaces 上的数千个 AI 应用，并支持用户动态配置工具。生产环境采用 Streamable HTTP 传输的无状态 Direct Response 模式，开源代码同时支持 STDIO、SSE 和 Streamable HTTP 三种部署方式。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini，399 美元起
Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini，Lite 版 399 美元、带板载计算与无线的 Compute 版 499 美元，均需另付税费和运费，预计约 90 天发货。
推荐理由：开源机器人 Reachy Mini 以 399 美元起售并接入 Hugging Face 模型库，读者可据此判断桌面级机器人实验的门槛与生态玩法。
Hugging Face BlogAI 评分3636 Hugging Face 与 AMD 为 MI300X 打造自定义 kernel，优化 Llama 3.1 405B FP8 推理
Hugging Face 与 AMD 合作，为 MI300X GPU 编写了三个开源自定义 kernel——融合残差连接/RMS norm/FP8 转换、融合 SwiGLU 激活/FP8 转换以及 Skinny GEMM，用于在 8 卡 MI300X 节点上通过 VLLM 加速 Llama 3.1 405B 的 FP8 推理。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolLM3：3B 多语言长上下文推理模型
Hugging Face 发布 SmolLM3，一个完全开源的 3B 模型，在 11T token 上训练，支持 think/no_think 双模式推理、6 种语言和最高 128k 上下文。
推荐理由：Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比，读者可据此复现或改进 3B 级小模型的训练流程。
Hugging Face BlogAI 评分1818 Hugging Face 生产基础设施背后的三大关键告警
Hugging Face 基础设施团队公开了支撑其生产环境的三大关键告警机制，包括 NAT 网关吞吐量告警和 Hub 请求日志归档成功率告警。NAT 网关告警在流量超过预设静态阈值时触发，用于发现异常流量峰值并优化成本；日志归档链路则通过 Filebeat、Logstash 与 Elasticsearch 完成日志的采集、加工与存储。
Mistral AIAI 评分4040 Mistral AI 推出 AI for Citizens 计划，助各国政府掌控 AI 未来
Mistral AI 推出 AI for Citizens 协作计划，帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新。该计划已在法国、卢森堡、新加坡、荷兰、英国、瑞士等国家落地，提供自托管、主权数据中心、SaaS 及 serverless API 等部署选项，确保数据主权并支持本地语言和文化的定制化模型研发。
Hugging Face BlogAI 评分3434 用 Sentence Transformers 训练与微调稀疏嵌入模型
Sentence Transformers 现已支持训练和微调稀疏嵌入模型，可产出如 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 这类低成本模型，适合混合检索或先检索后重排场景。
Hugging Face Blog精选AI 评分6060 NVIDIA Llama Nemotron Nano VL 上架 Hugging Face Hub
NVIDIA 发布 Llama Nemotron Nano VL，一个 8B 视觉语言模型，面向智能文档处理，已在 Hugging Face 上架。
推荐理由：8B 视觉语言模型面向文档处理，给出了架构、训练数据与 OCRBench v2 表现，便于评估企业文档自动化选型。
Hugging Face Blog精选AI 评分7878 Gemma 3n 正式上线开源生态，支持多模态与端侧运行
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama 等主流开源库中可用，并发布 gemma-3n-E2B 与 gemma-3n-E4B 两个尺寸（各含 base 与 instruct 变体）。
推荐理由：原文给出 Gemma 3n 的端侧内存占用、多模态输入与各开源库接入方式，便于判断本地部署可行性。
Hugging Face BlogAI 评分3838 SGLang 集成 Hugging Face transformers 后端
SGLang 现已支持将 Hugging Face transformers 作为后端，可直接以高性能推理运行任意 transformers 兼容模型，无需原生适配。
Hugging Face Blog精选AI 评分6262 在消费级硬件上用 QLoRA 微调 FLUX.1-dev
Hugging Face 发布教程，介绍用 QLoRA 和 diffusers 库在单张 GPU 上微调 FLUX.1-dev，峰值显存约 10GB 以内。在 RTX 4090 上，QLoRA 微调峰值显存约 9GB，而 BF16 LoRA 需 26GB，700 步训练约 41 分钟。
推荐理由：给出在单张消费级 GPU 上微调 FLUX.1-dev 的完整配置与显存对比，方法可直接复用。
Hugging Face BlogAI 评分2222 Groq 成为 Hugging Face Inference Providers 支持的服务商
Groq 现已作为 Inference Provider 接入 Hugging Face Hub，支持 Llama 4、Qwen QWQ-32B 等开源文本与对话模型，并集成到 JS 和 Python 客户端 SDK。
Hugging Face BlogAI 评分2222 Featherless AI 成为 Hugging Face Inference Providers 支持的服务商
Featherless AI 现已作为 Inference Provider 接入 Hugging Face Hub，为模型页面提供无服务器推理，并集成 JS 和 Python 客户端 SDK。
Hugging Face BlogAI 评分5858 5 分钟上手 Hugging Face Kernel Hub
Hugging Face 发布 Kernel Hub，让 Python 库和应用通过 kernels 库的 get_kernel 直接从 Hub 加载预编译的优化计算 kernel，无需本地编译。
Hugging Face Blog精选AI 评分6262 如何用 LeRobot SO-101 机械臂后训练 Isaac GR00T N1.5
NVIDIA 发布 Isaac GR00T N1.5，这是 Isaac GR00T N1 的首次重大更新，可通过后训练适配特定本体、任务和环境。
推荐理由：原文给出从数据准备到真机部署的完整命令，读者可据此在低成本 SO-101 机械臂上复现微调流程。
Mistral AI精选AI 评分6262 Mistral AI 发布 Mistral Compute AI 基础设施服务
Mistral AI 发布 Mistral Compute，提供从裸金属服务器到全托管 PaaS 的私有集成 AI 基础设施栈，涵盖 GPU、编排、API、产品与服务。
推荐理由：Mistral 从模型厂商延伸到自有 AI 基础设施，读者可据此判断欧洲算力供给格局的新变量。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 NVIDIA 合作推出 Training Cluster as a Service
Hugging Face 与 NVIDIA 在 GTC Paris 上宣布合作推出 Training Cluster as a Service，让全球研究机构更便捷地获取大型 GPU 集群，按训练运行时长付费。
推荐理由：Hugging Face 与 NVIDIA 联合推出按训练时长付费的 GPU 集群服务，读者可了解其申请方式与整合的组件。
Mistral AI精选AI 评分7676 Mistral AI 发布首款推理模型 Magistral，含 24B 开源版与企业版
Mistral AI 发布首款推理模型 Magistral，分为 24B 参数的开源版 Magistral Small 和企业版 Magistral Medium。
推荐理由：Mistral 首款推理模型同时给出开源权重与企业版，并公开 AIME2024 成绩和训练论文，便于对比其推理能力定位。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 ScreenSuite：面向 GUI Agent 的评测套件
Hugging Face 发布 ScreenSuite，一个面向 GUI Agent 的评测套件，整合 13 项基准，覆盖感知、定位、单步动作和多步智能体四类能力。
推荐理由：Hugging Face 开源 GUI Agent 评测套件，读者可了解其 13 项基准覆盖范围与纯视觉评测设定。
Hugging Face BlogAI 评分2222 nanoVLM 从零实现 KV Cache，生成速度提升 38%
Hugging Face 的 nanoVLM 仓库从零实现了 KV Cache，使自回归生成速度提升 38%。该实现覆盖 Attention 块的缓存更新、语言模型逐层缓存管理，以及区分 prefill 与逐 token 解码的生成循环。相关经验可推广到所有自回归语言模型的生成优化。