Hugging Face 生产基础设施背后的三大关键告警
Hugging Face 基础设施团队公开了支撑其生产环境的三大关键告警机制，包括 NAT 网关吞吐量告警和 Hub 请求日志归档成功率告警。NAT 网关告警在流量超过预设静态阈值时触发，用于发现异常流量峰值并优化成本；日志归档链路则通过 Filebeat、Logstash 与 Elasticsearch 完成日志的采集、加工与存储。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face BlogAI 评分1818
Hugging Face BlogAI 评分2222 Hugging Face 公布 NeurIPS 2025 E2LM 竞赛：面向大语言模型早期训练评估
Hugging Face 上线 NeurIPS 2025 E2LM 竞赛，征集能在大语言模型早期训练阶段（约 200B tokens 以内）有效区分科学知识信号的评测基准。
Hugging Face BlogAI 评分3434 用 Sentence Transformers 训练与微调稀疏嵌入模型
Sentence Transformers 现已支持训练和微调稀疏嵌入模型，可产出如 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 这类低成本模型，适合混合检索或先检索后重排场景。
Hugging Face Blog精选AI 评分6060 NVIDIA Llama Nemotron Nano VL 上架 Hugging Face Hub
NVIDIA 发布 Llama Nemotron Nano VL，一个 8B 视觉语言模型，面向智能文档处理，已在 Hugging Face 上架。
推荐理由：8B 视觉语言模型面向文档处理，给出了架构、训练数据与 OCRBench v2 表现，便于评估企业文档自动化选型。
Hugging Face Blog精选AI 评分7878 Gemma 3n 正式上线开源生态，支持多模态与端侧运行
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama 等主流开源库中可用，并发布 gemma-3n-E2B 与 gemma-3n-E4B 两个尺寸（各含 base 与 instruct 变体）。
推荐理由：原文给出 Gemma 3n 的端侧内存占用、多模态输入与各开源库接入方式，便于判断本地部署可行性。
Hugging Face BlogAI 评分3838 SGLang 集成 Hugging Face transformers 后端
SGLang 现已支持将 Hugging Face transformers 作为后端，可直接以高性能推理运行任意 transformers 兼容模型，无需原生适配。
Hugging Face Blog精选AI 评分6262 在消费级硬件上用 QLoRA 微调 FLUX.1-dev
Hugging Face 发布教程，介绍用 QLoRA 和 diffusers 库在单张 GPU 上微调 FLUX.1-dev，峰值显存约 10GB 以内。在 RTX 4090 上，QLoRA 微调峰值显存约 9GB，而 BF16 LoRA 需 26GB，700 步训练约 41 分钟。
推荐理由：给出在单张消费级 GPU 上微调 FLUX.1-dev 的完整配置与显存对比，方法可直接复用。
Hugging Face BlogAI 评分2222 Groq 成为 Hugging Face Inference Providers 支持的服务商
Groq 现已作为 Inference Provider 接入 Hugging Face Hub，支持 Llama 4、Qwen QWQ-32B 等开源文本与对话模型，并集成到 JS 和 Python 客户端 SDK。
Hugging Face BlogAI 评分2222 Featherless AI 成为 Hugging Face Inference Providers 支持的服务商
Featherless AI 现已作为 Inference Provider 接入 Hugging Face Hub，为模型页面提供无服务器推理，并集成 JS 和 Python 客户端 SDK。
Hugging Face BlogAI 评分5858 5 分钟上手 Hugging Face Kernel Hub
Hugging Face 发布 Kernel Hub，让 Python 库和应用通过 kernels 库的 get_kernel 直接从 Hub 加载预编译的优化计算 kernel，无需本地编译。
Hugging Face Blog精选AI 评分6262 如何用 LeRobot SO-101 机械臂后训练 Isaac GR00T N1.5
NVIDIA 发布 Isaac GR00T N1.5，这是 Isaac GR00T N1 的首次重大更新，可通过后训练适配特定本体、任务和环境。
推荐理由：原文给出从数据准备到真机部署的完整命令，读者可据此在低成本 SO-101 机械臂上复现微调流程。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 NVIDIA 合作推出 Training Cluster as a Service
Hugging Face 与 NVIDIA 在 GTC Paris 上宣布合作推出 Training Cluster as a Service，让全球研究机构更便捷地获取大型 GPU 集群，按训练运行时长付费。
推荐理由：Hugging Face 与 NVIDIA 联合推出按训练时长付费的 GPU 集群服务，读者可了解其申请方式与整合的组件。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 ScreenSuite：面向 GUI Agent 的评测套件
Hugging Face 发布 ScreenSuite，一个面向 GUI Agent 的评测套件，整合 13 项基准，覆盖感知、定位、单步动作和多步智能体四类能力。
推荐理由：Hugging Face 开源 GUI Agent 评测套件，读者可了解其 13 项基准覆盖范围与纯视觉评测设定。
Hugging Face BlogAI 评分2222 nanoVLM 从零实现 KV Cache，生成速度提升 38%
Hugging Face 的 nanoVLM 仓库从零实现了 KV Cache，使自回归生成速度提升 38%。该实现覆盖 Attention 块的缓存更新、语言模型逐层缓存管理，以及区分 prefill 与逐 token 解码的生成循环。相关经验可推广到所有自回归语言模型的生成优化。
Hugging Face BlogAI 评分2929 Arm CPU 上实时 AI 音效生成：基于 Stable Audio Open 的个人创作工具
Arm 工程师 Michael Gamble 用 Stable Audio Open 模型、PyTorch 和 TorchAudio 打造了一款完全在 Arm CPU 上本地运行的个人音效生成工具，无需 GPU 和云端推理，几秒内即可根据提示词生成 .wav 文件并直接导入 Ableton Live。
Hugging Face Blog精选AI 评分7171 H Company 发布 Holo1 系列 GUI 自动化 VLM 与 WebClick 基准
H Company 发布 Holo1 系列动作视觉语言模型（含 Holo1-3B 与 Holo1-7B）以及 WebClick 多模态定位基准，模型已在 Hugging Face 开源。
推荐理由：Holo1 开源了面向 GUI 自动化的动作 VLM 家族，并给出 WebClick 基准与 Surfer-H 智能体的组合方式，读者可据此评估网页自动化方案的成本与精度取舍。
Hugging Face Blog精选AI 评分6262 TRL 支持 vLLM 共置：训练与推理共享同一批 GPU
Hugging Face 的 TRL 通过 PR #3394 支持 vLLM 的 external launcher，让训练与推理共置在同一批 GPU 上，不再需要单独的 vLLM 服务器进程。
推荐理由：原文给出同卡共置训练与推理的实现方式和多组吞吐对比，读者可据此判断 GRPO 训练的成本变化。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLA：450M 开源视觉-语言-动作模型
Hugging Face 发布 SmolVLA，一个 450M 参数的开源视觉-语言-动作（VLA）模型，可在消费级硬件甚至 CPU 上运行，仅用 lerobot 标签下的社区共享数据集预训练。
推荐理由：450M 的 VLA 模型仅用社区数据预训练就能在仿真和真机上超过更大模型，读者可据此判断开源机器人模型的成本门槛。
Hugging Face Blog精选AI 评分6262 Hugging Face 研究：结构化 CodeAgent 让智能体动作执行更可靠
Hugging Face 分享研究，将 CodeAgent 的思考与代码强制以结构化 JSON 生成，在 GAIA、MATH、SimpleQA、Frames 等基准上比普通 CodeAgent 平均高出 2-7 个百分点。
推荐理由：通过 15724 条 agent trace 量化解析错误对成功率的影响，并给出结构化 CodeAgent 的适用模型门槛。
Hugging Face BlogAI 评分1010 Liger GRPO 与 TRL 集成：Qwen2.5-0.5B-Instruct 在 DeepSpeed ZeRO3 下报形状不匹配
用户反馈在 TRL 中使用 Liger GRPO loss 配合 DeepSpeed ZeRO3 训练 Qwen/Qwen2.5-0.5B-Instruct（bf16）时出现形状不匹配错误，报错栈指向 liger_kernel 的 chunked_loss/grpo_loss.py 与 fused_linear_ppo.py。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Python Tiny Agents：约 70 行代码实现 MCP 智能体
Hugging Face 在 huggingface_hub 中新增 MCPClient，并基于它实现 Python 版 Tiny Agents，用约 70 行代码即可搭建连接 MCP 服务器的智能体。
推荐理由：原文给出约 70 行 Python 代码实现 MCP 智能体的完整方法，读者可据此复用并接入自有工具。
Mistral AI精选AI 评分7676 Mistral AI 发布编码智能体模型 Devstral，Apache 2.0 开源
Mistral AI 与 All Hands AI 合作发布面向软件工程任务的智能体模型 Devstral，在 SWE-Bench Verified 上得分 46.8%，比此前开源 SOTA 模型高出 6 个百分点以上，并以 Apache 2.0 许可开源。
推荐理由：Mistral 与 All Hands AI 联合发布开源编码智能体模型，给出 SWE-Bench Verified 分数与本地部署门槛，便于判断其可用性。
Hugging Face Blog精选AI 评分6060 Falcon-H1 系列开源模型发布，0.5B 到 34B 采用注意力与 SSM 混合架构
Falcon-LLM 团队发布 Falcon-H1 系列六个开源模型，参数规模从 0.5B 到 34B，每个都提供 base 和 instruct 版本，采用 Apache 2.0 许可。
推荐理由：Falcon-H1 用混合注意力与 SSM 架构覆盖 0.5B 到 34B，读者可据此判断小模型在长上下文与端侧场景的取舍。
Hugging Face BlogAI 评分3838 Falcon-Arabic：阿拉伯语语言模型的突破
阿联酋技术创新研究院（TII）发布 Falcon-Arabic，一款基于 Falcon 3 架构的 7B 参数多语言模型，支持阿拉伯语、英语等多种语言，上下文长度 32,000 tokens。该模型在 OALL v2 基准上超越同尺寸及最多 4 倍大的阿拉伯语 LLM，覆盖阿拉伯语 MMLU、Exams、MadinahQA 等任务。
Hugging Face BlogAI 评分5858 Hugging Face 发布 nanoVLM：用纯 PyTorch 训练视觉语言模型的最简仓库
Hugging Face 发布 nanoVLM，一个用纯 PyTorch 训练视觉语言模型（VLM）的轻量工具包，灵感来自 nanoGPT，可在免费 Colab 上启动训练。
Hugging Face BlogAI 评分3636 Hugging Face Diffusers 量化后端解析：bitsandbytes、GGUF、torchao、Quanto 与 FP8
Hugging Face Diffusers 现已集成 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8 等多种量化后端，并以 Flux-dev 为例展示其效果。
Hugging Face BlogAI 评分5050 微软与 Hugging Face 扩大合作，Azure AI Foundry 上线 1 万+ Hugging Face 模型
微软在 Build 大会上宣布扩大与 Hugging Face 的合作，Azure AI Foundry 的 Hugging Face Collection 现已提供 10,000+ 个可一键部署的开源模型，覆盖文本、音频和图像任务。
Hugging Face Blog精选AI 评分6262 Falcon-Edge 发布 1B 与 3B 三值语言模型系列
Falcon-Edge 系列发布，基于 BitNet 架构的三值（1.58bit）语言模型，提供 1B 和 3B 两种规模，各有 base 与指令微调版本。该系列采用新的预训练范式，单次训练同时产出 bfloat16 非量化版本、原生 BitNet 模型和便于微调的预量化 BitNet 变体，预训练数据约 1.5 Tera Tokens。
推荐理由：Falcon-Edge 用一次预训练同时产出 bfloat16 与三元量化版本，并给出可直接微调的工具链，读者可据此判断 1.58bit 模型的落地路径。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Transformers 定位为跨框架模型定义标准
Hugging Face 表示，未来目标是让 Transformers 成为各框架之间的枢纽：只要模型架构被 Transformers 支持，就能在生态其他工具中获得支持。
推荐理由：Hugging Face 说明 Transformers 将作为跨框架模型定义中枢，读者可了解其对训练、推理与本地部署工具链互通的影响。
Hugging Face BlogAI 评分2222 Hugging Face 与 Kaggle 打通模型访问集成
Kaggle 上线与 Hugging Face 的集成，可直接在 Kaggle 上发现和使用 Hugging Face 模型。
Hugging Face BlogAI 评分4040 Hugging Face 在 Inference Endpoints 上推出极速 Whisper 转录部署
Hugging Face 在 Inference Endpoints 上线新版 OpenAI Whisper 部署方案，基于 vLLM 实现，性能较上一版最高提升 8 倍。
Hugging Face BlogAI 评分3434 Hugging Face 回顾视觉语言模型一年进展：更小、更快、更强
Hugging Face 发文回顾过去一年视觉语言模型（VLM）的关键变化，涵盖 any-to-any 模型、推理模型、小尺寸模型、MoE 解码器、视觉语言动作模型、多模态 RAG 与智能体、视频语言模型等新趋势。
Hugging Face BlogAI 评分3434 LeRobot 社区数据集：机器人领域的“ImageNet”何时到来、如何实现？
Hugging Face 发文称 LeRobot 社区贡献数据集正快速增长，目标是把泛化当作数据问题，构建开放多样的“机器人 ImageNet”。目前上传数据集多集中在 So100 和 Koch 机械臂，社区案例还包括抽屉操作、国际象棋对局和动物玩偶交互等。文章同时指出，随着数据采集门槛降低，数据整理与策展将成为下一阶段挑战。
Hugging Face BlogAI 评分3636 Qwen-3 的 Chat Template 教会我们的 4 件事
Qwen-3 的 chat template 相比 Qwen-2.5 和 QwQ 有四处关键变化：通过 enable_thinking 标志可开关推理，设为 false 时模板插入空对以跳过逐步思考，而 QwQ 等旧模型强制每轮生成思维链。
Hugging Face Blog精选AI 评分6262 如何用 Gradio 构建 MCP Server
Hugging Face 发布教程，介绍如何用 Gradio 在几行 Python 代码内把应用变成 MCP Server，供 LLM 作为工具调用。只需在 launch() 中设置 mcp_server=True，Gradio 就会自动把函数转成 MCP 工具，并用 docstring 生成工具描述和参数，MCP 端点位于 /gradio_api/mcp/sse。
推荐理由：原文给出用 Gradio 把 Python 函数变成 MCP 工具的完整步骤，读者可据此把自有应用接入 LLM 工具调用。
Hugging Face BlogAI 评分2626 Intel 推出 AutoRound：面向 LLM 与 VLM 的先进量化工具
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重舍入与裁剪范围，实现 INT2-INT8 低比特量化。在 INT2 下其相对精度最高达主流基线 2.1 倍，量化 72B 模型在 A100 上仅需 37 分钟。
Hugging Face Blog精选AI 评分6060 Meta 发布 Llama Guard 4 与 Llama Prompt Guard 2
Meta 发布 Llama Guard 4，一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型，可检测图像与文本输入输出中的不当内容，单张 24GB 显存 GPU 即可运行。
推荐理由：Meta 发布 12B 多模态安全模型与两款提示注入分类器，并给出可直接运行的 transformers 示例。
Hugging Face Blog精选AI 评分6060 ServiceNow 开源 PipelineRL：用 inflight 权重更新加速 LLM 强化学习
ServiceNow 开源实验性强化学习实现 PipelineRL，其核心创新是在 RL 训练中进行 inflight 权重更新，让推理服务器在不停机的情况下接收新权重，从而在保持高推理吞吐的同时让数据接近 on-policy。
推荐理由：ServiceNow 开源 PipelineRL，用 inflight 权重更新缓解推理吞吐与 on-policy 数据采集的矛盾，并给出 7B/32B 实验对比。
Hugging Face Blog精选AI 评分6262 Tiny Agents：用 50 行代码实现 MCP 驱动的智能体
Hugging Face 发布 Tiny Agents 教程，展示如何用约 50 行 TypeScript 代码在 InferenceClient 之上实现 MCP 客户端和智能体。
推荐理由：作者用 50 行代码演示 MCP 客户端与智能体的最小实现，读者可据此理解工具调用如何接入推理客户端。
Hugging Face BlogAI 评分3030 TNG 微调 olmOCR-7B-0225-preview，打造忠实还原页眉页脚的 OCR 引擎
TNG 基于 olmOCR-7B-0225-preview 微调出一款忠实 OCR 引擎，解决了原模型为生成训练数据而忽略页眉页脚信息的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8000 份文档数据集，在 8xH100 节点上训练 2.5 个 epoch，微调版可完整提取发票等文档的页眉页脚内容并保留表格解析能力。该模型已在 Hugging Face 开源。