Hugging Face 用 Jupyter Notebook 数据训练小模型智能体
Hugging Face 发布 Jupyter Agent 项目，通过清洗约 2TB Kaggle notebook 构建 51k 合成 notebook、近 0.2B token 的数据集，并用 TRL 全参数微调 Qwen3-4B。
推荐理由：完整披露了从 Kaggle notebook 清洗到 SFT 的数据管线与消融结果，可迁移到其他小模型智能体训练。
数据与训练
全部主题训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
最新精选
第 41–60 条 · 共 95 条Hugging Face Blog精选AI 评分6060
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 AI Sheets：用开放 AI 模型处理数据集的无代码工具
Hugging Face 发布开源无代码工具 AI Sheets，可在本地或 Hub 上部署，通过类似电子表格的界面用提示词新建列来构建、转换和丰富数据集。工具可调用 Hub 上数千个开放模型（含 OpenAI 的 gpt-oss），支持模型对比、提示词迭代、数据分类与合成数据生成，并可导出到 Hub 生成可复用配置，配合 HF Jobs 脚本扩展至更大规模数据生成。
推荐理由：Hugging Face 官方开源的无代码数据集工具，读者可了解如何用开放模型批量构建、清洗和评测数据。
Hugging Face Blog精选AI 评分6262 TRL 支持 vLLM 共置：训练与推理共享同一批 GPU
Hugging Face 的 TRL 通过 PR #3394 支持 vLLM 的 external launcher，让训练与推理共置在同一批 GPU 上，不再需要单独的 vLLM 服务器进程。
推荐理由：原文给出同卡共置训练与推理的实现方式和多组吞吐对比，读者可据此判断 GRPO 训练的成本变化。
Hugging Face Blog精选AI 评分6262 Falcon-Edge 发布 1B 与 3B 三值语言模型系列
Falcon-Edge 系列发布，基于 BitNet 架构的三值（1.58bit）语言模型，提供 1B 和 3B 两种规模，各有 base 与指令微调版本。该系列采用新的预训练范式，单次训练同时产出 bfloat16 非量化版本、原生 BitNet 模型和便于微调的预量化 BitNet 变体，预训练数据约 1.5 Tera Tokens。
推荐理由：Falcon-Edge 用一次预训练同时产出 bfloat16 与三元量化版本，并给出可直接微调的工具链，读者可据此判断 1.58bit 模型的落地路径。
Hugging Face Blog精选AI 评分6060 ServiceNow 开源 PipelineRL：用 inflight 权重更新加速 LLM 强化学习
ServiceNow 开源实验性强化学习实现 PipelineRL，其核心创新是在 RL 训练中进行 inflight 权重更新，让推理服务器在不停机的情况下接收新权重，从而在保持高推理吞吐的同时让数据接近 on-policy。
推荐理由：ServiceNow 开源 PipelineRL，用 inflight 权重更新缓解推理吞吐与 on-policy 数据采集的矛盾，并给出 7B/32B 实验对比。
Hugging Face Blog精选AI 评分7474 NVIDIA 在 GTC 2025 发布 Cosmos Transfer、Physical AI Dataset 与 Isaac GR00T N1
NVIDIA 在 GTC 2025 上开源三项物理 AI 成果：世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。
推荐理由：NVIDIA 一次性开源世界模型、数据集与人形机器人基础模型，读者可据此了解物理 AI 开发可用的工具链。
Hugging Face Blog精选AI 评分6767 Open R1 更新：发布 OlympicCoder 代码模型与 IOI 基准
Hugging Face Open R1 项目发布 OlympicCoder-7B 和 OlympicCoder-32B 两个代码模型，基于 Qwen2.5 Coder Instruct 微调，在 IOI 问题上超过 Claude 3.7 Sonnet 等闭源前沿模型。
推荐理由：Open R1 复现 R1 代码推理配方，给出数据集、IOI 基准与 7B/32B 模型，并附训练经验。
Hugging Face Blog精选AI 评分6767 LeRobot 与 Yaak 发布全球最大开源自动驾驶数据集 L2D
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D，号称全球最大的开源自动驾驶数据集，包含 90+ TB 多模态数据、5000+ 小时驾驶记录，来自德国 30 个城市的 60 辆驾校电动车。
推荐理由：L2D 以 90TB 多模态驾驶数据补齐端到端自动驾驶训练集缺口，并给出 LeRobot 接入方式与分阶段发布计划。
Hugging Face Blog精选AI 评分6767 Open R1 发布 OpenR1-Math-220k 数学推理数据集
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k，在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹，经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万个含正确推理轨迹的问题。
推荐理由：Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案，可了解复现 R1 训练管线的具体做法。
Hugging Face Blog精选AI 评分6262 Open-R1 更新：复现 DeepSeek-R1 评测分数与训练管线进展
Hugging Face 的 Open-R1 项目在启动一周后，复现了 DeepSeek-R1 蒸馏模型在 MATH-500 上的评测分数，例如 DeepSeek-R1-Distill-Qwen-1.5B 得 81.6、7B 得 91.8、32B 得 95.0。
推荐理由：Open-R1 一周内复现了 DeepSeek-R1 蒸馏模型的评测分数，并公开了 GRPO 训练与合成数据生成的具体工程取舍。
Hugging Face Blog精选AI 评分6262 Hugging Face 启动 Open-R1 项目，完整开源复现 DeepSeek-R1
Hugging Face 发起 Open-R1 项目，计划系统重建 DeepSeek-R1 的数据与训练流程，补上官方未公开的数据集和训练代码。项目分三步：从 DeepSeek-R1 蒸馏高质量推理数据集复现 R1-Distill 模型，复现 R1-Zero 所用的纯强化学习流程并整理数学、推理、代码数据集，以及展示从基座模型经 SFT 到 RL 的多阶段训练。
推荐理由：Hugging Face 公开复现 DeepSeek-R1 的三步计划，读者可了解开源推理模型训练链路的缺口与补全路径。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布静态嵌入模型，CPU 训练与推理提速 100 至 400 倍
Hugging Face 发布两个静态嵌入模型 static-retrieval-mrl-en-v1（英文检索）和 static-similarity-mrl-multilingual-v1（多语言相似度），在 CPU 上比 all-mpnet-base-v2、multilingual-e5-small 等常见模型快 100 至 400 倍，同时保留至少 85% 的性能。
推荐理由：原文给出静态嵌入模型的训练配方与两个已发布模型，读者可据此评估 CPU 端检索与相似度任务的落地成本。
Hugging Face Blog精选AI 评分6262 如何在 PyTorch 中可视化并理解 GPU 显存占用
Hugging Face 博客发布教程，介绍用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练时的 GPU 显存占用。文章以 Qwen2.5-1.5B 为例拆解模型参数、优化器状态、激活值、梯度和优化器中间值各占多少显存，并给出总显存估算公式和激活值随参数量线性变化的启发式。作者还提供了一个显存估算小工具。
推荐理由：原文用可视化快照拆解训练各阶段显存占用，并给出可复用的显存估算公式与启发式。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon3 开源模型家族，含 1B 至 10B 五款模型
阿布扎比 TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五款基础模型。
推荐理由：Falcon3 给出 1B 到 10B 五款开源模型及训练方法，读者可据此判断小模型在数学、代码与推理上的位置。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数规模，并以开放权重形式发布。官方称 Aya Expanse 32B 在成对比较中优于 Gemma 2 27B、Mistral 8x22B 和 Llama 3.1 70B，Aya Expanse 8B 在同参数级别模型中的胜率为 60.4% 至 70.6%。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，包括数据套利、多语言偏好训练与模型合并的具体做法。
Hugging Face Blog精选AI 评分6262 Hugging Face 收购 XetHub，将用其技术替换 Hub 的 Git LFS 存储后端
Hugging Face 宣布收购西雅图公司 XetHub，其创始团队此前在 Apple 构建并扩展内部 ML 基础设施，XetHub 的技术可让 Git 扩展到 TB 级仓库。
推荐理由：Hugging Face 收购 XetHub 并计划替换 Hub 的 Git LFS 存储后端，读者可了解大文件版本管理将如何变化。
Mistral AI精选AI 评分7777 Mistral 与 NVIDIA 联合发布 12B 模型 Mistral NeMo
Mistral AI 与 NVIDIA 合作发布 12B 模型 Mistral NeMo，支持最高 128k token 上下文窗口，预训练基座与指令微调 checkpoint 均以 Apache 2.0 许可开源。
推荐理由：Mistral 与 NVIDIA 合作的 12B 模型以 Apache 2.0 开源，128k 上下文和 FP8 推理对部署选型有直接参考。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolLM 系列小模型，含 135M、360M、1.7B 三个尺寸
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三个参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：原文公开了三个尺寸小模型的训练数据配比与评测对比，可据此判断端侧小模型的选型与数据策略。
Hugging Face Blog精选AI 评分6262 NuminaMath 如何赢得首届 AIMO 进步奖
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖，在私有测试集 50 题中解出 29 题。方案基于 DeepSeekMath-Base 7B 做两阶段全量微调，先学自然语言链式推理，再学工具集成推理，配合 SC-TIR 解码生成 N=48、深度 M=4 的候选并多数投票。
推荐理由：获胜方案完整公开了两阶段微调、SC-TIR 解码与内部验证集设计，可迁移到其他推理任务。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma 2，含 9B 与 27B 两个版本
Google 发布开源大模型 Gemma 2，提供 9B 和 27B 两个规模，各有基础版与指令微调版，上下文长度 8K tokens，采用允许商用和再分发的宽松许可。
推荐理由：文章梳理了 Gemma 2 的滑动窗口注意力、软上限与蒸馏等训练改动，并给出与 Llama 3、Qwen 1.5 的基准对比。