Hugging Face Open LLM Leaderboard 分析：模型推理的 CO₂ 排放与性能表现
Hugging Face 在 Open LLM Leaderboard 中引入 CO₂ 排放估算，基于 2024 年 6 月以来对 3000 多个模型的评测数据，分析了 2742 个模型的推理碳排放与性能关系。
全部AI 动态
全部动态
今日 10 条Hugging Face BlogAI 评分3434
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 smolagents：用代码写动作的轻量智能体库
Hugging Face 发布 smolagents，一个让语言模型具备智能体能力的轻量库，核心是 CodeAgent，即让智能体用代码而非 JSON 编写动作，并支持通过 E2B 在沙箱中执行。
推荐理由：Hugging Face 官方开源轻量智能体库，用代码而非 JSON 表达动作，并给出可复用的工具构建方式。
OpenAI NewsAI 评分3434 OpenAI 为何必须调整公司结构以推进其使命
OpenAI 发文解释其公司结构必须调整，以推进自身使命，方案是让非营利组织更强，并由营利性业务的成功来支持。
Hugging Face Blog精选AI 评分6262 如何在 PyTorch 中可视化并理解 GPU 显存占用
Hugging Face 博客发布教程，介绍用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练时的 GPU 显存占用。文章以 Qwen2.5-1.5B 为例拆解模型参数、优化器状态、激活值、梯度和优化器中间值各占多少显存，并给出总显存估算公式和激活值随参数量线性变化的启发式。作者还提供了一个显存估算小工具。
推荐理由：原文用可视化快照拆解训练各阶段显存占用，并给出可复用的显存估算公式与启发式。
Hugging Face BlogAI 评分3838 用 NVIDIA LogitsProcessorZoo 控制语言模型生成
NVIDIA 推出 LogitsProcessorZoo，一组模块化 logits 处理器，可控制序列长度、强制关键短语或引导多选题答案，并与 Hugging Face 的 generate 方法完全兼容。该库通过 pip install logits-processor-zoo 安装，示例基于 meta-llama/Llama-3.2-1B-Instruct 模型演示。
OpenAI NewsAI 评分5252 OpenAI 提出审议式对齐：推理让语言模型更安全
OpenAI 为 o1 模型提出名为审议式对齐（deliberative alignment）的新对齐策略，直接教模型安全规范以及如何对这些规范进行推理。
Hugging Face BlogAI 评分3838 Artificial Analysis 发布 Big Bench Audio，评测音频推理能力
Artificial Analysis 发布 Big Bench Audio 评测数据集，用于评估音频语言模型的推理能力，题目改编自 Big Bench Hard，共 1000 道音频题，覆盖 Formal Fallacies、Navigate、Object Counting、Web of Lies 四类各 250 题。
Hugging Face Blog精选AI 评分7171 Answer.AI 与 LightOn 发布 ModernBERT，为 BERT 提供现代替代方案
Answer.AI 与 LightOn 发布 ModernBERT，一个仅编码器模型系列，提供 base（149M 参数）和 large（395M 参数）两个版本，支持 8192 token 上下文，可作为 BERT 类模型的直接替代。
推荐理由：ModernBERT 用现代 LLM 技术重做编码器，给出 8k 上下文与速度数据，可据此判断它能否替换现有 BERT 类模型。
Hugging Face Blog精选AI 评分6060 IBM 等联合发布混合 Mamba2 模型 Bamba-9B
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B，一个在完全开放数据上训练的混合 Mamba2 模型，训练数据量 2.2T tokens。
推荐理由：Bamba-9B 用完全开放数据训练并给出 vLLM 实测吞吐与延迟数据，可对照同尺寸 Transformer 模型判断混合 Mamba2 架构的取舍。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon3 开源模型家族，含 1B 至 10B 五款模型
阿布扎比 TII 发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五款基础模型。
推荐理由：Falcon3 给出 1B 到 10B 五款开源模型及训练方法，读者可据此判断小模型在数学、代码与推理上的位置。
OpenAI News精选AI 评分6969 OpenAI 发布 o1 及面向开发者的新工具
OpenAI 发布 o1，并同步带来 Realtime API 改进和一种新的微调方法等面向开发者的更新。
推荐理由：OpenAI 官方一次性公布 o1 与多项开发者工具更新，可据此了解其面向开发者的能力布局。
Hugging Face BlogAI 评分2222 在 GCP 第五代 Xeon 上基准测试语言模型性能
Hugging Face 在 Google Cloud 的 N2（第三代 Xeon）与 C4（第五代 Xeon）实例上基准测试了文本嵌入和文本生成两类智能体 AI 负载。
Hugging Face BlogAI 评分5858 Hugging Face 推出合成数据生成器，用自然语言构建数据集
Hugging Face 发布 Synthetic Data Generator，一个无代码应用，用户用自然语言描述需求即可生成自定义数据集。工具目前支持文本分类和聊天数据集，背后由 distilabel 和免费的 Hugging Face text-generation API 驱动，文本分类和聊天分别约每分钟生成 50 和 20 个样本。
OpenAI NewsAI 评分4040 OpenAI 回应马斯克诉讼：他 2017 年曾想并实际创建营利性 OpenAI
OpenAI 回应马斯克最新法律诉讼，称这是其不到一年内的第四次尝试。OpenAI 指出，2017 年马斯克不仅想要、而且实际创建了营利性实体作为 OpenAI 拟议的新架构。
Hugging Face BlogAI 评分3838 Hugging Face 与 Entalpic 联合发布开源材料发现项目 LeMaterial
Hugging Face 与 Entalpic 联合推出开源协作项目 LeMaterial，并首发数据集 LeMat-Bulk，将 Materials Project、Alexandria 和 OQMD 三大材料数据库统一为标准格式，含 6.7M 条数据、7 种材料属性，采用 CC-BY-4.0 许可。
OpenAI News精选AI 评分8080 OpenAI 视频生成模型 Sora 上线 sora.com
OpenAI 的视频生成模型 Sora 现已上线 sora.com 供用户使用。用户可生成最高 1080p 分辨率、最长 20 秒的视频，支持宽屏、竖屏和方形画幅。用户还能导入自有素材进行延展、重混与融合，或直接由文本生成全新内容。
推荐理由：OpenAI 官方公布 Sora 的开放入口与分辨率、时长、画幅等具体规格，读者可据此判断可用性。
Hugging Face BlogAI 评分2222 Hugging Face 模型上架 Amazon Bedrock Marketplace
Hugging Face 的 83 个开源模型现已通过 Amazon Bedrock Marketplace 提供给 AWS 客户，底层由 Amazon SageMaker JumpStart 托管端点。
OpenAI NewsAI 评分1717 动画师 Lyndon Barrois 用 Sora 创造新世界
电影制作人 Lyndon Barrois 介绍了如何将 Sora 用作叙事工具。他借助 Sora 创造新的世界，并将其视为一种讲故事的创作手段。
OpenAI News精选AI 评分7070 OpenAI 发布 Sora 视频生成模型系统卡
OpenAI 发布 Sora 系统卡，介绍这是其视频生成模型，可接收文本、图像和视频输入并生成新视频。Sora 基于 DALL-E 和 GPT 系列模型的经验构建，定位为面向叙事与创意表达的扩展工具。
推荐理由：OpenAI 官方系统卡披露 Sora 的输入输出形态与模型沿革，可据此了解其能力边界。
OpenAI NewsAI 评分1515 Minne Atairu 谈如何用 Sora 实现创作构想
跨学科艺术家 Minne Atairu 讲述 Sora 如何帮助她实现自己的创作构想。
OpenAI NewsAI 评分2222 Vallée Duhamel 如何用 Sora 构建新世界
电影创作组合 Vallée Duhamel 讲述了如何借助 OpenAI 的 Sora 构建新的世界。
OpenAI NewsAI 评分55 OpenAI 让 AI 为产品团队所用
OpenAI 发布面向产品团队的 AI 应用指南，帮助产品团队将 AI 投入实际工作。内容来自 OpenAI News，聚焦 AI 在产品团队工作场景中的落地使用。
Hugging Face BlogAI 评分3434 Hugging Face 社区发布文本到图像生成开放偏好数据集
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本到图像偏好数据集，覆盖多种图像生成类别并混合不同模型家族与提示词复杂度。数据集基于 Flux 和 Stable Diffusion 模型生成图像，配套提供 flux-dev-lora-finetune 微调模型及 GitHub 上的预处理与后处理代码。
OpenAI News精选AI 评分7272 OpenAI 推出 ChatGPT Pro
OpenAI 发布 ChatGPT Pro，官方称其用于扩大前沿 AI 的使用范围。材料仅提供标题和一句摘要，未给出定价、功能或可用范围等细节。
OpenAI News精选AI 评分6262 OpenAI 发布 o1 系统卡
OpenAI 发布 o1 系统卡，说明在发布 o1 和 o1-mini 之前开展的安全工作，包括外部红队测试以及依据其 Preparedness Framework 进行的前沿风险评测。
推荐理由：OpenAI 官方披露 o1 与 o1-mini 发布前的安全评估流程，可了解其 Preparedness Framework 下的风险评测方式。
Hugging Face BlogAI 评分2222 LLM 修复自身错误的能力如何？基于 Keras 和 TPU 的聊天机器人竞技场实验
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个聊天机器人竞技场，测试 LLM 能否根据用户的自然语言反馈修正自己生成的代码。实验在 TPU v5e 2x4 上同时加载了 5 个约 8B 参数模型和 3 个约 2B 参数模型，共 7 个 LLM，以 bfloat16 格式运行，通过 Gradio 界面并行对话并随时切换模型。
Hugging Face Blog精选AI 评分6060 Google 发布 PaliGemma 2 视觉语言模型，提供 3B、10B、28B 三种规模
Google 发布新一代视觉语言模型 PaliGemma 2，用 Gemma 2 替换前代的文本解码器，保留 SigLIP 图像编码器，提供 3B、10B、28B 三种参数规模，每种均支持 224x224、448x448、896x896 三种输入分辨率，而前代 PaliGemma 仅有 3B 版本。
推荐理由：PaliGemma 2 给出 3B 到 28B 三种规模与三种分辨率组合，读者可据此判断视觉语言模型的微调选型空间。
OpenAI NewsAI 评分2222 OpenAI 与 Future 达成合作，将 200 多个媒体品牌内容引入 OpenAI
OpenAI 与全球专业媒体平台 Future 宣布战略合作，将 Future 旗下 200 多个媒体品牌的内容带给 OpenAI 用户。
OpenAI NewsAI 评分2222 Morgan Stanley 如何用 AI 评估塑造金融服务未来
Morgan Stanley 正借助 AI 评估（AI evals）推动金融服务变革。该机构将 AI 评估用于塑造金融服务的未来，具体做法与成效未在文中展开。
Hugging Face BlogAI 评分2222 Hugging Face 推出 AraGen：基于 3C3H 的阿拉伯语 LLM 生成式评测基准与榜单
Hugging Face 发布面向阿拉伯语 LLM 的生成式任务基准与榜单 AraGen，采用新的 3C3H 评测指标，从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度由 LLM-as-judge 打分。
Hugging Face BlogAI 评分2727 CFM 如何用 LLM 辅助标注微调小模型，NER 成本最高降低 80 倍
Capital Fund Management（CFM）借助 Hugging Face Inference Endpoints 与 Argilla，用 Llama 3.1 生成标注并经人工复核，再微调小模型完成金融新闻的命名实体识别。
Hugging Face BlogAI 评分4242 开源开发者指南：欧盟《人工智能法案》要点解读
Hugging Face 发布开源开发者指南，解读已正式生效的欧盟《人工智能法案》。该法案按风险分级监管，仅通用目的 AI（GPAI）模型被直接约束，训练算力超 10^25 FLOPs 的模型需按系统性风险处理。指南建议开发者提供模型卡、数据集卡、Gradio 水印及个人数据脱敏等工具以准备合规。
Hugging Face BlogAI 评分3434 Hugging Face 重构 Hub 上传与下载架构
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构，计划引入内容寻址存储（CAS）并构建自定义传输协议。新方案按字节级分析文件，上传时仅传输必要的新 chunk，并探索压缩 Safetensors 张量文件，有望将上传速度提升 10-25%。读取路径仍由 S3 存储、CloudFront 作为 CDN，CAS 节点将部署在 AWS 少数区域以平衡成本与延迟。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 2B 视觉语言模型 SmolVLM
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方和工具均以 Apache 2.0 协议开源。
推荐理由：2B 参数 VLM 把显存压到 5GB 并开放全部训练配方，读者可据此判断端侧多模态部署的可行边界。
Hugging Face BlogAI 评分2222 如何一步步推导出 SOTA 位置编码 RoPE
Hugging Face 博客通过逐步迭代改进位置编码方案，最终推导出被 Llama 3.2 及多数现代 Transformer 采用的旋转位置编码（RoPE）。
OpenAI NewsAI 评分2222 OpenAI 如何用人类与 AI 推进红队测试
OpenAI 发布文章阐述如何结合人类与 AI 推进红队测试。红队测试通过模拟对抗性攻击来发现模型的安全漏洞与滥用风险，人类专家与 AI 的协作方式成为其探索方向。
OpenAI NewsAI 评分2222 用 GPT-4o 视觉微调构建更智能的地图
OpenAI 发布案例，展示如何用 GPT-4o 的视觉微调能力构建更智能的地图。
Hugging Face BlogAI 评分3838 让大模型辩论：首届多语言 LLM 辩论赛 FlagEval Debate 举办
BAAI 推出 FlagEval Debate 辩论平台，让大模型直接对抗，目前支持英语、中文、阿拉伯语和韩语四种语言的辩论赛。平台采用专家评审与用户投票的双重评估机制，并提供开发者自定义功能，可调整模型参数、策略与对话风格。2024 年 Q3 的实验显示，当前大多数模型都能参与辩论。
Hugging Face BlogAI 评分3636 Hugging Face 详解 LayerSkip 自推测解码：用 transformers 加速文本生成
Hugging Face 博客介绍 LayerSkip 提出的自推测解码，用同一 LLM 的早期层生成 draft token、深层网络负责验证，无需额外小模型即可加速文本生成并降低显存占用。
Hugging Face BlogAI 评分4242 Hugging Face 如何用内容定义分块提升存储效率
Hugging Face 的 Xet 团队采用内容定义分块（CDC）将文件拆分为可变大小的块，仅传输和存储修改过的块，从而提升存储与迭代效率。在 CORD-19 数据集基准测试中，Xet 后端将平均下载时间从 51 分钟降至 19 分钟，上传从 47 分钟降至 24 分钟，存储占用从 8.9 GB 降至 3.52 GB。