Hugging Face 收购 XetHub，将用其技术替换 Hub 的 Git LFS 存储后端
Hugging Face 宣布收购西雅图公司 XetHub，其创始团队此前在 Apple 构建并扩展内部 ML 基础设施，XetHub 的技术可让 Git 扩展到 TB 级仓库。
推荐理由：Hugging Face 收购 XetHub 并计划替换 Hub 的 Git LFS 存储后端，读者可了解大文件版本管理将如何变化。
全部AI 动态
全部动态
今日 35 条Hugging Face Blog精选AI 评分6262 OpenAI NewsAI 评分1818 OpenAI 与 Rakuten 如何用 API 结合数据释放客户价值
Rakuten 将数据与 AI 结合，用于挖掘客户洞察并释放价值。该案例展示了通过 API 把数据接入 AI 能力的方式，帮助从数据中获得客户洞察。
Mistral AIAI 评分5050 Mistral AI 推出模型定制、Agents 预览版与 mistralai 1.0 SDK
Mistral AI 宣布在 La Plateforme 上支持对 Mistral Large 2 和 Codestral 等旗舰及专用模型进行定制，可通过基础提示词、few-shot 提示或微调实现，并支持自带数据集。
OpenAI News精选AI 评分6262 OpenAI 在 API 中推出结构化输出
OpenAI 在 API 中推出结构化输出，模型输出现在可以可靠地遵循开发者提供的 JSON Schema。
推荐理由：OpenAI 在 API 中引入结构化输出，开发者可据此判断 JSON Schema 约束对下游解析流程的影响。
Hugging Face BlogAI 评分2828 Hugging Face 与 Albumentations AI 推出面向文档图像的 TextImage 数据增强
Hugging Face 与 Albumentations AI 合作推出 TextImage 数据增强流程，可同时修改文档图像及其文本标注，用于视觉语言模型（VLM）微调。该流程支持随机插入、删除、交换和停用词替换等文本增强，并配合图像黑化与修复，保持文本质量。初始版本中的同义词替换因耗时过高已被移除。
Hugging Face BlogAI 评分2222 Hugging Face 2024 年安全功能盘点
Hugging Face 梳理了截至 2024 年 8 月 6 日 Hub 上的安全功能：面向所有用户的细粒度 token、2FA、GPG commit signing、组织访问控制，以及基于 ClamAV、picklescan、trufflehog 的自动化恶意软件、pickle 与密钥扫描。
Hugging Face Blog精选AI 评分6262 Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充 Gemma 模型系列，新增 2.6B 参数的 Gemma 2 2B（含 base 与指令微调版）、安全分类器 ShieldGemma 以及稀疏自编码器套件 Gemma Scope。
推荐理由：Gemma 2 新增 2B 小模型、安全分类器和可解释性工具，读者可据此判断端侧部署与安全过滤的可用选项。
Hugging Face BlogAI 评分3636 用 Quanto 和 Diffusers 实现内存高效的 Diffusion Transformer
Hugging Face 展示如何借助 Diffusers 库中的 Quanto 量化工具降低 Transformer 扩散模型的内存占用。以 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 为例，将扩散主干与文本编码器量化至 FP8 后，SD3 推理显存从 16.403 GB 降至约 8.2 GB，质量几乎无损、延迟仅小幅上升。
Hugging Face BlogAI 评分3838 Hugging Face 与 NVIDIA 推出 NVIDIA NIM API 无服务器推理服务
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API（无服务器），可在 Hugging Face Hub 上以标准化 API 对 Llama、Mistral 等开源模型运行推理。
OpenAI News精选AI 评分6262 OpenAI 测试搜索功能原型 SearchGPT
OpenAI 正在测试 SearchGPT，这是新搜索功能的临时原型，可提供快速及时的答案并附上清晰相关的来源。
推荐理由：OpenAI 官方公布搜索功能原型 SearchGPT 的测试消息，可据此了解其搜索产品的方向。
Hugging Face BlogAI 评分2222 LAVE：用 LLM 在 Docmatix 上做零样本 VQA 评测，我们还需要微调吗？
Hugging Face 提出 LAVE（LLM-Assisted VQA Evaluation）指标，用 Llama-2-Chat-7b 以 1-3 分制对候选答案打分，在 Docmatix 的 200 张图像子集上评估 MPLUGDocOwl1.5 的零样本表现，LAVE 得分 0.58，而 CIDER 仅 0.1411、BLEU 0.0032、ANLS 0.002。
Mistral AI精选AI 评分7878 Mistral AI 发布 Mistral Large 2，123B 参数支持 128k 上下文
Mistral AI 发布新一代 Mistral Large 2，拥有 128k 上下文窗口和 123B 参数，可在单节点上以较大吞吐运行，支持包括中文、日文、韩文在内的数十种语言和 80 多种编程语言。
推荐理由：官方给出 Mistral Large 2 的 128k 上下文、123B 参数与多项基准对比，可据此判断其单节点部署的成本位置。
OpenAI NewsAI 评分4040 OpenAI 用基于规则的奖励（RBRs）提升模型安全行为
OpenAI 开发并应用了一种基于规则的奖励（RBRs）新方法，让模型在无需大量人工数据采集的情况下对齐至安全行为。
Hugging Face Blog精选AI 评分8888 Llama 3.1 发布：405B、70B 与 8B，支持多语言和长上下文
Meta 发布 Llama 3.1，包含 8B、70B、405B 三个尺寸的 base 与 instruct 版本共六个开放权重模型，全部支持 128K token 上下文和 8 种语言，并新增 Llama Guard 3 与 Prompt Guard 两个安全模型。
推荐理由：Hugging Face 官方给出 Llama 3.1 三个尺寸的显存需求、量化方案与工具调用格式，便于评估部署成本。
Hugging Face Blog精选AI 评分6060 WWDC 24：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 发布教程，介绍如何借助 WWDC 24 的新 Core ML 特性在 Mac 上运行 Mistral 7B，并用不到 4GB 内存完成推理。
推荐理由：Hugging Face 团队给出把 Mistral 7B 转成 Core ML 并跑在 Mac 上的完整步骤，可据此复现端侧 LLM 部署流程。
OpenAI News精选AI 评分7878 OpenAI 发布 GPT-4o mini，主打低成本智能
OpenAI 发布 GPT-4o mini，定位为更具成本效率的智能模型。
Mistral AI精选AI 评分7777 Mistral 与 NVIDIA 联合发布 12B 模型 Mistral NeMo
Mistral AI 与 NVIDIA 合作发布 12B 模型 Mistral NeMo，支持最高 128k token 上下文窗口，预训练基座与指令微调 checkpoint 均以 Apache 2.0 许可开源。
推荐理由：Mistral 与 NVIDIA 合作的 12B 模型以 Apache 2.0 开源，128k 上下文和 FP8 推理对部署选型有直接参考。
Hugging Face Blog精选AI 评分6262 Hugging Face TGI 推出 Multi-LoRA 服务：一次部署可服务 30 个模型
Hugging Face 为 TGI 推出 Multi-LoRA 服务，只需部署一次基础模型，即可根据请求中的 adapter_id 动态选择对应的 LoRA 适配器，官方称可服务 30 个模型。
推荐理由：原文给出 TGI Multi-LoRA 的部署方式与成本对比，读者可据此判断多微调模型能否合并到一次部署。
OpenAI NewsAI 评分2525 OpenAI 为 ChatGPT Enterprise 推出合规与管理工具
OpenAI 为 ChatGPT Enterprise 新增 Compliance API 集成、SCIM 和 GPT 控制功能，用于支持大规模合规项目、数据安全与用户访问管理。
Hugging Face BlogAI 评分3838 Hugging Face 发布 Docmatix：超大规模文档视觉问答数据集
Hugging Face 发布 Docmatix，一个包含 240 万张图像、950 万问答对（源自 130 万份 PDF）的文档视觉问答数据集，规模是此前数据集的 240 倍。
OpenAI NewsAI 评分4040 OpenAI 用证明者-验证者博弈提升语言模型输出的可读性
OpenAI 提出用证明者-验证者博弈（Prover-Verifier Games）提升语言模型输出的可读性，让 AI 给出的解答更清晰、更易被验证。该方法旨在使模型输出对人类和机器都更可信。
Mistral AIAI 评分4242 Mistral AI 发布数学推理模型 Mathstral 7B
Mistral AI 发布专注 STEM 的数学推理模型 Mathstral 7B，基于 Mistral 7B，在 MATH 上得分 56.6%、MMLU 上得分 63.47%，在同规模模型中达到 SOTA。
Mistral AI精选AI 评分7171 Mistral 发布 Codestral Mamba 代码模型
Mistral AI 发布 Codestral Mamba，这是继 Mixtral 系列之后对 Mamba 架构的又一次探索，采用 Apache 2.0 许可，可自由使用、修改和分发。
推荐理由：Mistral 发布基于 Mamba 架构的代码模型，给出参数规模、256k 检索测试与多种部署方式，可据此判断非 Transformer 架构在代码场景的可用性。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolLM 系列小模型，含 135M、360M、1.7B 三个尺寸
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三个参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：原文公开了三个尺寸小模型的训练数据配比与评测对比，可据此判断端侧小模型的选型与数据策略。
Hugging Face BlogAI 评分2222 如何用 distilabel 打造 Argilla 2.0 聊天机器人
Hugging Face 博客展示了如何用 distilabel 生成合成数据、微调领域专用嵌入模型，并为 Argilla 2.0 构建能理解技术文档的聊天机器人。流程包括将文档按约 256 token 分块、构建向量数据库，并将 Gradio 应用部署到 Hugging Face Space，交互记录存入 Argilla 用于持续评估改进。
Hugging Face Blog精选AI 评分6262 NuminaMath 如何赢得首届 AIMO 进步奖
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖，在私有测试集 50 题中解出 29 题。方案基于 DeepSeekMath-Base 7B 做两阶段全量微调，先学自然语言链式推理，再学工具集成推理，配合 SC-TIR 解码生成 N=48、深度 M=4 的候选并多数投票。
推荐理由：获胜方案完整公开了两阶段微调、SC-TIR 解码与内部验证集设计，可迁移到其他推理任务。
OpenAI NewsAI 评分3838 OpenAI 与洛斯阿拉莫斯国家实验室宣布研究合作
OpenAI 与洛斯阿拉莫斯国家实验室宣布建立研究合作，双方将开发安全评估方法，用于评估和衡量前沿模型相关的生物能力与风险。
Hugging Face BlogAI 评分3636 Hugging Face 在 Dataset Hub 上用 Presidio 试验 PII 自动检测
Hugging Face 正在 Dataset Hub 上试验一项基于开源 PII 检测工具 Presidio 的新功能，用户可查看数据集 PII 含量的估算报告。Presidio 依靠检测模式和机器学习模型识别 PII，报告可帮助开发者在训练前决定是否进一步过滤数据，也便于数据集所有者验证自身的 PII 过滤流程。
Hugging Face BlogAI 评分4242 Hugging Face 与 KerasHub 宣布集成：可直接加载 Transformers 模型
Hugging Face 与 KerasHub 宣布共享模型保存格式，Hugging Face Hub 上 30 万+ Transformers 模型现可直接加载进 KerasHub。首批支持 Gemma 1/2、Llama 3 和 PaliGemma，模型可在 TensorFlow、JAX、PyTorch 后端间一行代码切换。需升级 keras-hub 及 keras>=3.3.3。
Hugging Face BlogAI 评分3636 Hugging Face TRL 库新增 VLM 直接偏好优化（DPO）支持
Hugging Face 的 TRL 库现已支持视觉语言模型（VLM）的直接偏好优化（DPO），并给出完整训练教程。示例使用 Idefics2-8b 模型和 openbmb/RLAIF-V-Dataset（含超 83,000 条标注数据），TRL 的 DPO 实现同时支持 Llava 1.5 和 PaliGemma。
Hugging Face BlogAI 评分4242 Google Cloud TPU 上线 Hugging Face Inference Endpoints 和 Spaces
Hugging Face 用户现可在 Inference Endpoints 和 Spaces 上使用 Google Cloud TPU v5e，提供 v5litepod-1（1 核 16 GB，$1.375/小时）、v5litepod-4（4 核 64 GB，$5.50/小时）和 v5litepod-8（8 核 128 GB，$11.00/小时）三种配置。
Hugging Face BlogAI 评分2222 Banque des Territoires x Polyconseil x Hugging Face：用主权数据方案升级法国校园环保项目 EduRénov
Banque des Territoires（CDC 集团）、Polyconseil 与 Hugging Face 合作，为法国校园环保改造项目 EduRénov 构建基于 RAG 的主权数据方案，第一阶段已完成。
Hugging Face BlogAI 评分2222 Hugging Face Dataset Hub 新增四项数据集搜索功能：按模态、大小、格式和库筛选
Hugging Face 为 Dataset Hub 的数据集搜索新增四项筛选功能：按模态（文本、图像、音频、表格、时间序列、3D、视频、地理空间）、按行数大小、按格式（如 Parquet、WebDataset）以及按兼容库（如 Pandas、Dask、Datasets）搜索。
Hugging Face BlogAI 评分2222 在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 与 MILA 将多模态蛋白质设计语言模型 ProtST 重新架构并发布在 Hugging Face Hub，可用 Optimum for Intel Gaudi 库在 Gaudi 2 上运行推理与微调。
Hugging Face Blog精选AI 评分6262 Hugging Face 的 Transformers Code Agent 登顶 GAIA 基准
Hugging Face 用基于 transformers.agents 构建的 ReactCodeAgent 在 GAIA 基准验证集上取得 44.2%，排名第一，比第二名高 4 个百分点；测试集得分 33.3%，排名第二，并在 Level 3 难题上取得最佳平均分。
推荐理由：Hugging Face 公开了用 Code Agent 登顶 GAIA 的完整实现细节，包括工具设计、安全解释器与规划策略，可迁移到自建智能体系统。
OpenAI News精选AI 评分6060 OpenAI 用 GPT-4 训练 CriticGPT 发现 GPT-4 的错误
OpenAI 发布基于 GPT-4 的模型 CriticGPT，用于对 ChatGPT 的回复撰写批评意见，帮助人类训练员在 RLHF 过程中发现错误。
推荐理由：OpenAI 提出用 GPT-4 训练的 CriticGPT 辅助人类标注者发现 ChatGPT 回复中的错误，可用于 RLHF 环节。
OpenAI NewsAI 评分2626 OpenAI 与 TIME 达成战略内容合作
OpenAI 与 TIME 达成战略内容合作，将接入 TIME 101 年的档案内容，用于增强模型回答并提供 Time.com 文章链接。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma 2，含 9B 与 27B 两个版本
Google 发布开源大模型 Gemma 2，提供 9B 和 27B 两个规模，各有基础版与指令微调版，上下文长度 8K tokens，采用允许商用和再分发的宽松许可。
推荐理由：文章梳理了 Gemma 2 的滑动窗口注意力、软上限与蒸馏等训练改动，并给出与 Llama 3、Qwen 1.5 的基准对比。
Hugging Face BlogAI 评分2222 XLSCOUT 发布 ParaEmbed 2.0：面向专利与 IP 的嵌入模型，获 Hugging Face 专家支持
XLSCOUT 发布专为专利与知识产权打造的嵌入模型 ParaEmbed 2.0，基于高质量多领域专利数据微调，准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Hugging Face BlogAI 评分2222 Hugging Face 探讨数据质量为何是构建更好 AI 的关键
Hugging Face 发布 Ethics and Society Newsletter #6，探讨高质量数据对 AI 开发的重要性。文章指出好数据应契合具体用途，需具备相关性、全面性、时效性并减少偏见，因为数据质量直接影响模型性能、鲁棒性、效率与公平性。