Hugging Face 为 PRO 用户推出 Inference for PROs，提供精选模型专属 API
Hugging Face 为 PRO 用户推出 Inference for PROs，提供 Meta Llama 3 Instruct、Mixtral 8x7B Instruct。
#开源生态
#开源生态
今日 0 条Hugging Face BlogAI 评分4242
Hugging Face BlogAI 评分2222 Hugging Face 发布 Object Detection Leaderboard：目标检测模型评测与指标解读
Hugging Face 推出 Object Detection Leaderboard，对 Hub 上的目标检测模型按指标排名，并详解 IoU、Average Precision（AP）与 Average Recall（AR）等评测指标的计算方式。文章还分析了不同报告中模型结果出现分歧的原因，帮助开发者按应用需求挑选开源检测模型。
Hugging Face Blog精选AI 评分6262 3D Gaussian Splatting 入门：原理、训练流程与图形学前景
Hugging Face 博客发布 3D Gaussian Splatting 入门介绍，说明这是一种从少量图像学习逼真场景并实时渲染的栅格化技术。文章拆解了完整流程：先用 COLMAP 做 Structure from Motion 估计点云，再把每个点转成高斯并训练，训练中通过可微高斯栅格化计算损失，并按梯度大小自动分裂、克隆或剪枝高斯。
推荐理由：文章把 3D Gaussian Splatting 的流程拆成可理解的步骤，并列出显存、磁盘与渲染管线兼容性等实际限制。
Hugging Face BlogAI 评分2828 如何在生产环境中优化你的 LLM
Hugging Face 博客总结了生产环境部署 LLM 的三大优化方向：降低数值精度至 8-bit 和 4-bit、采用 Flash Attention 注意力算法，以及 Alibi、Rotary embeddings、MQA、GQA 等架构改进。
Hugging Face Blog精选AI 评分6262 Würstchen 发布：面向图像生成的高效扩散模型
Würstchen 是一个文本条件扩散模型，其文本条件部分在高度压缩的潜空间中工作，通过 Stage A 的 VQGAN 与 Stage B 的 Diffusion Autoencoder 组成 Decoder，实现 42x 空间压缩，Stage C 作为 Prior 在该潜空间中训练。
推荐理由：原文给出 42x 空间压缩与训练算力对比，读者可据此判断高效扩散模型在成本上的取舍。
Hugging Face Blog精选AI 评分6262 用 PyTorch FSDP 微调 Llama 2 70B
Hugging Face 发布教程，介绍如何用 PyTorch FSDP 结合 Transformers、Accelerate 和 TRL 微调 Llama 2 70B，并在 2 节点 16 张 A100 80GB 上完成训练，耗时约 13.5 小时。
推荐理由：原文给出 70B 模型多节点微调的三个具体瓶颈及对应配置改法，可迁移到其他大模型训练场景。
Hugging Face BlogAI 评分4040 Hugging Face Transformers 原生支持的量化方案概览
Hugging Face Transformers 目前原生支持 bitsandbytes 和 auto-gptq 两种量化方案，前者无需校准数据即可开箱量化任意含 torch.nn.Linear 的模型，后者在文本生成上更快且支持 2-bit 量化。bitsandbytes 的 4-bit 模型暂不支持序列化，GPTQ 则需校准数据集且目前仅适用于语言模型。
Hugging Face BlogAI 评分4040 Hugging Face SafeCoder 与闭源代码助手对比：StarCoder 驱动的企业级方案
Hugging Face 发布企业级代码助手 SafeCoder，基于 155 亿参数的 StarCoder 开源模型，支持 80 多种编程语言和 8192 token 上下文窗口。相比 GitHub Copilot 等闭源服务，SafeCoder 提供模型透明度、企业自定义微调、本地或云端部署及完全离线运行能力，提示词与建议数据不会回传 Hugging Face。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 SDXL 带来 T2I-Adapter 可控生成支持
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作，在 diffusers 中为 Stable Diffusion XL 加入 T2I-Adapter 支持，并发布 sketch、canny、lineart、depth、openpose 五种条件的预训练 checkpoint。
推荐理由：对比 ControlNet 的参数与显存占用，说明 T2I-Adapter 在 SDXL 可控生成上的效率取舍。
Hugging Face Blog精选AI 评分7878 TII 的 Falcon 180B 上线 Hugging Face
TII 发布 Falcon 180B 并上线 Hugging Face，参数规模 1800 亿，在 3.5 万亿 token 的 RefinedWeb 数据上预训练，是当时最大的公开可用语言模型。
推荐理由：Falcon 180B 以 1800 亿参数和 3.5 万亿 token 预训练规模进入开源生态，读者可据此了解当时开源模型与闭源模型的差距。
Hugging Face BlogAI 评分1212 Fetch 借助 Amazon SageMaker 与 Hugging Face 将 ML 处理延迟降低 50%
Fetch 在 Amazon SageMaker 上结合 Hugging Face AWS Deep Learning Container 与 Hugging Face Inference Toolkit 优化其 ML 流水线，将最慢扫描的延迟降低 50%，文档理解模型准确率提升 200%。
Hugging Face Blog精选AI 评分8282 Code Llama 发布：Llama 2 学会写代码
Meta 发布 Code Llama，基于 Llama 2 初始化并在 5000 亿 token 代码数据上训练，提供 7B、13B、34B 三种规格，另有 Python 专用版和指令微调版，采用与 Llama 2 相同的社区许可并允许商用。
推荐理由：梳理 Code Llama 三种规格与 Python 专用、指令微调变体的差异，并给出 Hugging Face 生态的接入方式与基准对比。
Hugging Face BlogAI 评分5050 Hugging Face 推出企业级代码助手 SafeCoder
Hugging Face 发布面向企业的端到端代码助手 SafeCoder，基于 BigCode 项目的 StarCoder 系列代码大模型，支持客户在自有基础设施上自托管部署，训练与推理全程代码不离开 VPC。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 IDEFICS：Flamingo 的开源复现视觉语言模型
Hugging Face 发布开源视觉语言模型 IDEFICS，基于 DeepMind 未公开的 Flamingo 复现，接受任意图像与文本序列输入并生成文本，提供 9B 和 80B 两个参数规模及对应的 instruct 版本。
推荐理由：Hugging Face 复现了未开源的 Flamingo，并公开训练数据、技术教训与红队评估过程，读者可据此了解开源多模态模型的复现路径。
Hugging Face Blog精选AI 评分6262 用 DPO 微调 Llama 2：TRL 库教程与代码
Hugging Face 博客介绍 TRL 库新增的 DPO 训练支持，并演示如何用 QLoRA 在 stack-exchange 偏好数据上微调 Llama v2 7B。
推荐理由：TRL 官方给出 DPO 微调 Llama 2 的完整代码与数据格式，读者可据此在自己的偏好数据上复现。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Swift Transformers，在 Apple 设备上运行端侧 LLM
Hugging Face 发布 swift-transformers，一个用 Swift 实现类 transformers API 的包，专注文本生成，并同时放出 swift-chat 演示应用、更新版 exporters 与 transformers-to-coreml 转换工具，以及 Llama 2 7B、Falcon 7B 等已转换好的 Core ML 模型。
推荐理由：官方给出在 Apple 设备上跑 Llama 2 等模型的完整工具链与转换路径，可据此评估端侧部署的可行步骤。
Hugging Face BlogAI 评分3030 用 Inference Endpoints 快速部署 MusicGen
Hugging Face 发布教程，介绍如何通过 Inference Endpoints 的自定义 handler 部署音乐生成模型 MusicGen。用户需复制 facebook/musicgen-large 仓库，添加 handler.py 和 requirements.txt，即可创建端点，16 GB RAM 实例即可运行。
Hugging Face BlogAI 评分3535 Zama 用 FHE 加密大语言模型：基于 Hugging Face GPT2 的隐私推理实践
Zama 展示了用全同态加密（FHE）在加密数据上运行大语言模型推理的方案，基于 Hugging Face transformers 库改造 GPT2，将首个多头注意力头用 Concrete-Python 转为 FHE 等价实现。实验显示 4-bit 量化可保留原模型 96% 的精度，客户端本地推理至首层后加密中间结果交由服务器计算，兼顾用户数据隐私与模型 IP 保护。
Hugging Face BlogAI 评分3232 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 用 facebook/fasttext-language-identification 模型为 Hub 上缺少语言标注的数据集预测语言，该模型可识别 217 种语言，通过 dataset viewer API 取每个数据集 20 行文本进行预测，再由 librarian-bots 提交 PR 补充元数据。
Hugging Face Blog精选AI 评分6060 Segmind 开源 SD-Small 与 SD-Tiny 知识蒸馏代码和权重
Segmind 开源了压缩扩散模型 SD-Small 和 SD-Tiny 的权重与蒸馏训练代码，两者参数量分别比基础模型减少 35% 和 55%，同时保持接近的图像保真度。
推荐理由：Segmind 开源了 SD-Small 与 SD-Tiny 的蒸馏代码和权重，读者可了解压缩扩散模型在参数与推理速度上的取舍。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 Apple 用混合位宽量化在 Mac 上运行 Stable Diffusion XL
Hugging Face 与 Apple 将 Stable Diffusion XL 移植到 Core ML，可在运行 macOS 14 公测版的 Apple Silicon Mac 上本地运行。
推荐理由：原文给出混合位宽调色板量化的完整方法与实测数据，读者可据此判断本地跑 SDXL 的体积与质量取舍。
Hugging Face BlogAI 评分2222 Hugging Face 联合 Creative Commons 等发布 EU AI Act 开放 ML 立场文件
Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布立场文件，就 EU AI Act 提出五项建议。
Hugging Face BlogAI 评分2222 Hugging Face 首届开源 AI Game Jam 结果揭晓：Snip It 夺冠
Hugging Face 公布首届开源 AI Game Jam 结果，活动吸引超 1300 人报名、收到 88 款游戏，冠军由 ohmlet 的 Snip It 获得，该游戏用 Stable Diffusion 生成素材。
Hugging Face BlogAI 评分2222 Hugging Face Diffusers 一周年：回顾扩散模型库的主要更新
Hugging Face 的 Diffusers 库迎来一周年，已从文本生成图像扩展到视频、3D 和图像编辑等扩散模型能力。新增支持 DeepFloyd IF、Stability AI SDXL、OpenAI Shap-E 与 Consistency Models，后者在 CPU 上生成一张 256x256 图像仅需 3/4 秒。
Hugging Face Blog精选AI 评分8888 Meta 发布 Llama 2，Hugging Face 全面集成
Meta 发布开源大语言模型家族 Llama 2，包含 7B、13B、70B 三种规模的预训练与微调版本，采用宽松社区许可并允许商用。相比 Llama 1，预训练 token 增加 40%，上下文长度提升至 4k，70B 模型使用 grouped-query attention。
推荐理由：Meta 发布 Llama 2 并开放商用，Hugging Face 同步给出推理、部署与微调入口，可据此判断开源模型的可落地程度。
Hugging Face BlogAI 评分4242 Hugging Face 用 Zeroscope 和 MusicGen 搭建 AI WebTV 实验直播流
Hugging Face 发布 AI WebTV 实验性演示，用开源文生视频模型 Zeroscope V2 和音乐生成模型 MusicGen 自动合成视频与配乐并直播。视频先由 zeroscope_v2_576 生成 576x320 片段，可选经 zeroscope_v2_XL 放大至 1024x576，再经 FILM 插帧和 MusicGen 配乐，通过 FFmpeg 推流至 RTMP 服务器。
Hugging Face BlogAI 评分3434 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 梳理其开源文本生成与 LLM 生态，涵盖因果语言模型与 text-to-text 模型、许可协议、LLM 服务工具及 PEFT 微调。
Hugging Face Blog精选AI 评分6262 用 Transformers.js 打造 ML 驱动的网页游戏 Doodle Dash
Hugging Face 博客介绍如何用 Transformers.js 制作完全在浏览器本地运行的实时 ML 网页游戏 Doodle Dash。作者基于 Google Quick, Draw!
推荐理由：完整演示了从微调 MobileViT 到用 Transformers.js 在浏览器内实时推理的端到端流程，可迁移到其他端侧 ML 项目。
Hugging Face BlogAI 评分4040 如何用 Hugging Face Inference Endpoints 部署 LLM
Hugging Face Inference Endpoints 可将 Falcon 40B instruct 等开源 LLM 部署为生产级 API，无需管理基础设施，支持自动扩缩容与 scale-to-zero。
Hugging Face BlogAI 评分1212 Writer 如何借助 Hugging Face 应对复杂生成式 AI 用例
Writer 联合创始人兼 CTO Waseem Alshikh 与 Hugging Face 的 Jeff Boudier 对谈，讲述 Writer 从 Hugging Face 用户、客户到开源模型贡献者的历程。
Hugging Face Blog精选AI 评分6262 Open LLM Leaderboard 的 MMLU 分数为何与 LLaMA 论文不一致
Hugging Face 解释了 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数明显低于 LLaMA 论文的原因：榜单使用 EleutherAI LM Evaluation Harness，而论文采用 UC Berkeley 的原始 MMLU 实现，两者在提示词、答案提取方式上不同。
推荐理由：同一 MMLU 数据集在三种实现下分数与排名差异明显，读者可据此理解评测口径对模型对比的影响。
Hugging Face BlogAI 评分2222 Hugging Face 就美国 NTIA 的 AI 问责政策提交回应意见
Hugging Face 于 6 月 12 日向美国商务部 NTIA 提交了关于 AI 问责政策的回应意见，强调文档规范与透明度在推动 AI 问责中的作用。其建议问责机制应覆盖 ML 开发全流程、结合内部要求与外部访问透明，并吸纳开发者、多学科研究社区、倡导组织、政策制定者和记者等最广泛参与者。
Hugging Face BlogAI 评分5050 如何为低资源 ASR 微调 MMS Adapter 模型
Hugging Face 发布教程，介绍如何为 Meta AI 的 MMS 模型微调 Adapter 层以适配低资源语言的 ASR 任务。MMS 预训练 checkpoint 覆盖 1400 多种语言、参数量 300M 到 1B，每个 Adapter 层仅约 2.5M 权重，微调 10-20 分钟即可获得极低词错率。对低资源语言，Adapter 训练比全模型微调更省内存、更鲁棒且性能更好。
Hugging Face BlogAI 评分3434 Hugging Face 实测：Transformer 对时间序列预测依然有效，Autoformer 已并入 🤗 Transformers
Hugging Face 用 Autoformer 与 DLinear 在 Traffic、Exchange-Rate、Electricity 三个数据集上对比。
Hugging Face BlogAI 评分2222 Hugging Face 发布新版内容政策与指南
Hugging Face 更新了平台内容政策，以应对机器学习内容审核带来的新挑战，并强调“同意”为核心价值。新政策关注用户对所见内容及自身身份与表达被呈现方式的同意权，同时禁止针对用户和 Hugging Face 员工的攻击性或骚扰性语言。平台鼓励通过 Community Tab 公开讨论并协作解决冲突，用户可通过 feedback@huggingface.co 反馈意见。
Hugging Face BlogAI 评分2222 将 Livebook notebook 作为应用部署到 Hugging Face Spaces
Elixir 社区用 Livebook 构建了一个基于 Whisper 的语音聊天应用，并部署到 Hugging Face Spaces，全程不到 15 分钟。该应用支持多人协作，可并发提供机器学习模型推理服务，并集成了 Hugging Face Models。Livebook 还作为 Space Docker 模板之一，可直接在 Hugging Face Spaces 中免费运行。
Hugging Face BlogAI 评分4040 Hugging Face 与 AMD 达成合作，加速 CPU 和 GPU 平台上的前沿模型
Hugging Face 宣布 AMD 正式加入其硬件合作伙伴计划，双方将共同在 AMD CPU 和 GPU 上优化 Transformer 模型性能。
Hugging Face BlogAI 评分2222 Hugging Face Hub 如何服务美术馆、图书馆、档案馆与博物馆（GLAM）
Hugging Face Hub 目前托管超 190,000 个机器学习模型、33,000 个数据集和超 100,000 个应用与 demo，覆盖文本、图像、音频及多模态任务。这篇博客面向美术馆、图书馆、档案馆与博物馆（GLAM）从业者，介绍如何在 Hub 上按任务和语言筛选模型、用 model widget 测试效果，并以 CSV 格式上传 GLAM 数据集。
Hugging Face BlogAI 评分4242 Hugging Face Hub 集成 DuckDB：用 SQL 分析 5 万+数据集
Hugging Face Hub 新增 DuckDB 集成，用户可直接用 SQL 查询 Hub 上任意公开数据集。数据集查看器会自动将所有公开数据集转换为 Parquet 文件，通过 /parquet 端点获取 URL 后，配合 DuckDB 的 httpfs 扩展即可查询远程文件，大型数据集被分片为 500MB 块。
Hugging Face BlogAI 评分2222 Hugging Face Hub 上线 fastText 官方镜像：157 种语言词向量与语言识别模型
Hugging Face 开始托管 Meta AI 开源的 fastText 官方镜像，涵盖全部 157 种语言的词向量和最新语言识别模型，用户可通过 huggingface_hub 的 hf_hub_download 几行命令下载使用。该集成还支持文本分类与特征提取 widget，模型页面提供语言识别和词向量最近邻查询的在线试用。