Hugging Face 支持用 AWS 账户订阅 Enterprise Hub
Hugging Face 现已支持通过 AWS 账户将组织升级至 Enterprise Hub，订阅入口为 AWS Marketplace，定价与 Hugging Face 公开价格一致，但账单由 AWS 账户结算。
全部AI 动态
全部动态
今日 11 条Hugging Face BlogAI 评分2222 Hugging Face BlogAI 评分2222 用 Intel Gaudi 2 和 Intel Xeon 构建高性价比企业级 RAG 应用
Intel 展示了基于 OPEA 平台、用 Intel Gaudi 2 加速器和 Xeon CPU 构建企业级 RAG 应用的方案，嵌入模型跑在 Granite Rapids CPU 上，LLM 跑在 Gaudi 2 上。
OpenAI NewsAI 评分2828 OpenAI 推出内容溯源新技术并加入 C2PA 指导委员会
OpenAI 推出新技术，帮助研究人员识别由其工具生成的内容，同时加入内容来源与真实性联盟（C2PA）指导委员会以推动行业标准。
OpenAI NewsAI 评分1818 OpenAI 的数据与 AI 方法：推出面向创作者和内容所有者的 Media Manager
OpenAI 阐述了其在 AI 时代处理数据的方式，并推出面向创作者和内容所有者的新工具 Media Manager。此时距 ChatGPT 发布仅一年有余，AI 正改变人们生活、工作和学习的方式，也引发了关于数据的重要讨论。
OpenAI NewsAI 评分4040 OpenAI 与 Stack Overflow 达成 API 合作
Stack Overflow 与 OpenAI 宣布达成 API 合作，将这一技术知识平台与 OpenAI 的大语言模型结合，为开发者提供支持。Stack Overflow 称其为全球领先的高技术内容知识平台，OpenAI 的模型则被称为最受欢迎的 AI 开发 LLM。
Hugging Face BlogAI 评分2222 Hugging Face 推出希伯来语 LLM 开放排行榜
Hugging Face 发布希伯来语 LLM 开放排行榜，用于评估和提升希伯来语语言模型。该排行榜包含希伯来语问答、情感准确率、Winograd Schema Challenge 和英希翻译四项基准，采用 few-shot 提示格式，模型通过 HuggingFace Inference Endpoints 部署、由 lighteval 库评估。
Hugging Face BlogAI 评分4040 Artificial Analysis LLM 性能排行榜登陆 Hugging Face
Artificial Analysis 将其覆盖 100 多个 serverless LLM API 端点的 LLM 性能排行榜带到 Hugging Face，综合对比模型的质量、价格、吞吐与延迟。
Hugging Face BlogAI 评分4242 Hugging Face Inference Endpoints 实现 Whisper ASR + 说话人分离 + 推测解码
Hugging Face 通过自定义 inference handler，在 Inference Endpoints 上将 Whisper 的 ASR、基于 Pyannote 的说话人分离（diarization）与推测解码整合到单一 API 端点。
OpenAI NewsAI 评分4040 OpenAI 封禁与"Spamouflage"行动关联的账号
OpenAI 封禁了一批与源自中国的"Spamouflage"行动关联的账号，该行动利用 AI 研究社交媒体活动、生成帖文并调试一个此前未被报道的网站。
OpenAI NewsAI 评分3838 OpenAI 封禁俄罗斯"Doppelganger"影响力行动相关账号
OpenAI 封禁了与俄罗斯背景行动"Doppelganger"相关的账号，该行动利用 AI 生成反乌克兰的社交媒体评论、翻译及网站文案，覆盖多种语言。
OpenAI NewsAI 评分3838 OpenAI 封禁伊朗相关影响力账号网络 IUVM
OpenAI 封禁了与伊朗背景行动 "IUVM" 相关的账号，该行动利用 AI 生成并翻译亲伊朗、反以色列和反美的网站内容。
OpenAI News精选AI 评分6060 OpenAI 封禁与以色列相关影响力行动 Zero Zeno 的账号
OpenAI 封禁了一批与一个此前未被报道、源自以色列的影响力行动相关的账号，该行动被其命名为 Zero Zeno。这些账号使用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党以及亲以色列总工会的内容。
推荐理由：OpenAI 披露其封禁与以色列相关影响力行动账号，读者可了解平台如何界定并处置 AI 滥用。
OpenAI NewsAI 评分5050 OpenAI 封禁与俄罗斯关联的 Telegram 评论操作 "Bad Grammar"
OpenAI 封禁了一批与名为 "Bad Grammar" 的俄罗斯来源行动相关的账号，该行动利用 AI 在 Telegram 上生成英语和俄语评论，涉及乌克兰、摩尔多瓦、波罗的海地区及美国政治话题。这一行动此前未被报道过。
Hugging Face BlogAI 评分3838 Hugging Face 与 .txt 用结构化生成提升提示词一致性
Hugging Face 的 Leaderboards and Evals 团队发现，同一任务下仅改变提示词格式，模型得分波动可达约 10 分，Qwen1.5-7B 在两种格式下准确率分别为 22.9% 和 51.2%，且模型排名也会随格式变化。
Hugging Face Blog精选AI 评分6262 StarCoder2-15B-Instruct 发布：全透明自对齐代码生成模型
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1，这是首个完全自对齐、全透明且许可宽松的代码 LLM，用 StarCoder2-15B 自生成指令-响应对微调自身，无需人工标注或 GPT-4 蒸馏数据。
推荐理由：StarCoder2-15B-Instruct 用自生成数据完成指令微调，读者可据此了解不依赖 GPT-4 蒸馏的代码模型训练路径。
OpenAI NewsAI 评分4242 OpenAI 将《金融时报》内容引入 ChatGPT
OpenAI 与《金融时报》达成合作，将这家媒体的新闻内容带入 ChatGPT。双方还将合作为 FT 读者打造新的 AI 体验。
OpenAI News精选AI 评分7070 OpenAI 宣布 GPT-4 API 全面开放，并公布旧版 Completions API 模型退役计划
OpenAI 宣布 GPT-4 API 全面开放，GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步全面开放。同时公布旧版 Completions API 模型的退役计划，这些模型将于 2024 年初退役。
推荐理由：OpenAI 公布 GPT-4 等 API 全面开放及旧模型退役时间表，读者可据此安排接口迁移。
OpenAI News精选AI 评分8080 OpenAI 推出 ChatGPT 和 Whisper API
OpenAI 发布 ChatGPT 和 Whisper API，将 ChatGPT 与 Whisper 的模型能力以 API 形式开放给开发者调用。
OpenAI NewsAI 评分00 OpenAI 加速救命疗法的开发
OpenAI 正在加速救命疗法的开发。
OpenAI NewsAI 评分4242 OpenAI 为 API 客户推出更多企业级功能
OpenAI 为 API 客户新增更多安全功能与控制项，并更新 Assistants API，同时提供更好地管理成本的工具。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Open CoT Leaderboard，用准确率增益衡量大模型思维链能力
Hugging Face 发布 Open CoT Leaderboard，不评模型绝对准确率，而是对比有无思维链提示时的准确率增益 Δ。该榜单覆盖 LogiQA、LSAT 等多项选择题任务，目前实现 Classic 和 Reflect 两种思维链生成策略，Mixtral-8x7B-Instruct-v0.1 已参与测试。
Hugging Face BlogAI 评分4040 Hugging Face 开源通用智能体 JAT：一个 Transformer 玩转 Atari、机器人控制与导航
Hugging Face 发布通用智能体项目 Jack of All Trades（JAT），基于 GPT-Neo 的 Transformer 架构，用单一网络在 Atari 57。
OpenAI NewsAI 评分4242 OpenAI 提出指令层级：训练 LLM 优先执行高优先级指令
OpenAI 提出"指令层级"方法，通过训练让 LLM 优先执行高优先级指令，以抵御提示词注入、越狱等攻击。当前 LLM 易被对抗者用恶意提示词覆盖原始指令，该方法旨在解决这一安全问题。
Hugging Face BlogAI 评分3636 Hugging Face 发布 Open Medical-LLM Leaderboard：医疗大模型基准评测
Hugging Face 推出 Open Medical-LLM Leaderboard，用统一平台评测大语言模型在医疗任务上的表现，以准确率为主要指标，覆盖 MedQA、MedMCQA、PubMedQA 及 MMLU 的医学与生物学子集。
Hugging Face Blog精选AI 评分8888 Meta 发布 Llama 3 开源大模型，Hugging Face 同步集成
Meta 发布 Llama 3 系列开源大模型，包含 8B 和 70B 两个尺寸的 base 与 instruct 版本，并同步发布基于 Llama 3 8B 微调的安全模型 Llama Guard 2，全部 5 个模型已上线 Hugging Face。
推荐理由：Meta 发布 Llama 3 并同步接入 Hugging Face 生态，读者可了解新分词器、GQA 与 15T token 训练带来的变化。
Mistral AI精选AI 评分7878 Mistral 发布开源模型 Mixtral 8x22B
Mistral 发布开源模型 Mixtral 8x22B，采用稀疏 MoE 架构，141B 总参数中仅 39B 激活参数，以 Apache 2.0 许可开放。该模型支持英语、法语、意大利语、德语和西班牙语，具备数学与编码能力，原生支持函数调用，上下文窗口为 64K tokens。
推荐理由：官方给出 Mixtral 8x22B 的激活参数、上下文窗口与多语言、数学编码基准，便于判断其成本效率定位。
Hugging Face BlogAI 评分4040 Hugging Face 推出 LiveCodeBench 排行榜：面向代码 LLM 的无污染整体评估
Hugging Face 上线 LiveCodeBench 排行榜，该基准由 UC Berkeley、MIT 和 Cornell 研究者开发，从 LeetCode、AtCoder、CodeForces 持续收集带发布日期的编程题，通过“随时间滚动”评估窗口检测并防止数据污染。
Hugging Face BlogAI 评分2222 Gradio 如何用 Reload Mode 快速构建 AI 应用
Gradio 推出 reload mode，用 `gradio app.py` 替代 `python app.py` 启动应用，即可在不重启服务器的情况下拉取源码最新改动。
Hugging Face BlogAI 评分3434 在 Hugging Face Endpoints 上运行隐私保护推理
Zama 团队将基于全同态加密（FHE）的 Concrete ML 预编译模型部署到 Hugging Face Endpoints，用户可通过自定义 inference handler 一键部署并运行加密推理。
Hugging Face BlogAI 评分1616 Ryght 借助 Hugging Face 专家支持打造医疗与生命科学生成式 AI 平台，Ryght Preview 正式上线
Ryght 正式公开发布面向生命科学知识工作者的生成式 AI 平台 Ryght Preview，免费且安全。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Idefics2：8B 多模态视觉语言模型
Hugging Face 发布 Idefics2，一个 8B 参数、Apache 2.0 许可的通用多模态模型，可处理任意文本与图像序列并生成文本回复，支持图像问答、文档信息抽取和基础算术。
推荐理由：8B 参数、Apache 2.0 许可并同步开源指令微调数据集，读者可据此判断多模态微调的门槛变化。
OpenAI NewsAI 评分4242 OpenAI 在东京设立亚洲首个办公室，并发布日语优化 GPT-4 定制模型
OpenAI 宣布在亚洲开设首个办公室，落地日本东京，同时发布一款针对日语优化的 GPT-4 定制模型。
Hugging Face BlogAI 评分5252 视觉语言模型解析：从原理、选型到用 TRL 微调
Hugging Face 发布视觉语言模型入门文章，介绍其图像编码器、嵌入投影与文本解码器的常见结构，并盘点 LLaVA 1.6、DeepSeek-VL、CogVLM、Qwen-VL 等开源模型。
Hugging Face BlogAI 评分4242 Hugging Face 与 Google Cloud 合作：数千个开源 LLM 一键部署至 Vertex AI Model Garden
Hugging Face 推出 Deploy on Google Cloud，可将数千个开源模型通过 Vertex AI 或 GKE 部署为自有 Google Cloud 账户内的 API Endpoint。
Hugging Face Blog精选AI 评分6060 Google 发布代码专用模型 CodeGemma，含 2B 与 7B 三个版本
Google 发布代码专用模型系列 CodeGemma，基于预训练的 2B 和 7B Gemma checkpoint，额外用 5000 亿 token 的英文、数学和代码数据训练，包含 2B base、7B base 和 7B instruct 三个版本，均保持 8K token 上下文。
推荐理由：Google 与 Hugging Face 联合发布三款代码专用 Gemma 模型，读者可据此了解其规格、基准表现与部署方式。
OpenAI NewsAI 评分4242 Klarna 的 AI 助手完成 700 名全职客服的工作
Klarna 的 AI 助手承担了相当于 700 名全职客服的工作量。该 AI 助手被用于革新个性化购物、客户服务和员工生产力。
OpenAI NewsAI 评分4040 OpenAI 改进微调 API 并扩展自定义模型计划
OpenAI 为微调 API 增加新功能，让开发者对微调拥有更多控制权，同时公布构建自定义模型的新方式。
Hugging Face BlogAI 评分4242 Hugging Face 与 Wiz Research 合作提升 AI 安全
Hugging Face 宣布与云安全公司 Wiz 合作提升平台及 AI/ML 生态安全，Wiz 研究团队通过 pickle 在沙箱计算环境中运行任意代码，发现了平台安全短板，相关问题已全部修复。Hugging Face 已将 Wiz 用于漏洞管理和云安全态势管理（CSPM），并基于其工具自动修复 Spaces 等产品中的问题。
Hugging Face BlogAI 评分3232 用 Hugging Face Dataset Viewer API 和 MotherDuck DuckDB-NSQL-7B 实现 Text2SQL
MotherDuck 与 Numbers Station 推出 DuckDB-NSQL-7B，一个专为 DuckDB SQL 打造的大语言模型，基于 Meta Llama-2-7b 微调并进一步用 DuckDB text-to-SQL 数据对精调，可生成包括官方文档和扩展在内的多种有效 DuckDB SQL 语句。
Hugging Face BlogAI 评分3636 在 Intel Xeon 上用 🤗 Optimum Intel 实现极速 SetFit 推理
借助 🤗 Optimum Intel 对 SetFit 模型做训练后静态量化（PTQ），可在 Intel Xeon CPU 上把推理速度提升 7.8 倍，实现生产级部署。该量化基于 Intel Neural Compressor，只需约 100 条无标注校准样本、无需训练，即可在保持精度的同时降低内存占用与延迟，Optimum Intel 版本需不低于 1.14.0。