Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API
Hugging Face 为 Text Generation Inference（TGI）和 Inference Endpoints 推出 Messages API，从 TGI 1.4.0 起提供与 OpenAI Chat Completion API 兼容的接口，可直接使用 OpenAI 客户端库或 LangChain、LlamaIndex 等第三方工具。
全部AI 动态
全部动态
今日 8 条Hugging Face BlogAI 评分5858
Hugging Face BlogAI 评分4242 Hugging Face Text Generation Inference 上线 AWS Inferentia2 与 Amazon SageMaker
Hugging Face Text Generation Inference（TGI）正式在 AWS Inferentia2 和 Amazon SageMaker 上全面可用，为生产级 LLM 部署提供 GPU 之外的替代方案。
OpenAI NewsAI 评分2020 OpenAI 助力 Digital Green 构建农业数据库，提升农民收入
Digital Green 使用 OpenAI 构建农业数据库，以提升农民收入。
OpenAI News精选AI 评分7070 OpenAI 推出 GPT Store
OpenAI 发布 GPT Store。
OpenAI News精选AI 评分6262 OpenAI 推出 ChatGPT Team 团队套餐
OpenAI 推出面向各类规模团队的新 ChatGPT 套餐 ChatGPT Team，提供安全、可协作的工作空间，帮助团队在工作中充分利用 ChatGPT。
推荐理由：OpenAI 面向各类规模团队推出 ChatGPT 新套餐，读者可了解其安全协作工作区的定位。
OpenAI NewsAI 评分2222 WHOOP 用 GPT-4 提供个性化健身与健康指导
WHOOP 借助 GPT-4 为用户提供个性化的健身与健康指导。该健康解决方案由 LLM 驱动，将大语言模型能力引入个人健康教练场景。
OpenAI NewsAI 评分2020 Summer Health 借助 OpenAI 提升儿科就诊记录准确率
Summer Health 利用 OpenAI 提升儿科就诊记录的准确率，重新构想儿科就诊流程。
Mistral AI精选AI 评分8080 Mistral AI 开放首个平台服务 La Plateforme 测试版
Mistral AI 开放首个平台服务 La Plateforme 的 beta 访问，提供三个 chat 端点和一 个 embedding 端点，各有不同的性能与价格取舍。
推荐理由：Mistral 首次开放平台 API，给出三个 chat 端点与 embedding 端点的性能价格取舍，可据此判断其服务化路线。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Optimum-NVIDIA，一行代码加速 LLM 推理
Hugging Face 发布 Optimum-NVIDIA 推理库，只需把 transformers 的 pipeline 导入改为 optimum.nvidia 一行代码，即可在 NVIDIA 平台获得最高 28 倍吞吐量和 1200 tokens/秒。
推荐理由：官方给出单行代码接入方式与首 token 延迟、吞吐量对比数据，可据此判断现有 LLaMA 推理流程的改造代价。
Hugging Face BlogAI 评分2626 Explosion 推出 Prodigy-HF：与 Hugging Face 直接集成
Explosion 发布 Prodigy-HF 插件，让 Prodigy 标注工具直接对接 Hugging Face 生态。
OpenAI News精选AI 评分8585 OpenAI 发布 GPTs，可创建自定义版 ChatGPT
OpenAI 发布 GPTs，用户现在可以创建自定义版本的 ChatGPT，将指令、额外知识和任意技能组合在一起。该功能由 OpenAI 官方推出，具体开放范围与使用细节原文未进一步说明。
推荐理由：OpenAI 官方发布 GPTs，读者可了解自定义 ChatGPT 的构成方式与开放范围。
Hugging Face BlogAI 评分2222 Hugging Face Hub 推出存储区域功能
Hugging Face 面向 Enterprise Hub 客户推出 Storage Regions，可让组织自行选择模型和数据集的存储位置。目前支持 US 和 EU 两个区域，亚太区即将上线；非默认位置的仓库会直接显示 Region 标签。官方称欧洲用户将仓库放在 EU 区域时，上传和下载速度约为存放在 US 时的 4-5 倍。
Hugging Face BlogAI 评分3838 用 Hugging Face Inference Endpoints 部署嵌入模型
Hugging Face 发布博客，介绍如何通过 Text Embeddings Inference（TEI）将开源嵌入模型部署到 Hugging Face Inference Endpoints，并支持大规模批量请求。
OpenAI News精选AI 评分6767 DALL·E 3 在 ChatGPT Plus 和 Enterprise 上线
OpenAI 宣布 DALL·E 3 已在 ChatGPT Plus 和 Enterprise 中可用。为准备更大范围发布，OpenAI 开发了一套安全缓解方案，并同步分享了其在内容来源溯源方面的研究进展。
推荐理由：OpenAI 官方宣布 DALL·E 3 面向 ChatGPT Plus 和 Enterprise 开放，并同步说明安全缓解措施与来源溯源研究。
Hugging Face Blog精选AI 评分6262 Gradio-Lite 发布：完全在浏览器中运行的无服务器 Gradio
Hugging Face 发布 @gradio/lite，一个借助 Pyodide 让 Gradio 应用直接在浏览器中运行的 JavaScript 库，无需服务端基础设施。
推荐理由：Gradio 官方给出浏览器端无服务器运行方案，读者可据此判断部署成本与加载延迟的取舍。
OpenAI NewsAI 评分2222 Retool 用 GPT-4 为企业构建 AI 应用
Retool 借助 GPT-4 为企业提供快速、安全的 AI 应用构建方式。该方案面向商业场景，强调速度与安全性。
OpenAI NewsAI 评分2222 Ironclad 用 GPT-4 简化合同审查流程
Ironclad 借助 GPT-4 简化合同审查流程。
OpenAI NewsAI 评分3030 Typeform 用 GPT-3.5 和 GPT-4 将在线表单升级为动态数据收集
Typeform 借助 GPT-3.5 和 GPT-4，将在线表单升级为动态、对话式的数据收集体验。
Hugging Face BlogAI 评分4040 ONNX Runtime 加速 Hugging Face 超 13 万个模型
Hugging Face 上已有超过 13 万个支持 ONNX 的模型可借助 ONNX Runtime 加速，其中包括众多 LLM 和云端模型。ONNX Runtime 已支持 90 多个 Hugging Face 模型架构，涵盖 BERT、GPT2、T5、Whisper、Stable-Diffusion 等最热门架构。
OpenAI News精选AI 评分8282 ChatGPT 新增看、听、说能力
OpenAI 宣布 ChatGPT 新增看、听、说能力，可处理图像与语音输入并语音回复。
Hugging Face BlogAI 评分4242 Hugging Face 为 PRO 用户推出 Inference for PROs，提供精选模型专属 API
Hugging Face 为 PRO 用户推出 Inference for PROs，提供 Meta Llama 3 Instruct、Mixtral 8x7B Instruct。
Hugging Face BlogAI 评分4040 Hugging Face SafeCoder 与闭源代码助手对比：StarCoder 驱动的企业级方案
Hugging Face 发布企业级代码助手 SafeCoder，基于 155 亿参数的 StarCoder 开源模型，支持 80 多种编程语言和 8192 token 上下文窗口。相比 GitHub Copilot 等闭源服务，SafeCoder 提供模型透明度、企业自定义微调、本地或云端部署及完全离线运行能力，提示词与建议数据不会回传 Hugging Face。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 SDXL 带来 T2I-Adapter 可控生成支持
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作，在 diffusers 中为 Stable Diffusion XL 加入 T2I-Adapter 支持，并发布 sketch、canny、lineart、depth、openpose 五种条件的预训练 checkpoint。
推荐理由：对比 ControlNet 的参数与显存占用，说明 T2I-Adapter 在 SDXL 可控生成上的效率取舍。
OpenAI NewsAI 评分4040 OpenAI 发布 ChatGPT 教学指南
OpenAI 发布面向教师的 ChatGPT 课堂使用指南，内容包括推荐提示词、ChatGPT 的工作原理与局限、AI 检测工具的有效性以及偏见问题。
OpenAI News精选AI 评分7878 OpenAI 推出 ChatGPT Enterprise
OpenAI 发布 ChatGPT Enterprise，主打企业级安全与隐私，并称其为目前能力最强的 ChatGPT 版本。
推荐理由：OpenAI 官方发布面向企业的 ChatGPT 版本，读者可了解其安全隐私定位与能力版本信息。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 AutoGPTQ 集成进 Transformers，支持 8/4/3/2-bit 量化
Hugging Face 将 AutoGPTQ 库集成进 Transformers，用户可用 GPTQ 算法以 8、4、3 甚至 2-bit 精度量化和运行大语言模型，4-bit 量化精度损失可忽略，小批量下推理速度与 fp16 基线相当。
推荐理由：原文给出了 GPTQ 在 Transformers 中的集成方式与显存、延迟对比数据，读者可据此判断量化部署的可行边界。
OpenAI News精选AI 评分6262 OpenAI 开放 GPT-3.5 Turbo 微调与 API 更新
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调，以适配各自的使用场景，同时更新了 API。
推荐理由：OpenAI 开放 GPT-3.5 Turbo 微调，开发者可用自有数据定制模型，值得关注其对应用落地的影响。
Hugging Face BlogAI 评分5050 Hugging Face 推出企业级代码助手 SafeCoder
Hugging Face 发布面向企业的端到端代码助手 SafeCoder，基于 BigCode 项目的 StarCoder 系列代码大模型，支持客户在自有基础设施上自托管部署，训练与推理全程代码不离开 VPC。
OpenAI NewsAI 评分4242 OpenAI 用 GPT-4 做内容审核
OpenAI 将 GPT-4 用于内容政策制定与内容审核决策，可实现更一致的标注、更快的政策优化反馈闭环，并减少人工审核员的参与。
Hugging Face BlogAI 评分2525 Hugging Face Hub 上线 AWS Marketplace，可用 AWS 账户直接付费
Hugging Face Hub 已上线 AWS Marketplace，用户可通过 AWS 账户订阅并支付 Hugging Face 的使用费用。订阅后，Inference Endpoints、Spaces 硬件升级和 AutoTrain 等服务的组织用量费用将直接计入 AWS 账单，价格与 Hugging Face 公开定价一致。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Swift Transformers，在 Apple 设备上运行端侧 LLM
Hugging Face 发布 swift-transformers，一个用 Swift 实现类 transformers API 的包，专注文本生成，并同时放出 swift-chat 演示应用、更新版 exporters 与 transformers-to-coreml 转换工具，以及 Llama 2 7B、Falcon 7B 等已转换好的 Core ML 模型。
推荐理由：官方给出在 Apple 设备上跑 Llama 2 等模型的完整工具链与转换路径，可据此评估端侧部署的可行步骤。
Hugging Face BlogAI 评分3232 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 用 facebook/fasttext-language-identification 模型为 Hub 上缺少语言标注的数据集预测语言，该模型可识别 217 种语言，通过 dataset viewer API 取每个数据集 20 行文本进行预测，再由 librarian-bots 提交 PR 补充元数据。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 Apple 用混合位宽量化在 Mac 上运行 Stable Diffusion XL
Hugging Face 与 Apple 将 Stable Diffusion XL 移植到 Core ML，可在运行 macOS 14 公测版的 Apple Silicon Mac 上本地运行。
推荐理由：原文给出混合位宽调色板量化的完整方法与实测数据，读者可据此判断本地跑 SDXL 的体积与质量取舍。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Agents.js：用 JavaScript 为 LLM 提供工具调用
Hugging Face 在 huggingface.js 下发布 Agents.js，一个可在浏览器或服务端为 LLM 提供工具访问的 JavaScript 库，通过 npm install @huggingface/agents 安装。
推荐理由：原文给出库的安装方式、代码示例和自定义工具接口，读者可据此判断如何在 JS 项目中接入工具调用。
OpenAI News精选AI 评分6060 OpenAI 为 ChatGPT 推出自定义指令功能
OpenAI 为 ChatGPT 推出自定义指令功能，用户可设置自己的偏好，ChatGPT 会在之后的所有对话中记住这些偏好。
推荐理由：OpenAI 官方说明 ChatGPT 新增自定义指令，读者可据此了解对话偏好设置如何跨会话生效。
Hugging Face BlogAI 评分2222 Hugging Face Diffusers 一周年：回顾扩散模型库的主要更新
Hugging Face 的 Diffusers 库迎来一周年，已从文本生成图像扩展到视频、3D 和图像编辑等扩散模型能力。新增支持 DeepFloyd IF、Stability AI SDXL、OpenAI Shap-E 与 Consistency Models，后者在 CPU 上生成一张 256x256 图像仅需 3/4 秒。
OpenAI NewsAI 评分1818 OpenAI 用 GPT-4 大规模精准分析定性数据
Viable 借助 GPT-4 以革命性规模分析定性数据，并实现前所未有的准确度。该能力面向大规模定性数据分析场景。
OpenAI News精选AI 评分8282 OpenAI 发布函数调用等 API 更新
OpenAI 宣布一系列 API 更新，包括更易引导的模型、函数调用能力、更长的上下文以及更低的价格。
推荐理由：OpenAI 官方公布 API 多项更新，读者可据此了解模型可控性、函数调用与价格的变化方向。
Hugging Face BlogAI 评分4242 Hugging Face Hub 集成 DuckDB：用 SQL 分析 5 万+数据集
Hugging Face Hub 新增 DuckDB 集成，用户可直接用 SQL 查询 Hub 上任意公开数据集。数据集查看器会自动将所有公开数据集转换为 Parquet 文件，通过 /parquet 端点获取 URL 后，配合 DuckDB 的 httpfs 扩展即可查询远程文件，大型数据集被分片为 500MB 块。
Hugging Face BlogAI 评分2222 Hugging Face Hub 上线 fastText 官方镜像：157 种语言词向量与语言识别模型
Hugging Face 开始托管 Meta AI 开源的 fastText 官方镜像，涵盖全部 157 种语言的词向量和最新语言识别模型，用户可通过 huggingface_hub 的 hf_hub_download 几行命令下载使用。该集成还支持文本分类与特征提取 widget，模型页面提供语言识别和词向量最近邻查询的在线试用。