OpenAI 为 GPT-4o 开放微调功能
OpenAI 宣布 GPT-4o 现已支持微调。
OpenAI 宣布 GPT-4o 现已支持微调。
Indeed 借助 OpenAI 为其全球最大求职网站提供情境化职位匹配,每月服务超 3.5 亿独立访客,连接逾 350 万雇主和超 3200 万个职位,平均每三秒就有一人通过 Indeed 获得录用。
Hugging Face 在 Transformers 中推出统一的工具调用 API,同一套代码可在 Mistral、Cohere、NousResearch 和 Llama 等模型家族间通用,无需或只需极少模型专属改动。
推荐理由:Hugging Face 把工具调用统一进 chat template,读者可据此判断跨模型复用同一套代码的可行边界。
Mistral AI 宣布在 La Plateforme 上支持对 Mistral Large 2 和 Codestral 等旗舰及专用模型进行定制,可通过基础提示词、few-shot 提示或微调实现,并支持自带数据集。
OpenAI 在 API 中推出结构化输出,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。
推荐理由:OpenAI 在 API 中引入结构化输出,开发者可据此判断 JSON Schema 约束对下游解析流程的影响。
Hugging Face 梳理了截至 2024 年 8 月 6 日 Hub 上的安全功能:面向所有用户的细粒度 token、2FA、GPG commit signing、组织访问控制,以及基于 ClamAV、picklescan、trufflehog 的自动化恶意软件、pickle 与密钥扫描。
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API(无服务器),可在 Hugging Face Hub 上以标准化 API 对 Llama、Mistral 等开源模型运行推理。
OpenAI 正在测试 SearchGPT,这是新搜索功能的临时原型,可提供快速及时的答案并附上清晰相关的来源。
推荐理由:OpenAI 官方公布搜索功能原型 SearchGPT 的测试消息,可据此了解其搜索产品的方向。
Hugging Face 为 TGI 推出 Multi-LoRA 服务,只需部署一次基础模型,即可根据请求中的 adapter_id 动态选择对应的 LoRA 适配器,官方称可服务 30 个模型。
推荐理由:原文给出 TGI Multi-LoRA 的部署方式与成本对比,读者可据此判断多微调模型能否合并到一次部署。
OpenAI 为 ChatGPT Enterprise 新增 Compliance API 集成、SCIM 和 GPT 控制功能,用于支持大规模合规项目、数据安全与用户访问管理。
Hugging Face 正在 Dataset Hub 上试验一项基于开源 PII 检测工具 Presidio 的新功能,用户可查看数据集 PII 含量的估算报告。Presidio 依靠检测模式和机器学习模型识别 PII,报告可帮助开发者在训练前决定是否进一步过滤数据,也便于数据集所有者验证自身的 PII 过滤流程。
Hugging Face 与 KerasHub 宣布共享模型保存格式,Hugging Face Hub 上 30 万+ Transformers 模型现可直接加载进 KerasHub。首批支持 Gemma 1/2、Llama 3 和 PaliGemma,模型可在 TensorFlow、JAX、PyTorch 后端间一行代码切换。需升级 keras-hub 及 keras>=3.3.3。
Hugging Face 用户现可在 Inference Endpoints 和 Spaces 上使用 Google Cloud TPU v5e,提供 v5litepod-1(1 核 16 GB,$1.375/小时)、v5litepod-4(4 核 64 GB,$5.50/小时)和 v5litepod-8(8 核 128 GB,$11.00/小时)三种配置。
Hugging Face 为 Dataset Hub 的数据集搜索新增四项筛选功能:按模态(文本、图像、音频、表格、时间序列、3D、视频、地理空间)、按行数大小、按格式(如 Parquet、WebDataset)以及按兼容库(如 Pandas、Dask、Datasets)搜索。
XLSCOUT 发布专为专利与知识产权打造的嵌入模型 ParaEmbed 2.0,基于高质量多领域专利数据微调,准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Paf 在全公司采用 ChatGPT Enterprise,工程师每天用自定义 GPT 加速日常开发任务,70% 员工活跃使用,覆盖财务、HR、营销和客服等业务团队。Paf 还将 ChatGPT Enterprise 接入 grit:lab 编程学院,让学员从第一天起就以 AI 增强的系统架构思维学习。
Color Health 与 OpenAI 合作推出 Cancer Copilot,利用 GPT-4o 识别缺失的诊断项目并生成个性化检查方案,帮助医疗人员就癌症筛查和治疗做出循证决策,从而加速癌症患者获得治疗。
Hugging Face 在 TRL 中推出 RLOO(REINFORCE Leave One-Out)Trainer,作为 PPO 之外的在线 RLHF 训练算法。
OpenAI 进一步说明其文本转语音模型 Voice Engine 的技术原理与安全研究。该模型可根据文本生成语音,OpenAI 同时公布了围绕这一技术开展的安全研究工作。
Hugging Face Embedding Container for Amazon SageMaker 正式 GA,AWS 客户可在 SageMaker 上部署嵌入模型构建 RAG 等生成式 AI 应用。
Mistral AI 在 la Plateforme 上线模型定制功能,提供三种微调入口:开源微调代码库 mistral-finetune、平台上的 serverless 微调服务,以及面向特定客户的定制训练服务。
推荐理由:Mistral 同时给出开源微调代码库与托管微调服务,读者可据此判断自建与托管两条路径的成本差异。
Hugging Face 发布 NPC-Playground,一个可在浏览器中与 LLM 驱动的 NPC 互动的 3D 演示,由 Cubzh 与 Gigax 联合打造。
OpenAI 推出面向大学的平价方案 OpenAI for Education,帮助高校负责任地将 AI 引入校园。该方案主打可负担的定价,具体功能与价格细节尚未在原文中披露。
OpenAI 推出面向非营利组织的 OpenAI for Nonprofits 计划,为这类机构提供 ChatGPT Team 和 Enterprise 的折扣价格,以提升其工具的可及性。
MavenAGI 推出基于 GPT-4 的 AI 客服智能体,Tripadvisor、Clickup 和 Rho 等公司已在使用,以节省时间并更好地服务客户。
Hugging Face 宣布用户可从 Hub 直接部署模型到 AWS Inferentia2,覆盖超 10 万个公开模型,新增 albert、bert、roberta、vit 等 14 种模型架构和 text-classification、text-generation 等 6 类任务。
Hugging Face 宣布 AMD Instinct MI300 已在其平台实现一等公民级集成,transformers 和 text-generation-inference 无需改代码即可在 Azure ND MI300x V5 上运行。
Hugging Face Spaces 上线 Dev Mode,支持一键从 VS Code 或 SSH 直连 Space 编辑代码,无需再用 git 推送本地改动。该功能目前处于 beta 阶段,仅向 PRO 订阅用户开放,改完代码可在 Space 内直接刷新测试,满意后再 commit 和 merge 持久化。
Hugging Face 与 Dell 推出 Dell Enterprise Hub,可在 Dell 平台上本地训练和部署 Llama 3、Mixtral、Gemma 等开源模型,将原本数周的工程工作缩短至几分钟。
OpenAI 与业内顶尖选角及导演专业人士合作,从 400 多份投稿中筛选,最终为 ChatGPT 选定 5 种语音。
ChatGPT 的数据分析功能获得升级,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Canva 为月活超 1.75 亿的视觉传播平台打造 AI 驱动的 Magic Studio,帮助缺乏设计训练的知识工作者快速创作演示文稿、视频、文档、网站和社交媒体图片等内容。该平台结合易用界面、庞大素材库与省时工具,让任何人都能制作出视觉出色的作品。
Hugging Face 在 Transformers 中新增 KV Cache 量化功能,通过将键值缓存压缩为低精度格式降低长上下文生成的内存占用,且对生成质量影响极小。
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface,这是一个由双方共同维护的 Python 包,用于将 Hugging Face 最新能力接入 LangChain 并保持同步更新。
Hugging Face 发布 Transformers Agents 2.0,在原有 agent 类型之外新增两类可基于历史观察迭代的 agent,并加入共享功能。
推荐理由:官方给出 Agents 2.0 的模块划分与 GAIA 榜单成绩,可据此判断开源智能体框架的可用边界。
Hugging Face 现已支持通过 AWS 账户将组织升级至 Enterprise Hub,订阅入口为 AWS Marketplace,定价与 Hugging Face 公开价格一致,但账单由 AWS 账户结算。
Artificial Analysis 将其覆盖 100 多个 serverless LLM API 端点的 LLM 性能排行榜带到 Hugging Face,综合对比模型的质量、价格、吞吐与延迟。
OpenAI 宣布 GPT-4 API 全面开放,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步全面开放。同时公布旧版 Completions API 模型的退役计划,这些模型将于 2024 年初退役。
推荐理由:OpenAI 公布 GPT-4 等 API 全面开放及旧模型退役时间表,读者可据此安排接口迁移。
OpenAI 发布 ChatGPT 和 Whisper API,将 ChatGPT 与 Whisper 的模型能力以 API 形式开放给开发者调用。
OpenAI 为 API 客户新增更多安全功能与控制项,并更新 Assistants API,同时提供更好地管理成本的工具。