Hugging Face 与微软深化合作:Azure 模型目录新增 Llama 3、Mistral 7B 等开源模型
Hugging Face 与微软在 Microsoft Build 上宣布深化战略合作,将 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等热门开源大模型加入 Azure 模型目录的 Hugging Face Collection,支持从 Azure AI Studio 一键部署。
Hugging Face 与微软在 Microsoft Build 上宣布深化战略合作,将 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等热门开源大模型加入 Azure 模型目录的 Hugging Face Collection,支持从 Azure AI Studio 一键部署。
Hugging Face Spaces 上线 Dev Mode,支持一键从 VS Code 或 SSH 直连 Space 编辑代码,无需再用 git 推送本地改动。该功能目前处于 beta 阶段,仅向 PRO 订阅用户开放,改完代码可在 Space 内直接刷新测试,满意后再 commit 和 merge 持久化。
Hugging Face 与 Dell 推出 Dell Enterprise Hub,可在 Dell 平台上本地训练和部署 Llama 3、Mixtral、Gemma 等开源模型,将原本数周的工程工作缩短至几分钟。
OpenAI 与业内顶尖选角及导演专业人士合作,从 400 多份投稿中筛选,最终为 ChatGPT 选定 5 种语音。
ChatGPT 的数据分析功能获得升级,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
OpenAI 与 Reddit 达成合作,将 Reddit 的独特内容带入 ChatGPT 及 OpenAI 旗下产品。
Canva 为月活超 1.75 亿的视觉传播平台打造 AI 驱动的 Magic Studio,帮助缺乏设计训练的知识工作者快速创作演示文稿、视频、文档、网站和社交媒体图片等内容。该平台结合易用界面、庞大素材库与省时工具,让任何人都能制作出视觉出色的作品。
Hugging Face 在 Transformers 中新增 KV Cache 量化功能,通过将键值缓存压缩为低精度格式降低长上下文生成的内存占用,且对生成质量影响极小。
OpenAI 宣布 Ilya Sutskever 将离开公司,Jakub Pachocki 被任命为首席科学家。
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface,这是一个由双方共同维护的 Python 包,用于将 Hugging Face 最新能力接入 LangChain 并保持同步更新。
Google 发布视觉语言模型家族 PaliGemma,由 SigLIP-So400m 图像编码器和 Gemma-2B 文本解码器组成,可输入图像和文本并输出文本。
推荐理由:原文给出 PaliGemma 的架构、三种 checkpoint 与微调流程,读者可据此判断它适合哪些视觉语言任务。
Hugging Face 发布 Open Arabic LLM Leaderboard(OALL),用于评测和对比阿拉伯语大语言模型性能,服务全球超 3.8 亿阿拉伯语使用者。
OpenAI 宣布推出新旗舰模型 GPT-4 Omni(GPT-4o),可在音频、视觉和文本之间进行实时推理。
推荐理由:OpenAI 官方发布新旗舰模型,读者可据此了解其在音频、视觉与文本上的实时推理定位。
OpenAI 发布 GPT-4o,并在 ChatGPT 中免费开放更多能力。
推荐理由:OpenAI 发布 GPT-4o 并扩大 ChatGPT 免费能力,读者可据此了解模型与产品开放策略的同步变化。
OpenAI 发布最新旗舰模型 GPT-4o,同时为 ChatGPT 免费用户开放更多能力。官方称这是其最新旗舰模型,免费用户将获得更多工具。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,并首次把更多能力开放给 ChatGPT 免费用户。
Hugging Face 发布 Transformers Agents 2.0,在原有 agent 类型之外新增两类可基于历史观察迭代的 agent,并加入共享功能。
推荐理由:官方给出 Agents 2.0 的模块划分与 GAIA 榜单成绩,可据此判断开源智能体框架的可用边界。
Hugging Face 现已支持通过 AWS 账户将组织升级至 Enterprise Hub,订阅入口为 AWS Marketplace,定价与 Hugging Face 公开价格一致,但账单由 AWS 账户结算。
Intel 展示了基于 OPEA 平台、用 Intel Gaudi 2 加速器和 Xeon CPU 构建企业级 RAG 应用的方案,嵌入模型跑在 Granite Rapids CPU 上,LLM 跑在 Gaudi 2 上。
OpenAI 推出新技术,帮助研究人员识别由其工具生成的内容,同时加入内容来源与真实性联盟(C2PA)指导委员会以推动行业标准。
OpenAI 阐述了其在 AI 时代处理数据的方式,并推出面向创作者和内容所有者的新工具 Media Manager。此时距 ChatGPT 发布仅一年有余,AI 正改变人们生活、工作和学习的方式,也引发了关于数据的重要讨论。
Stack Overflow 与 OpenAI 宣布达成 API 合作,将这一技术知识平台与 OpenAI 的大语言模型结合,为开发者提供支持。Stack Overflow 称其为全球领先的高技术内容知识平台,OpenAI 的模型则被称为最受欢迎的 AI 开发 LLM。
Hugging Face 发布希伯来语 LLM 开放排行榜,用于评估和提升希伯来语语言模型。该排行榜包含希伯来语问答、情感准确率、Winograd Schema Challenge 和英希翻译四项基准,采用 few-shot 提示格式,模型通过 HuggingFace Inference Endpoints 部署、由 lighteval 库评估。
Artificial Analysis 将其覆盖 100 多个 serverless LLM API 端点的 LLM 性能排行榜带到 Hugging Face,综合对比模型的质量、价格、吞吐与延迟。
Hugging Face 通过自定义 inference handler,在 Inference Endpoints 上将 Whisper 的 ASR、基于 Pyannote 的说话人分离(diarization)与推测解码整合到单一 API 端点。
OpenAI 封禁了一批与源自中国的"Spamouflage"行动关联的账号,该行动利用 AI 研究社交媒体活动、生成帖文并调试一个此前未被报道的网站。
OpenAI 封禁了与俄罗斯背景行动"Doppelganger"相关的账号,该行动利用 AI 生成反乌克兰的社交媒体评论、翻译及网站文案,覆盖多种语言。
OpenAI 封禁了与伊朗背景行动 "IUVM" 相关的账号,该行动利用 AI 生成并翻译亲伊朗、反以色列和反美的网站内容。
OpenAI 封禁了一批与一个此前未被报道、源自以色列的影响力行动相关的账号,该行动被其命名为 Zero Zeno。这些账号使用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党以及亲以色列总工会的内容。
推荐理由:OpenAI 披露其封禁与以色列相关影响力行动账号,读者可了解平台如何界定并处置 AI 滥用。
OpenAI 封禁了一批与名为 "Bad Grammar" 的俄罗斯来源行动相关的账号,该行动利用 AI 在 Telegram 上生成英语和俄语评论,涉及乌克兰、摩尔多瓦、波罗的海地区及美国政治话题。这一行动此前未被报道过。
Hugging Face 的 Leaderboards and Evals 团队发现,同一任务下仅改变提示词格式,模型得分波动可达约 10 分,Qwen1.5-7B 在两种格式下准确率分别为 22.9% 和 51.2%,且模型排名也会随格式变化。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,这是首个完全自对齐、全透明且许可宽松的代码 LLM,用 StarCoder2-15B 自生成指令-响应对微调自身,无需人工标注或 GPT-4 蒸馏数据。
推荐理由:StarCoder2-15B-Instruct 用自生成数据完成指令微调,读者可据此了解不依赖 GPT-4 蒸馏的代码模型训练路径。
OpenAI 与《金融时报》达成合作,将这家媒体的新闻内容带入 ChatGPT。双方还将合作为 FT 读者打造新的 AI 体验。
OpenAI 宣布 GPT-4 API 全面开放,GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步全面开放。同时公布旧版 Completions API 模型的退役计划,这些模型将于 2024 年初退役。
推荐理由:OpenAI 公布 GPT-4 等 API 全面开放及旧模型退役时间表,读者可据此安排接口迁移。
OpenAI 发布 ChatGPT 和 Whisper API,将 ChatGPT 与 Whisper 的模型能力以 API 形式开放给开发者调用。
OpenAI 正在加速救命疗法的开发。
OpenAI 为 API 客户新增更多安全功能与控制项,并更新 Assistants API,同时提供更好地管理成本的工具。
Hugging Face 发布 Open CoT Leaderboard,不评模型绝对准确率,而是对比有无思维链提示时的准确率增益 Δ。该榜单覆盖 LogiQA、LSAT 等多项选择题任务,目前实现 Classic 和 Reflect 两种思维链生成策略,Mixtral-8x7B-Instruct-v0.1 已参与测试。
Hugging Face 发布通用智能体项目 Jack of All Trades(JAT),基于 GPT-Neo 的 Transformer 架构,用单一网络在 Atari 57。
OpenAI 提出"指令层级"方法,通过训练让 LLM 优先执行高优先级指令,以抵御提示词注入、越狱等攻击。当前 LLM 易被对抗者用恶意提示词覆盖原始指令,该方法旨在解决这一安全问题。
Hugging Face 推出 Open Medical-LLM Leaderboard,用统一平台评测大语言模型在医疗任务上的表现,以准确率为主要指标,覆盖 MedQA、MedMCQA、PubMedQA 及 MMLU 的医学与生物学子集。