特朗普 AI 安全协议细节公布:科技领袖承诺自我监管
特朗普昨日宣布的“具有道德约束力”的 AI 安全协议全文公开,正式名称为《前沿责任联合承诺》,由 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei。
特朗普昨日宣布的“具有道德约束力”的 AI 安全协议全文公开,正式名称为《前沿责任联合承诺》,由 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei。
Instagram 宣布其独立剪辑应用 Edits 新增 AI“创作助手”,可调取账号的点赞、播放、留存和分享等数据,回答创作者关于趋势、视频表现差异和内容创意的开放式提问。该功能对创作者免费,用量超出后需购买 Meta One 订阅。
Meta 否认其 AI 智能体 Muse 未经许可读取用户私信。Meta 传播副总裁 Andy Stone 称,Mac 版 Muse 的 Messages 集成完全需用户主动开启,必须同时启用 Full Disk Access 和 Messages 连接器才能读取消息内容。
消费级 AI 正迎来一波新产品——Meta 的 Muse、OpenAI 的 Dots 和估值 100 亿美元的 Instinct,但 a16z 引用的 PNC 数据显示,截至 5 月仅 2.2% 消费者为 AI 付费,月均支出 31 美元,增长近乎线性,GPT-5.2 到 Astra 的性能跃升在曲线上几乎看不到。
OpenAI 在 DevDay 上发布由 GPT-6 Astra 驱动的智能体 Dots,定位为可委派长周期知识工作的专业工具,目前仅面向每月 20 美元的 Pro 及以上订阅用户开放。
Meta 和 OpenAI 计划在未来一年用可爱的软件智能体为实体硬件铺路。OpenAI 与 Jony Ive 合作,公开文件显示其硬件最早 2027 年 2 月出货,DevDay 上发布了名为 Dots 的智能体平台,Altman 称 Dots 进入硬件是合理假设。
Meta 通过联邦研发税收抵免,把 AI 数据中心归类为试点模型、把 Nvidia 芯片列为实验材料,2025 年因此省税 39 亿美元,高于前一年的 20 亿美元和 2023 年的 7 亿美元,成为该抵免政策下受益最大的上市公司。
Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman。
Meta 推出 Muse AI 智能体,称可帮用户发邮件、在线购物等,但需要用户信任 Meta 并交出信用卡信息。发布后 Meta 还宣布了类似 Tamagotchi 的 Muse Charm 设备,并陆续扩展小企业工具、企业平台、Mac 应用和智能眼镜端支持。汇总还提到 Muse 曾把一名 YouTuber 的地址发给陌生人、出现可被攻击者控制智能体的漏洞,以及亚马逊屏蔽该智能体等事件。
Latent Space 的 AINews 汇总了 9/24-9/25 的 AI 动态,指出 Opus 5.5 本周发布后社区反响积极,尤其在讲解视频生成上刷屏。
推荐理由:汇总 Opus 5.5 发布一周内的社区实测与基准表现,可快速了解前沿模型在视频生成和编码任务上的实际反馈。
Latent Space 公布 AINews v3 改版计划,将把已运营 3 年、订阅超 20 万的 AINews 与 Latent Space Discord 合并,并探索迁移至 Beehiiv 和新主页。
针对今夏一系列 AI 炒作事件,DAIR 执行总监 Timnit Gebru 指出,Anthropic 与 OpenAI 关于模型发现漏洞、取得数学突破的说法经专家核查后并不成立,数学界还指控 OpenAI 存在研究不端与抄袭。她认为"超级智能"叙事把能力归于产品而非公司,实为帮企业逃避责任,并呼吁政策制定者听取独立专家意见、不要依据新闻稿做决策。
Meta 发布开源多模态模型 Muse Glimmer,从 Muse 蒸馏至 30B 参数,采用 Apache 2.0 许可,面向本地智能体场景,可用于编码、文档分析和个人助手。
推荐理由:Meta 开源 30B 多模态模型并给出本地智能体部署路径,读者可据此判断本地化方案是否可行。
Hugging Face 博客指出,AI 的下一个真正约束不是智能而是利用率:GPU 按日历小时计费,产出却只按计算小时累积,两家 GPU 预算相当的公司会因硬件实际使用率而拉开差距。文章以航空业为类比,称即便集群 GPU 满载也可能浪费大部分潜力,因为 GPU 全天运行而需求并非如此,基础设施必须按峰值配置。
Hugging Face 宣布 OpenEnv 改由委员会协调,成员包括 Meta-PyTorch、Reflection、Unsloth、Modal、Prime Intellect、Nvidia、Mercor、Fleet AI、Microsoft、Hugging Face 和 RadixArk,项目迁至 huggingface/OpenEnv。
推荐理由:OpenEnv 从单一项目转为多方共管的协议层,读者可据此判断开源智能体 RL 环境标准化的走向。
Hugging Face 发布《State of Open Source on Hugging Face: Spring 2026》,基于平台数据回顾过去一年开源 AI 生态变化。
推荐理由:Hugging Face 用平台数据勾勒开源 AI 一年变化,中国模型下载占比与机器人数据集增长是两条主线。
Meta 与 Hugging Face 联合推出的开源框架 OpenEnv 用于在真实系统而非模拟环境中评测 AI 智能体,Turing 为其贡献了生产级日历管理环境 Calendar Gym。
推荐理由:OpenEnv 与 Calendar Gym 的实测数据揭示了工具型智能体在多步推理和歧义解析上的具体瓶颈,可迁移到其他 Agent 评测设计。
Meta 与 Hugging Face 合作推出 OpenEnv Hub,一个面向智能体环境的开放共享社区 Hub,开发者可构建、分享和探索兼容 OpenEnv 的环境,用于训练和部署。
推荐理由:Meta 与 Hugging Face 联合推出智能体环境共享 Hub,并公开 0.1 规范草案,读者可了解开放智能体生态的协作方式。
Hugging Face 推出 FilBench 评测套件,覆盖文化知识、经典 NLP、阅读理解与生成四大类共 12 项任务,用于评估 LLM 在 Tagalog、Filipino 和 Cebuano 上的表现,并已评测 20+ 个 SOTA 模型。
NVIDIA 的 AI-Q Blueprint 在 DeepResearch Bench 的 Hugging Face "LLM with Search" 榜单上以 40.52 分登顶,成为排名最高的全开源许可方案。
Meta 发布 Llama 4 Maverick(约 400B 总参数)和 Llama 4 Scout(约 109B 总参数),两者均为 17B 激活参数的 MoE 模型,原生支持多模态,已在 Hugging Face Hub 上线。
推荐理由:Hugging Face 官方给出 Llama 4 两款 MoE 模型的参数、上下文长度与架构细节,可据此判断部署门槛。
NVIDIA 推出 Python 工具包 KVPress,通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例,KV Cache 需 327.6GB,占约 470GB 总内存的 70%。
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个聊天机器人竞技场,测试 LLM 能否根据用户的自然语言反馈修正自己生成的代码。实验在 TPU v5e 2x4 上同时加载了 5 个约 8B 参数模型和 3 个约 2B 参数模型,共 7 个 LLM,以 bfloat16 格式运行,通过 Gradio 界面并行对话并随时切换模型。
Capital Fund Management(CFM)借助 Hugging Face Inference Endpoints 与 Argilla,用 Llama 3.1 生成标注并经人工复核,再微调小模型完成金融新闻的命名实体识别。
Hugging Face 博客介绍 LayerSkip 提出的自推测解码,用同一 LLM 的早期层生成 draft token、深层网络负责验证,无需额外小模型即可加速文本生成并降低显存占用。
Hugging Face 博客发布 Judge Arena,一个让用户对两个 LLM 评审模型的评分和理由进行投票对比的平台,结果汇总为按 Elo 分数每小时更新的公开榜单。
Meta 发布 Llama 3 系列开源大模型,包含 8B 和 70B 两个尺寸的 base 与 instruct 版本,并同步发布基于 Llama 3 8B 微调的安全模型 Llama Guard 2,全部 5 个模型已上线 Hugging Face。
推荐理由:Meta 发布 Llama 3 并同步接入 Hugging Face 生态,读者可了解新分词器、GQA 与 15T token 训练带来的变化。
Hugging Face 与 Lighthouz AI 联合推出 Chatbot Guardrails Arena,让用户与两个匿名 LLM 聊天,尝试诱导其泄露虚构银行 XYZ001 客户的敏感信息,并投票选出隐私保护更强的模型。
Hugging Face 展示了如何用 Optimum Habana 的自定义 pipeline 类在 Intel Gaudi 2 加速器上运行 Llama 2 系列模型(7b、13b、70b)进行文本生成,只需几行代码即可完成端到端推理。
Hugging Face 发布教程,演示如何用 🤗 Transformers 将 facebook/w2v-bert-2.0 微调至低资源 ASR 任务。
Hugging Face 回顾 2023 年开源 LLM 进展,指出公众对开源与闭源之争的关注度大幅上升。文章梳理了预训练大模型的构成要素,包括架构、训练数据、tokenizer、训练超参数与模型权重,并回顾 2022 年的代表模型:176B 参数的 BLOOM、175B 参数的 OPT 以及 GLM-130B。
一项对比实验用 LoRA 微调 RoBERTa-large(355M)、Llama-2-7b 和 Mistral-7B-v0.1 三个模型,在灾难推文二分类任务上评测性能。实验统一设置 MAX_LEN=512,在单张 A6000(48GB)上完成训练,并使用 Weights & Biases 做超参数调优与实验记录。
Hugging Face 发布教程,介绍如何通过 Inference API 将 AI Comic Factory 复制并部署到自己的私有 Space,以避免官方 Space 的长时间等待。
Hugging Face 发布教程,展示非工程师如何零代码训练 LLaMA 2 聊天机器人。流程分三步:用 Spaces 部署 AutoTrain 和 ChatUI 模板,在 AutoTrain 中选用 Meta Llama 2 7b 基础模型、A10G Large GPU 和 Alpaca 指令数据集完成微调,再通过 ChatUI 部署成可分享的聊天应用。
Hugging Face 对 Llama 2 在 Amazon SageMaker 上的 60 种部署配置进行了基准测试,覆盖 7B、13B、70B 三种规模,在 g5.2xlarge、g5.12xlarge、g5.48xlarge 和 p4d.24xlarge 实例上测试了 1、5、10、20 并发请求,并对比了 GPTQ 4-bit 量化与未量化性能。
Hugging Face 博客介绍 TRL 库新增的 DPO 训练支持,并演示如何用 QLoRA 在 stack-exchange 偏好数据上微调 Llama v2 7B。
推荐理由:TRL 官方给出 DPO 微调 Llama 2 的完整代码与数据格式,读者可据此在自己的偏好数据上复现。
Hugging Face 发布教程,介绍如何通过 Inference Endpoints 的自定义 handler 部署音乐生成模型 MusicGen。用户需复制 facebook/musicgen-large 仓库,添加 handler.py 和 requirements.txt,即可创建端点,16 GB RAM 实例即可运行。
Meta 发布开源大语言模型家族 Llama 2,包含 7B、13B、70B 三种规模的预训练与微调版本,采用宽松社区许可并允许商用。相比 Llama 1,预训练 token 增加 40%,上下文长度提升至 4k,70B 模型使用 grouped-query attention。
推荐理由:Meta 发布 Llama 2 并开放商用,Hugging Face 同步给出推理、部署与微调入口,可据此判断开源模型的可落地程度。
Hugging Face 梳理其开源文本生成与 LLM 生态,涵盖因果语言模型与 text-to-text 模型、许可协议、LLM 服务工具及 PEFT 微调。
Hugging Face 解释了 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数明显低于 LLaMA 论文的原因:榜单使用 EleutherAI LM Evaluation Harness,而论文采用 UC Berkeley 的原始 MMLU 实现,两者在提示词、答案提取方式上不同。
推荐理由:同一 MMLU 数据集在三种实现下分数与排名差异明显,读者可据此理解评测口径对模型对比的影响。