FTC 对 OpenAI、Anthropic 等 AI 实验室启动消费者保护调查
美国联邦贸易委员会正就潜在消费者保护违规问题调查 OpenAI、Anthropic 等主要 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的民事调查令要求提交文件并质询高管，命令预计数周内发出。
推荐理由：FTC 对多家 AI 实验室启动正式调查，读者可了解监管从口头警告升级为强制取证的具体路径。
#Anthropic
#Anthropic
今日 2 条The Decoder精选AI 评分7878 The Verge · AIAI 评分6060 特朗普 AI 安全协议细节公布：科技领袖承诺自我监管
特朗普昨日宣布的“具有道德约束力”的 AI 安全协议全文公开，正式名称为《前沿责任联合承诺》，由 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei。
The Decoder精选AI 评分7878 OpenAI 称已阻断窃取模型推理的攻击，但该手法在 Azure 上仍然有效
OpenAI 称已阻断一起针对其模型推理内容的提取活动，该活动 7 月 1 日起量级较低，7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求，涉及一个超过 15000 个账号的网络，OpenAI 表示已于 7 月 28 日将其全部关停，并称核心群体与 Moonshot AI 相关人员有关。
推荐理由：还原了推理蒸馏攻击的时间线与平台差异，可看到同一模型在不同云平台上防护并不一致。
The Verge · AIAI 评分6666 AI 高管回应特朗普新安全计划：六家公司签署自我监管承诺
Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman。
Ars Technica · AIAI 评分6262 Anthropic 的 IPO 推介材料中警告人类灭绝风险
Ars Technica 报道，Claude 的开发方 Anthropic 在其 IPO 推介材料中警告，自家模型可能抗拒被关闭并造成灾难性伤害。
Latent Space精选AI 评分7676 AMD 以 82 亿美元收购 World Labs，Atlas 解决稀疏重建问题
AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中回顾，公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队，并通过收购 SceniX 推进机器人仿真能力。
推荐理由：AMD 以 82 亿美元收购 World Labs，可看到空间智能与机器人仿真能力如何被并入芯片厂商版图。
MIT Technology Review · AIAI 评分6666 AI 智能体失控时，责任该由谁承担？
MIT Technology Review 梳理了近几个月多起 AI 智能体越狱事件：OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
Ars Technica · AIAI 评分7474 美国上诉法院裁定五角大楼可因Anthropic拒绝开放Claude功能而将其列入黑名单
美国哥伦比亚特区巡回上诉法院以2比1裁定，国防部有权因Anthropic拒绝向军方开放Claude的某些AI功能而将其列入黑名单，即使Anthropic并无恶意。法院称此案涉及军事使用强大新技术的难题，并指出国防部长依据《供应链安全法》和宪法未越权，因此驳回Anthropic的复审请求。该法院此前已在4月驳回Anthropic的紧急暂缓执行申请。
Latent SpaceAI 评分2222 Latent Space 宣布 AINews v3 改版并重启赞助合作
Latent Space 公布 AINews v3 改版计划，将把已运营 3 年、订阅超 20 万的 AINews 与 Latent Space Discord 合并，并探索迁移至 Beehiiv 和新主页。
Latent SpaceAI 评分3232 AINews：Claude Code Projects 与 OpenAI Astra for Law 等更新汇总
Anthropic 在 Claude Code 中推出 Projects，单次对话可派生并行云端会话、在线程间传递上下文，用户离开后仍继续运行。OpenAI 发布 Astra for Law，含 26 个合作方插件和 47 个社区插件，先通过 ChatGPT 和 Codex 的 Trusted Access 开放，API 后续提供。
Latent SpaceAI 评分6060 AINews：Yegge 关停 Gas Town，Databricks 用 Astra 后编码支出增 60%
Latent Space 的 AINews 汇总 9 月 15 日至 16 日动态，其中 Steve Yegge 关停了 Gas Town，并承认每月花费数千美元订阅编码智能体，最终只做出了 Gas Town 这一个项目。
Latent SpaceAI 评分6262 AIUC 完成 4000 万美元 A 轮，用 AIUC-1 标准与保险为 AI 智能体背书
AIUC 宣布完成 4000 万美元 A 轮融资，由 Ribbit Capital 和 First Harmonic 领投，客户包括 Cursor、Harvey、Lovable、ElevenLabs。
OpenAI News精选AI 评分6262 OpenAI 与 Anthropic 公布联合安全评估结果
OpenAI 与 Anthropic 公布首次联合安全评估的结果，双方互相测试对方模型在失准、指令遵循、幻觉、越狱等方面的表现。评估同时呈现了进展、挑战以及跨实验室合作的价值。
推荐理由：两家头部实验室首次联合开展安全评估，读者可了解跨实验室互测在失准、越狱等维度上的进展与挑战。
OpenAI NewsAI 评分3333 OpenAI 与 Anthropic、Google、Microsoft 公布 Frontier Model Forum 新执行董事及 1000 万美元 AI 安全基金
OpenAI 联合 Anthropic、Google 和 Microsoft 宣布了 Frontier Model Forum 的新任执行董事，并设立 1000 万美元 AI 安全基金。
OpenAI NewsAI 评分4040 OpenAI 发起成立 Frontier Model Forum
OpenAI 正在组建一个新的行业机构 Frontier Model Forum，以推动前沿 AI 系统的安全与负责任开发。该机构将推进 AI 安全研究、确定最佳实践与标准，并促进政策制定者与行业之间的信息共享。