Hugging Face 披露 7 月安全事件:自主 AI 智能体驱动的入侵
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该事件由一套自主 AI 智能体系统端到端驱动,攻击者通过恶意数据集利用数据集处理中的远程代码加载器和模板注入两条代码执行路径,从处理节点升级到节点级访问、窃取云和集群凭证并横向移动至多个内部集群。
推荐理由:Hugging Face 披露首起由自主 AI 智能体端到端驱动的入侵事件,并说明防御方在托管模型护栏受限时改用开源模型完成取证。
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,该事件由一套自主 AI 智能体系统端到端驱动,攻击者通过恶意数据集利用数据集处理中的远程代码加载器和模板注入两条代码执行路径,从处理节点升级到节点级访问、窃取云和集群凭证并横向移动至多个内部集群。
推荐理由:Hugging Face 披露首起由自主 AI 智能体端到端驱动的入侵事件,并说明防御方在托管模型护栏受限时改用开源模型完成取证。
OpenAI 阐述了其与政府和国家安全机构合作的原则,涵盖负责任使用 AI、民主问责与公共安全。该原则强调在合作中坚持民主问责与公共安全,并推动 AI 的负责任使用。
OpenAI Academy 与 Walton Family Foundation 合作,为 K–12 教育者带来动手实践的 AI Skills Jams,帮助其掌握课堂实用的 AI 技能。
三菱日联金融集团(MUFG)正借助 ChatGPT Enterprise 构建 AI 原生组织,以改进工作流程并大规模提供新的 AI 驱动金融服务。
Google DeepMind 与 A24 宣布达成首个此类研究合作,将顶尖研究实验室与电影制作公司配对,帮助艺术家开发新工作流与技术。双方将围绕多个项目展开长期深度研发协作,Google 同时已对 A24 进行投资。
伯克利 BAIR 实验室展示 2026 届 AI 博士毕业生,研究覆盖机器人、大语言模型与推理、计算机视觉、生成建模、AI 安全、人机交互及 AI for science 等方向。毕业生去向包括 OpenAI、Mistral AI、Physical Intelligence、Amazon 等机构,以及 UCLA、普林斯顿 CITP 等学术岗位,部分人正在创业或探索下一步。
OpenAI Signals 新数据显示,ChatGPT 的全球采用率正在增长,用户使用频率上升、探索更多能力,并推动各地区和语言的使用增长。
OpenAI 发布报告,梳理 AI 可能如何重塑欧盟各职业,指出哪些岗位面临自动化、增长或工作流程变化。报告聚焦欧盟范围内的 AI 劳动力机会,未披露具体职业清单或量化预测。
HP Inc. 与 OpenAI 启动 Frontier 战略合作,将 AI 部署到客户体验、软件开发和企业运营中。此次合作在双方既有 OpenAI Frontier 伙伴关系基础上升级扩展。
OpenAI 宣布通过 Appia Foundation 参与构建先进 AI 的共享标准,支持评测框架、安全实践与全球合作。
OpenAI 推出 Patch the Planet,这是 Daybreak 计划下的一项新举措,帮助开源维护者借助 AI 与专家审核发现、验证并修复漏洞。
Samsung Electronics 在全球员工中部署 ChatGPT Enterprise 和 Codex,这是 OpenAI 规模最大的企业级 AI 落地之一。
Google DeepMind 与英国政府、Google Cloud、Faculty 及 Barnet、Dorset、Camden 地方规划部门合作,开发一款基于 Gemini 的 AI 规划原型,目标是帮助审批人员将住户规划申请的决定时间缩短 50%。
推荐理由:原文给出英国规划审批原型的目标、试点范围与上线时间,读者可据此判断 AI 介入公共服务的落地路径。
Google DeepMind 发布 AI Control Roadmap,用于在 Google 内部构建和管理高级 AI 的防御纵深框架,将内部智能体视为可能未对齐的潜在内部威胁,并基于 MITRE ATT&CK 拆解攻击战术与技术。
推荐理由:Google DeepMind 公开内部 AI 控制路线图,给出分级检测与响应机制,可供部署智能体的团队参考。
OpenAI 推出 Partner Network,投入 1.5 亿美元帮助全球合作伙伴加速企业 AI 的采用、部署与转型。
加州大学圣地亚哥分校在 Google 支持下,正用 2000 台退役 Pixel 智能手机的主板搭建数据中心,为数百名研究人员和学生提供低成本、低碳的云计算。SPEC 基准显示 25-50 台手机约等于一台现代服务器,这些手机以 25-50 台为单位组成由 Kubernetes 管理的自管理集群。该系统预计于 2026 年秋季全面上线。
OpenAI 宣布支持欧盟 AI 内容透明度行为准则,推进内容溯源标准与工具,帮助人们识别 AI 生成内容。
OpenAI 计划收购 Ona,以扩展 Codex 的安全持久云端环境,支持在企业工作流中运行长时间运行的 AI 智能体。
推荐理由:OpenAI 收购 Ona 以扩展 Codex 的云端环境,读者可据此了解其在企业级长时智能体上的布局方向。
BBVA 将 ChatGPT Enterprise 部署规模扩大至 10 万名员工,并与 OpenAI 建立合作,以加速全球 AI 驱动的银行业务转型。
OpenAI 发布新报告,披露与中国相关的账号利用 AI 影响美国技术议题,涉及数据中心叙事、关税以及对 ChatGPT 的不实说法。
推荐理由:OpenAI 官方披露与中国相关的账号利用 AI 影响美国技术议题,读者可了解平台方如何界定此类行动。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA 发起最高 1000 万美元的多智能体 AI 安全研究资助,Google.org 提供支持。
LSEG 借助 OpenAI 在全球业务中规模化可信 AI,加快洞察速度、缩短发布周期,并赋能 4000 名员工。
Google DeepMind 推出为期 3 个月的机器人加速器项目,从欧洲选出 15 家早期机器人初创公司,本周在伦敦启动,入选团队可使用其 AI 技术栈和 Gemini 机器人模型。项目提供技术指导、产品建议与合作伙伴网络,覆盖物流、制造、医疗、气候和导航等领域,例如挪威 3D-Components 的焊接与金属 3D 打印平台号称比现有做法快 280 倍。
OpenAI 发布面向 AI 时代的产业政策构想,主张以人为先,聚焦扩大机会、共享繁荣,并在先进智能演进过程中建设有韧性的制度。
OpenAI 确认已向 SEC 秘密提交 S-1 草案,但尚未确定后续行动的时间安排。
推荐理由:OpenAI 官方确认已向 SEC 秘密提交 S-1 草案,读者可据此了解其上市进程的当前节点。
OpenAI 发起 Economic Research Exchange,用于研究 AI 对就业、生产力和经济的影响,目前已开放选定研究项目的申请。
OpenAI 公布其 AI 公共政策议程,涵盖安全、青少年保护、劳动力转型和全球标准,以确保 AI 惠及社会。
OpenAI 公布了一份针对美国前沿 AI 治理的蓝图,提议建立覆盖安全、韧性与国家安全的联邦框架。该方案主张以联邦层面的统一治理来应对前沿 AI 带来的风险。
OpenAI 呼吁就青少年 AI 安全采取全球行动,并提出设立一个国际机构,以加强针对青少年的防护措施、标准与机会。
OpenAI 阐述了其在 AI 政策与政治倡导上的做法,强调透明度、支持审慎监管与 AI 安全,并明确表示任何外部政治团体都无权代表公司发声。
OpenAI 在密歇根破土动工一个 1GW 数据中心项目,属于 Stargate 计划的一部分。该项目建设 AI 基础设施,目标是扩大接入、创造就业并支持当地社区。
推荐理由:OpenAI 在密歇根动工 1GW 数据中心,读者可了解 Stargate 的落地规模与选址进展。
OpenAI 封禁了一批疑似源自中国的账号,这些账号使用 AI 生成关于美国科技政策、关税和贸易限制的评论与漫画。该活动被命名为 Tech and Tariffs,目标是影响美国科技政策。
OpenAI 封禁了一个疑似源自中国的账号集群,该集群利用 AI 生成社交媒体内容,批评美国数据中心和 AI 基础设施。这一行动被 OpenAI 称为“Data Center Bandwagon”行动,目标指向美国。
Boston Children’s Hospital 使用 OpenAI 技术改善患者护理、减轻运营负担,并帮助诊断出 40 多例罕见病病例。
OpenAI 分享第三方 AI 评估指南,覆盖前沿系统的模型能力、防护措施与有效性评估方法。
Google Research 在 I/O 2026 上发布 Gemini for Science 实验工具套件,包含基于 ERA 与 AlphaEvolve 的 Computational Discovery、基于 Co-Scientist 的 Hypothesis Generation 以及基于 NotebookLM 的 Literature Insights。
OpenAI 发布前沿治理框架(Frontier Governance Framework),说明其 AI 安全、安保与风险管理实践如何对齐欧盟和加州正在出台的监管要求。该框架聚焦前沿模型的治理与合规衔接。
Google 为隐私分析服务提出零信任聚合方案,将新型单次消息密码学聚合协议与 TEE 结合,设备无需多轮在线即可提交数据。该设计使原始数据在任何服务器内存中都不会被暴露或重建,仅在最终阶段处理已聚合匿名的数据,并通过 TEE 远程认证向参与者证明协议按公开代码正确执行。
Mistral 收购 Emmi AI,并加倍投入面向航空航天、汽车、半导体和能源等行业的物理 AI 基础模型研究。其已发布成果包括 AB-UPT,可在单张 GPU 上处理 9M 表面和 140M 体积网格的原始几何数据,无需重新划分网格;以及首个大规模多物理场端到端深度学习代理模型 NeuralDEM。
OpenAI 公布 2026 年选举支持方案,涵盖可靠信息、网络防御、AI 透明度、滥用防护与偏见监测五个方面。该方案旨在为选举提供信息与安全保障。