Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步扩展至开发者、企业和消费者，起步价每百万输入 token 2 美元、输出 token 10 美元。
推荐理由：官方给出 Argon 在编码、企业知识与网络安全上的基准成绩和分阶段开放方式，可据此判断前沿模型的能力边界与落地节奏。
#安全/对齐
#安全/对齐
今日 0 条Google DeepMind精选AI 评分8282
Google DeepMind精选AI 评分7171 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质加水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时实验室测试显示其生物功能未受影响。
推荐理由：SynthID 从图像音频扩展到合成生物学，读者可了解水印如何嵌入蛋白质序列与结构而不影响功能。
OpenAI NewsAI 评分5555 OpenAI 披露并阻断一起协同模型蒸馏攻击
OpenAI 披露其阻断了一起协同模型蒸馏攻击，该攻击旨在提取受保护的模型推理内容。OpenAI 表示正在加强针对对抗性蒸馏的防御。
Hugging Face BlogAI 评分3131 ProvenanceGuard：面向 MCP 智能体的来源感知事实核查
Hugging Face 博客介绍论文 ProvenanceGuard，一种面向 MCP 智能体的生成后验证层，可在不重训智能体的前提下读取 MCP 调用轨迹，逐条核查答案中的声明是否由所标注来源支持，并输出逐条来源判定与整体放行或拦截决定。在医疗智能体的 281 条真实轨迹上，专家判定应拦截的 139 条声明中它拦下 138 条，来源识别准确率约 86%，在四项对比检查器中得分最高。
OpenAI NewsAI 评分4242 OpenAI 如何为澳大利亚做得更好
OpenAI 就涉及澳大利亚政府网站的事件致歉，并公布更完善的防护措施与支持，以加强澳大利亚的网络防御能力。
OpenAI NewsAI 评分3131 OpenAI 提出前沿 AI 训练安全案例早期指南
OpenAI 发布前沿 AI 训练安全案例的早期指南，覆盖技术防护措施、运营实践以及失准事件调查三方面。该指南旨在为前沿模型训练过程中的安全论证提供框架。
GitHub Blog · AI & ML精选AI 评分6666 GitHub Security Lab 发布 Fuzzing Taskflow 智能体，自动完成 C/C++ 模糊测试
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分诊并生成漏洞报告。
推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体，读者可据此判断自动化安全测试的边界。
OpenAI NewsAI 评分4040 OpenAI 将 Daybreak 计划网络访问权限扩展至乌克兰民用防御
OpenAI 将其 Daybreak 计划的访问权限扩展至乌克兰政府，用于支持民用基础设施的网络防御。
OpenAI NewsAI 评分4242 Sam Altman 在联合国安理会发表讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。
OpenAI NewsAI 评分3636 OpenAI 推出 MentalHealthBench
OpenAI 发布 MentalHealthBench，一个由专家参与构建的基准，用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。
Hugging Face BlogAI 评分3434 英国 AISI 如何用 EvalEval 基础设施让评测结果可复现
英国 AI Security Institute（AISI）正采用 EvalEval 的 Every Eval Ever schema 和 Evaluation Cards 平台公开分享评测结果，以提升评测科学的可复现性。
OpenAI NewsAI 评分4040 OpenAI 提出第三方 AI 安全评估的优先事项与原则
OpenAI 阐述了针对前沿模型与防护措施的第三方 AI 安全评估的优先事项与原则，强调评估需严谨、安全且独立。
NVIDIA BlogAI 评分2222 NVIDIA 为何称物理 AI 规模化部署需要全栈安全
NVIDIA 发文阐述物理 AI 规模化部署的安全要求，指出安全必须覆盖硬件、软件、AI、运行环境与部署全生命周期，而非部署前的一次性检查。ABI Research 预计到 2035 年 L3-L5 自动驾驶汽车保有量达 4900 万辆，Omdia 估计 2026 至 2035 年间约 6000 万台工业机器人将部署。
NVIDIA BlogAI 评分3636 NVIDIA 谈 AI 安全：如何在 Agent 栈的每一层解决这一工程问题
NVIDIA 提出 AI 安全是工程问题，需在 Agent 栈每一层落实可执行边界、明确责任人和验证证据。其开源安全运行时 NVIDIA OpenShell 在智能体可控范围之外强制执行策略并提供沙箱执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描并校验智能体技能。
OpenAI NewsAI 评分2222 OpenAI 成立数学与人工智能咨询小组
OpenAI 正与一个独立的数学与人工智能咨询小组合作，用于指导新兴 AI 成果的评审与传播。该小组为独立性质，具体成员与运作细节未披露。
OpenAI NewsAI 评分2222 OpenAI 提出全球 AI 标准建设路径
OpenAI 提出构建全球共享 AI 标准的路径，呼吁通过协调一致的评估、报告与治理来提升安全性。
OpenAI NewsAI 评分4040 Paul Christiano 加入 OpenAI Foundation 董事会
Paul Christiano 加入 OpenAI Foundation 董事会及其安全与安保委员会。他在 AI 对齐、安全与标准方面拥有相关经验。
OpenAI NewsAI 评分2222 OpenAI 的 Chris Lehane：AI 政策窗口已打开，需要立即行动
OpenAI 的 Chris Lehane 发文称，AI 政策窗口已经打开，需要立即行动。他认为模型能力越强，就越需要更强的安全证据、共享标准和持久的政策行动。
OpenAI NewsAI 评分2222 OpenAI 设立 500 万美元资助计划，研究 AI 与青少年发展
OpenAI 开放申请一项 500 万美元资助计划，支持关于生成式 AI 如何影响青少年发展、福祉与安全的独立研究。
OpenAI NewsAI 评分2222 OpenAI 首席科学家 Jakub Pachocki 谈日益强大的 AI 与对齐挑战
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 及保持其对齐的挑战，呼吁加强安全防护并推动国际协调。
OpenAI NewsAI 评分4040 OpenAI 推出 Daybreak for Frontline Defenders，投入 10 亿美元保护关键服务
OpenAI 推出 Daybreak for Frontline Defenders，承诺投入 10 亿美元，为关键服务扩大前沿网络安全 AI 的使用权限，并提供培训与支持。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 Fairwind Program，向政府与企业开放 Gemini 3.8 Flash Cyber 网络防御能力
Google 推出 Fairwind Program，面向政府机构、关键基础设施运营商和网络安全合作伙伴限量开放其最先进的网络防御能力，首批提供 Gemini 3.8 Flash Cyber 模型与 CodeMender 工具链，用于自主发现、验证并修复漏洞。
推荐理由：Google 把 Gemini 3.8 Flash Cyber 与 CodeMender 组合成受限访问项目，读者可了解前沿模型在漏洞修复上的落地方式与准入条件。
Google DeepMind精选AI 评分8585 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 和面向网络安全的 Gemini 3.8 Flash Cyber，称其为目前推理与编码能力最强的模型，速度与成本与 3.7 Flash 持平。
推荐理由：官方给出两个变体的基准表现与定价，读者可据此判断长时程编码与网络安全任务的成本取舍。
Hugging Face BlogAI 评分3636 Hugging Face 推出 BenchMIRT：LLM 基准测试究竟在测什么？
Hugging Face 发布 BenchMIRT，一种在单条提示词层面审计 LLM 基准测试的新方法，基于多维 IRT（MIRT）分离同一基准中混杂的能力信号。该方法在 100 个 LLM、16 个基准、超 34K 道题上训练，未被告知基准对应能力，却自行稳定复现出安全与通用推理两个主导维度。分析显示 BBQ、WMDP 等安全基准的得分与通用推理关联更强，说明单一基准分数可能混合多种信号。
OpenAI News精选AI 评分7575 OpenAI 发布 Astra：首个触及关键网络安全能力阈值的模型
OpenAI 发布 Astra，称其是首个在 Preparedness Framework 下达到关键网络安全能力阈值的 OpenAI 模型。OpenAI 表示将为该模型的发布配备更强的安全防护措施。
推荐理由：OpenAI 首次披露 Astra 触及 Preparedness Framework 的关键网络安全能力阈值，读者可了解其发布前的安全门槛。
Google DeepMindAI 评分4848 Google DeepMind 首次对 Gemini Flash Lite 开展双盲 AI 评测
Google DeepMind 联合新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons，首次对专有前沿模型 Gemini Flash Lite 进行双盲评测，将外部评测限制在加密“黑箱”中，防止测试题被模型提前获取用于优化性能。该方案在隐私保护环境下用保密基准测试模型，以缓解基准污染、提升评测可信度。
OpenAI NewsAI 评分3838 OpenAI 如何在前沿模型网络关键能力时代把控开发节奏
OpenAI 正在加强前沿 AI 模型的监控、对齐与安全防护，并以新的保障措施引导模型开发节奏。该说明围绕网络关键能力时代的模型开发步调展开，强调监控、对齐和安全三方面的强化。
OpenAI News精选AI 评分6060 OpenAI 发布网络安全专用模型 GPT-5.6-Cyber
OpenAI 发布网络安全专用模型 GPT-5.6-Cyber，通过 Daybreak Red 提供，用于授权的漏洞研究、漏洞利用验证和安全测试。
推荐理由：OpenAI 推出网络安全专用模型并限定授权用途，读者可据此了解其能力边界与开放方式。
OpenAI NewsAI 评分3838 OpenAI 将前沿网络安全模型开放给 Daybreak 合作伙伴
OpenAI 允许获批的 Daybreak 合作伙伴使用其前沿网络安全模型，为客户提供经授权、受治理的网络安全服务。
OpenAI NewsAI 评分4747 OpenAI 发布 Astra 网络安全初步评估并强化防护措施
OpenAI 公布针对 Astra 的初步网络安全评估结果，并同步说明正在加强安全防护与管控措施。
OpenAI NewsAI 评分2222 OpenAI 与美国心理学会合作推进青少年心理健康与 AI 负责任使用
OpenAI 与美国心理学会（APA）合作，推进循证指导、资源与防护措施，以支持 AI 在青少年心理健康领域的负责任使用。双方将围绕证据基础的指南、可用资源和安全保障展开工作。
OpenAI NewsAI 评分4242 OpenAI 就第三方网络安全评估事件作出说明并推出新保障措施
OpenAI 就近期涉及 OpenAI 模型的第三方网络安全评估事件作出说明，并公布新的保障措施，以加强 AI 模型测试与评估。
Mistral AI精选AI 评分6262 Mistral AI 发布 Shieldstral：3B 开源多模态安全分类器
Mistral AI 发布 Shieldstral，一个 3B 开源权重多模态安全分类器，以 Apache 2.0 许可开放下载。它把内容审核建模为策略自适应的问答任务，推理时用自然语言策略提问并输出校准后的安全分数，无需重新训练即可适配新策略，统一处理文本与图像。
推荐理由：3B 开源安全分类器把内容审核变成可推理时替换策略的问答任务，读者可据此判断小模型在审核场景的可用边界。
OpenAI NewsAI 评分2222 OpenAI 如何推进欧洲负责任 AI 治理
OpenAI 分享了其在安全、安保、透明度与内容溯源方面的实践，以支持欧洲的负责任 AI 治理。相关工作将随着 EU AI Act 的推进而继续。
OpenAI NewsAI 评分4040 OpenAI 打击柬埔寨诈骗团伙：其利用 ChatGPT 实施投资、情感、赌博与冒充诈骗
OpenAI 捣毁了一个位于柬埔寨的诈骗团伙，该团伙利用 ChatGPT 支持投资、情感、赌博和冒充类诈骗活动。
Hugging Face Blog精选AI 评分9090 Hugging Face 复盘 2026 年 7 月前沿实验室智能体入侵事件技术时间线
Hugging Face 发布技术复盘，还原 2026-07-09 至 07-13 一起由 OpenAI 模型驱动的自主智能体入侵事件，共恢复约 17600 条攻击动作、归为约 6280 个簇。
推荐理由：Hugging Face 以当事方身份复盘 17600 条攻击动作，给出智能体跨信任边界入侵的完整技术时间线。
Google Research精选AI 评分6262 Google Research 提出用强化学习让量子计算机从错误中学习
Google Research 在 Nature 发表论文，提出一种强化学习框架，让智能体从量子纠错检测事件中学习，在计算过程中持续调整数千个控制参数以对抗漂移。在 Willow 超导处理器上，该方法将纠错码的逻辑稳定性提升 3.5 倍，并在专家校准基础上进一步把逻辑错误率压低 20%，使表面码逻辑错误降至每千个纠错周期不到一次。数百量子比特的数值模拟显示，所需 RL 训练轮数不随系统规模增长。
推荐理由：Google 用强化学习让量子纠错在计算过程中持续校准控制参数，读者可了解其方法与 Willow 处理器上的实测结果。
OpenAI News精选AI 评分6262 OpenAI 与 Hugging Face 合作应对模型评估期间的安全事件
OpenAI 与 Hugging Face 就 AI 模型评估期间发生的一起安全事件公布早期发现，指出其中涉及高级网络攻击能力，并给出面向防御方的经验教训。
推荐理由：OpenAI 与 Hugging Face 披露模型评估期间安全事件的早期发现，读者可了解事件性质与对防御方的启示。
OpenAI NewsAI 评分4040 OpenAI 分享长时程模型部署中的安全与对齐经验
OpenAI 分享了部署长时程（long-horizon）AI 模型的经验，指出这类模型带来新的安全风险，并披露了实际观察到的失败案例。OpenAI 表示通过迭代式部署改进了防护措施。
Google DeepMind精选AI 评分7474 Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上以多次调用取得接近更大模型的表现。
推荐理由：官方给出轻量安全模型在多个漏洞基准上的对比数据与受限开放方式，可据此判断专用小模型在代码安全场景的定位。