Google DeepMind 发布 Gemini 4 Argon，支持 1M 输出 token
Google DeepMind 发布 Gemini 4 Argon，面向编码、企业知识工作和网络防御，先在 Fairwind 计划的政府用户与可信网络安全人员中开放，之后才面向开发者、企业和消费者。
推荐理由：汇总 Gemini 4 Argon 的基准、定价与可用范围，并列出评测者对数据的质疑，便于判断其真实位置。
#安全/对齐
#安全/对齐
今日 0 条Latent Space精选AI 评分8484 TechCrunch · AIAI 评分6666 Google 发布 Gemini 4 Argon，称其为迄今最强模型
Google 母公司 Alphabet 发布 Gemini 4 Argon，称其可处理编码、研究和写作等任务，并专门针对防御性网络安全训练，能自主发现、验证和修补关键软件漏洞。
The Verge · AI精选AI 评分8080 Google 发布 Gemini 4 Argon，初期仅向可信网络安全人员开放
Google 发布新一代前沿模型 Gemini 4 Argon，称其在软件工程、法律金融等企业知识工作和网络安全防御等复杂工作流中具备前沿性能。该模型初期仅向一组可信网络安全人员开放，Google 表示正参与美国政府的前沿模型预发布访问流程，并将逐步扩大访问范围。
推荐理由：Google 发布 Gemini 4 Argon 并限制访问范围，读者可了解其能力定位与分阶段开放的安全考量。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步扩展至开发者、企业和消费者，起步价每百万输入 token 2 美元、输出 token 10 美元。
推荐理由：官方给出 Argon 在编码、企业知识与网络安全上的基准成绩和分阶段开放方式，可据此判断前沿模型的能力边界与落地节奏。
Google DeepMind精选AI 评分7171 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质加水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时实验室测试显示其生物功能未受影响。
推荐理由：SynthID 从图像音频扩展到合成生物学，读者可了解水印如何嵌入蛋白质序列与结构而不影响功能。
Google DeepMind精选AI 评分8585 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 和面向网络安全的 Gemini 3.8 Flash Cyber，称其为目前推理与编码能力最强的模型，速度与成本与 3.7 Flash 持平。
推荐理由：官方给出两个变体的基准表现与定价，读者可据此判断长时程编码与网络安全任务的成本取舍。
OpenAI News精选AI 评分7575 OpenAI 发布 Astra：首个触及关键网络安全能力阈值的模型
OpenAI 发布 Astra，称其是首个在 Preparedness Framework 下达到关键网络安全能力阈值的 OpenAI 模型。OpenAI 表示将为该模型的发布配备更强的安全防护措施。
推荐理由：OpenAI 首次披露 Astra 触及 Preparedness Framework 的关键网络安全能力阈值，读者可了解其发布前的安全门槛。
OpenAI News精选AI 评分6060 OpenAI 发布网络安全专用模型 GPT-5.6-Cyber
OpenAI 发布网络安全专用模型 GPT-5.6-Cyber，通过 Daybreak Red 提供，用于授权的漏洞研究、漏洞利用验证和安全测试。
推荐理由：OpenAI 推出网络安全专用模型并限定授权用途，读者可据此了解其能力边界与开放方式。
Mistral AI精选AI 评分6262 Mistral AI 发布 Shieldstral：3B 开源多模态安全分类器
Mistral AI 发布 Shieldstral，一个 3B 开源权重多模态安全分类器，以 Apache 2.0 许可开放下载。它把内容审核建模为策略自适应的问答任务，推理时用自然语言策略提问并输出校准后的安全分数，无需重新训练即可适配新策略，统一处理文本与图像。
推荐理由：3B 开源安全分类器把内容审核变成可推理时替换策略的问答任务，读者可据此判断小模型在审核场景的可用边界。
Google DeepMind精选AI 评分7474 Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上以多次调用取得接近更大模型的表现。
推荐理由：官方给出轻量安全模型在多个漏洞基准上的对比数据与受限开放方式，可据此判断专用小模型在代码安全场景的定位。
OpenAI News精选AI 评分6262 OpenAI 预告下一代模型 GPT-5.6 Sol
OpenAI 预告下一代模型 GPT-5.6 Sol，称其在编码、科学和网络安全方面能力更强，并搭配其最先进的安全栈。
推荐理由：OpenAI 官方预告 GPT-5.6 Sol 在编码、科学与网络安全上的能力提升，并同步给出安全栈信息。
Hugging Face BlogAI 评分5858 NVIDIA 发布 Nemotron 3.5 Content Safety 多模态安全模型
NVIDIA 发布 Nemotron 3.5 Content Safety，基于 Gemma 3 4B IT 微调，把多模态输入、多语言覆盖、自定义企业策略执行和可审计推理整合进一次推理调用。
Hugging Face BlogAI 评分4242 Hugging Face 推出 AprielGuard：面向现代 LLM 系统的 8B 安全护栏模型
Hugging Face 发布 8B 参数安全护栏模型 AprielGuard，可检测 16 类安全风险及提示注入、越狱、思维链污染、记忆投毒、多智能体攻击等对抗攻击，并覆盖工具调用与推理轨迹等智能体工作流。模型提供推理与非推理两种模式，兼顾可解释分类与低延迟生产部署。
Google DeepMindAI 评分5757 Google DeepMind 发布 Gemma Scope 2 可解释性工具套件
Google DeepMind 发布 Gemma Scope 2，一套面向 Gemma 3 全系列（270M 至 27B 参数）的开源可解释性工具，结合稀疏自编码器（SAEs）和 transcoders 分析模型内部行为。
OpenAI NewsAI 评分5050 OpenAI 在 GPT-5 中用 safe-completions 替代硬拒绝，推进以输出为中心的安全训练
OpenAI 在 GPT-5 中引入 safe-completions 方法，用更细致的输出导向安全训练取代此前的硬拒绝策略，以同时提升模型的安全性与有用性。该方案针对双重用途提示词的处理，让模型在敏感请求下给出有分寸的回应而非直接拒答。
Hugging Face Blog精选AI 评分6060 Meta 发布 Llama Guard 4 与 Llama Prompt Guard 2
Meta 发布 Llama Guard 4，一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型，可检测图像与文本输入输出中的不当内容，单张 24GB 显存 GPU 即可运行。
推荐理由：Meta 发布 12B 多模态安全模型与两款提示注入分类器，并给出可直接运行的 transformers 示例。
OpenAI News精选AI 评分6262 OpenAI 发布 o3-mini 系统卡
OpenAI 发布 o3-mini 系统卡，说明该模型的安全工作，包括安全评估、外部红队测试和 Preparedness Framework 评测。
推荐理由：官方系统卡披露 o3-mini 的安全评估、外部红队与 Preparedness 框架评测范围，便于了解其安全验证流程。
Hugging Face Blog精选AI 评分6262 Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充 Gemma 模型系列，新增 2.6B 参数的 Gemma 2 2B（含 base 与指令微调版）、安全分类器 ShieldGemma 以及稀疏自编码器套件 Gemma Scope。
推荐理由：Gemma 2 新增 2B 小模型、安全分类器和可解释性工具，读者可据此判断端侧部署与安全过滤的可用选项。
OpenAI News精选AI 评分6060 OpenAI 用 GPT-4 训练 CriticGPT 发现 GPT-4 的错误
OpenAI 发布基于 GPT-4 的模型 CriticGPT，用于对 ChatGPT 的回复撰写批评意见，帮助人类训练员在 RLHF 过程中发现错误。
推荐理由：OpenAI 提出用 GPT-4 训练的 CriticGPT 辅助人类标注者发现 ChatGPT 回复中的错误，可用于 RLHF 环节。
OpenAI NewsAI 评分4242 OpenAI 披露 DALL·E 2 预训练缓解措施
OpenAI 为向大众开放 DALL·E 2，在预训练阶段采取了一系列缓解措施，以降低强大图像生成模型带来的风险。为此，OpenAI 设置了多种防护机制，防止生成图像违反其内容政策。
OpenAI News精选AI 评分8282 OpenAI 发布 InstructGPT，让语言模型更好遵循用户指令
OpenAI 训练出比 GPT-3 更能遵循用户意图的语言模型 InstructGPT，同时更真实、毒性更低，相关技术来自其对齐研究。这些模型采用人类参与的训练方式，现已作为 OpenAI API 的默认语言模型部署。
推荐理由：OpenAI 公布 InstructGPT 的指令跟随与真实性改进，并说明其已替换 API 默认模型。