The Decoder· Manuel Uth·· 4 小时前AI 评分67
新研究:AI 审计员能抓到多数智能体异常行为,但误报淹没人工复核
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute 研究员 Andy Hall 在 Substack 发文,复现并扩展了 METR 的研究,用 MALT 数据集测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类复核者一样发现智能体异常行为。
来源:The Decoder · the-decoder.com