AI 拒绝机制可靠性受质疑

2026年10月9日，MIT Technology Review 刊文指出，AI 的拒绝机制正成为 AI 安全的核心支柱，但这一机制并不可靠。文章回顾，Anthropic 于2021年提出模型应做到“有用、诚实、无害”，如今各大公司通过红队测试和 AI 训练 AI 的方式，让模型学会拒绝有害提示词。然而报道强调，拒绝机制基于概率，determined miscreants 已多次突破。截至该报道，事件仍停留在对拒绝机制可靠性的质疑层面，尚无后续进展。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。