OpenAI 发布可稳定欺骗神经网络分类器的对抗样本图像
OpenAI 表示已生成一批图像，在多种尺度和视角下都能稳定欺骗神经网络分类器。这一结果对上周提出的说法构成挑战，即自动驾驶汽车因从多个尺度、角度和视角采集图像而难以被恶意欺骗。
推荐理由：OpenAI 用多尺度多视角仍能骗过分类器的图像，回应了上周关于自动驾驶难以被恶意欺骗的说法。
安全对齐
全部主题AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
最新精选
第 61–62 条 · 共 62 条OpenAI News精选AI 评分6060
OpenAI News精选AI 评分6262 OpenAI 与 DeepMind 合作提出从人类偏好中学习的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类指出两种候选行为中哪一个更好，来推断人类想要什么。OpenAI 称，构建安全 AI 系统的一步是免去人类编写目标函数的需要，因为用简单代理替代复杂目标、或把复杂目标写偏一点，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队合作提出用人类偏好比较替代手写目标函数，为对齐研究提供了一条早期思路。