OpenAI News·2025-01-22 18:00· 2025-01-22AI 评分31

OpenAI 研究：用推理时计算换取对抗鲁棒性

Trading inference-time compute for adversarial robustness

AI 导读

OpenAI 提出通过增加推理时计算来提升模型的对抗鲁棒性，即让模型在生成回答前投入更多计算，从而更难被对抗性提示诱导出错。该研究探讨了推理时计算与模型抗攻击能力之间的权衡关系。

来源：OpenAI News · openai.com