跳到正文
原文
OpenAI News·· 2026-03-10AI 评分58

OpenAI 提出 IH-Challenge 改进前沿大模型的指令层级

Improving instruction hierarchy in frontier LLMs

AI 导读

OpenAI 发布 IH-Challenge,用于训练模型优先执行可信指令,从而改进指令层级、安全可控性以及对提示词注入攻击的抵抗能力。

来源:OpenAI News · openai.com