OpenAI News·2026-03-11 19:30· 2026-03-11AI 评分38

OpenAI 如何设计 AI 智能体抵御提示词注入

Designing AI agents to resist prompt injection

AI 导读

OpenAI 介绍了 ChatGPT 在智能体工作流中抵御提示词注入与社会工程攻击的设计思路：通过限制高风险操作、保护敏感数据来降低风险。

来源：OpenAI News · openai.com

#产品更新 #安全/对齐 #Agent #OpenAI