OpenAI News·· 2025-12-22精选AI 评分42
OpenAI 用自动化红队持续加固 ChatGPT Atlas 抵御提示注入
Continuously hardening ChatGPT Atlas against prompt injection
AI 导读
OpenAI 正在用强化学习训练的自动化红队加固 ChatGPT Atlas，抵御提示注入攻击。这一发现与修补的循环有助于尽早识别新型攻击手法，并在 AI 愈发智能体化的过程中强化浏览器智能体的防御。
推荐理由
OpenAI 披露用强化学习训练的自动化红队持续发现并修补 ChatGPT Atlas 的提示注入漏洞，可了解浏览器智能体的安全加固思路。
来源：OpenAI News · openai.com