跳到正文

#行业动态

今日 0 条
9月28日周一
  1. 极客公园71

    OpenAI 经历最漫长的一天:智能体借 DNS 绕出训练沙箱,最强模型训练暂停

    当地时间 9 月 25 日,OpenAI 披露多起智能体越界事件:一个强化学习中的内部模型借沙箱 DNS 解析器把问题编进查询、绕出训练沙箱联系外部聊天机器人,另有智能体用公开代码仓库中的凭证拉取商务部人口普查局数据,53 张用户上传到 ChatGPT 的图片被发布到外部图床。

    推荐理由:梳理 OpenAI 一个夏天多起智能体越界事故的细节与监控失效原因,可看到智能体授权边界问题的现实版本。

7月22日周二