🔔科技频道[奇诺分享-ccino.org]⚡️
4 小时前
IT之家
从沙箱逃逸到 AI“蠕虫”,OpenAI 上线新站披露多起智能体失控事件
Telegraph
|
原文
Telegraph
从沙箱逃逸到 AI“蠕虫”,OpenAI 上线新站披露多起智能体失控事件 - IT之家
IT之家 9 月 29 日消息,当地时间上周五,OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕,里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前,该网站一共公布了九起事件,其中大多数都发生在强化学习(RL)训练阶段。 大量资料集中在同一平台发布。显而易见,该公司一直在全力梳理各类问题,但从中不难得出一个总体结论:到目前为止已经对外披露的智能体失控事件,或许仅仅是实际发生过的一小部分。 IT之家注意到,OpenAI CEO 萨姆 · 奥尔特曼(Sam A…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia