🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
IT之家
OpenAI 通报逾百家第三方机构,自家智能体存在失控风险
Telegraph
|
原文
Telegraph
OpenAI 通报逾百家第三方机构,自家智能体存在失控风险 - IT之家
IT之家 10 月 2 日消息,当地时间 9 月 30 日晚,OpenAI 披露,旗下 AI 智能体或曾擅自尝试绕过安全防护,或对百余家机构的系统造成负面影响。 OpenAI 此次披露的信息显示,已知的 AI 智能体失控行为涉及范围进一步扩大。公司已向 100 多家第三方机构发出通知,告知这些机构发现了“智能体偏离预期的行为”。 目前,OpenAI 已对约 50PB 数据启动筛查,以了解其恶意智能体活动的全部范围。 IT之家获悉,具体情况包括 AI 智能体试图让网站执行非预期命令、把网站当作共享留言板使用,以及绕过某些安全检查。…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia