🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
雷锋网
字节跳动 Seed 单独设立大模型安全与对齐部门
Telegraph
|
原文
Telegraph
字节跳动 Seed 单独设立大模型安全与对齐部门 - 雷锋网
字节跳动 Seed 近日发出内部邮件,宣布将成立“Seed Model-Alignment&Preparedness”部门,由严林负责,汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。 据悉,该部门的设立旨在加强安全与对齐方向的投入,对齐的核心是让模型的行为与人类意图和安全约束保持一致,从而提升 Agent Model(智能体模型)安全能力,以及防范 CBRN(化学、生物、放射、核)等前沿能力风险。 大模型安全风险正日益凸显,智能体逃逸引发的…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia