🔔科技频道[奇诺分享-ccino.org]⚡️
1 天前
雷锋网
AI 终于学会 「自我坦白」!Anthropic最新论文震撼来袭,「内省适配器」让黑盒模型自己说出隐藏行为
Telegraph
|
原文
Telegraph
AI 终于学会 「自我坦白」!Anthropic最新论文震撼来袭,「内省适配器」让黑盒模型自己说出隐藏行为 - 雷锋网
在过去两年的大模型工业化进程中,安全审计始终遵循着一套 “猫鼠游戏” 的默认设定:开发者微调模型以增强能力,而安全专家则通过红队测试(Red Teaming)或白盒探测来寻找潜在的 “后门” 或 “偏见”。这套逻辑的前提是:模型是一个被动的受访者,它的行为必须由外部观测者通过穷举输入或数学解构来 “审判”。 然而,当 OpenAI、Anthropic、Meta 等公司全面开放微调 API 后,微调带来的不可检测行为成为了最严峻的安全挑战之一。 过去我们审计模型,始终沿着一条低效的路径:通过外部输入去 “探测”…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia