🔔科技频道[奇诺分享-ccino.org]⚡️
9 小时前
IT之家
看穿大模型的“小心思”:阿里千问开源可解释性模块 Qwen-Scope
Ithome
看穿大模型的“小心思”:阿里千问开源可解释性模块 Qwen-Scope - IT之家
阿里千问推出 Qwen-Scope,通过稀疏自编码器(SAE)解析模型内部机制,不仅能分析行为,更能定向控制推理结果、优化数据合成与训练过程,甚至评估评测集冗余度。这标志着大模型可解释性从“事后分析”迈向“驱动进化”的新阶段。#AI 可解释性# #大模型开源#
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia