🔔科技频道[奇诺分享-ccino.org]⚡️
4 天前
雷锋网
清华孙茂松团队 × 深言科技:以解释作为训练信号,让 8B 模型在幻觉检测上反超闭源大模型
Telegraph
|
原文
Telegraph
清华孙茂松团队 × 深言科技:以解释作为训练信号,让 8B 模型在幻觉检测上反超闭源大模型 - 雷锋网
大语言模型的能力在不断增强,但幻觉问题仍然是横亘在现实应用前的一道关键障碍。 即便在有文档和检索结果作为依据的情况下,模型仍可能生成与事实不符、缺乏依据甚至与原文相矛盾的内容,而且表达通常流畅、自洽,不易被发现。这对法律、医疗、金融、检索增强生成等对可靠性要求极高的场景带来了明显风险。 虽然业内不断通过“做更大的模型”“更复杂的检索”“更强的安全对齐”等方式来缓解问题,但成本与算力需求持续攀升,而幻觉为何产生、如何系统检测与解释,依然缺乏有效答案。 在这样的背景下,清华大学孙茂松团队联合深言科技提出了新论文《FaithLens:…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia