🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
IT之家
谷歌推出 DiffusionGemma 文本扩散模型:本地 AI 推理速度提升 4 倍
Telegraph
|
原文
Telegraph
谷歌推出 DiffusionGemma 文本扩散模型:本地 AI 推理速度提升 4 倍 - IT之家
IT之家 6 月 11 日消息,谷歌今天(6 月 11 日)发布公告,宣布推出 DiffusionGemma,是基于文本扩散机制的开放 AI 模型,相比较自回归模型在本地推理速度上提升了 4 倍。 IT之家注:自回归模型(Autoregressive Model)是当前主流的大语言模型架构(如 GPT、Gemini),按照从左到右的顺序逐个生成 Tokens。该架构在云端批处理场景下效率较高,但在本地推理时受限于内存带宽,存在计算资源浪费问题。 而扩散模型(Diffusion Model)通过从噪声中逐…
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia