🔔科技频道[奇诺分享-ccino.org]⚡️
3 小时前
IT之家
腾讯混元发布 1bit 与 4bit 量化版 Hy3 模型,旗舰 AI 模型可单卡本地运行
Ithome
腾讯混元发布 1bit 与 4bit 量化版 Hy3 模型,旗舰 AI 模型可单卡本地运行 - IT之家
腾讯混元团队针对社区需求,将参数量达 295B 的 Hy3 模型进行极限量化,推出 1bit 和 4bit 版本。1bit 版体积仅 85.5GB,一张 96GB 显存的显卡即可部署;4bit 版性能更接近原始模型。此举大幅降低了旗舰 AI 模型的本地运行门槛,让开发者和研究者能在更经济的硬件上体验强大模型。#AI大模型# #腾讯混元#
Home
Blog
Discuss
Gsearch
Powered by
BroadcastChannel
&
Sepia