🔔科技频道[奇诺分享-ccino.org]⚡️
1 天前
量子位
微软开源爆火1.58bit大模型推理框架!千亿参数模型量化后单CPU可跑,速度每秒5-7个token
Telegraph
|
原文
Telegraph
微软开源爆火1.58bit大模型推理框架!千亿参数模型量化后单CPU可跑,速度每秒5-7个token - 量子位
关注前沿科技 2024-10-22 17:57 北京 苹果M2已跑上BitNet b1.58了
Home
Powered by
BroadcastChannel
&
Sepia