Easy
26-06-23 22:20 微博认证:AI博主

Unsloth 这次把 GLM-5.2 压到了 1bit 🔥

他们把 GLM-5.2 做成 1-bit GGUF 格式,在本地 Mac Studio M3 Ultra(256GB 内存)上就能跑,速度约 21.6 tok/s。还拉了 Claude 4.8 Opus 和 GPT-5.5 做同题对比——同一个 prompt,三家输出摆在一起。

之前 2-bit 版就把模型从 1.51TB 缩到 238GB(-84%),保留了 82% 的准确率。现在 1-bit 门槛更低。GLM-5.2 本身就是目前最强的开源模型,这波量化把本地部署门槛彻底打下来了。

视频是三个模型的输出对比,你觉得哪个更好?#1bit# #Unsloth# #GLM # #开源AI# http://t.cn/AXSf1q8u

发布于 法国