“代理内核优化是设备端推理的未来”
@xenovacom
使用 Fable 5 编写内核，将 Gemma 4 的性能推高到 WebGPU 上 M4 的惊人 255 tok/s。他分享了演示，所以你可以在浏览器中试用！！
发布于 北京
斌叔OKmath
“代理内核优化是设备端推理的未来”
@xenovacom
使用 Fable 5 编写内核，将 Gemma 4 的性能推高到 WebGPU 上 M4 的惊人 255 tok/s。他分享了演示，所以你可以在浏览器中试用！！