韩清流
26-06-27 15:12 微博认证:娱乐博主

#deepseek发布dspark# “结合半自回归生成的置信度调度推测解码方法”,咱翻译成人话就是:用更聪明的方式猜下一步要生成啥,猜对了就批量输出,猜错了就及时刹车。

这技术还不是DeepSeek自家V4 Flash和V4 Pro独享。论文里说在Qwen、Gemma这些主流开源模型上也试了,迁移表现一样出色。这说明什么?说明DSpark很可能不是针对某个模型架构的特调,而是一个通用性很强的底层加速框架。一旦开源(我猜大概率会开源),整个开源社区的大模型推理效率都可能被拉上一个新台阶。这格局一下就打开了。http://t.cn/AXSHk1ju

发布于 江西