#deepseek发布dspark# DeepSeek联合北大发布了DSpark推理加速框架。这次不是新模型，是在增加速度，是在V4 Pro和V4 Flash上加了推测解码模块，让现有模型跑得更快。

目前的大模型生成文本是逐字来的，一个字一次计算，根本还是慢的。推测这次解码的思路是：小模型先猜一串，大模型批量验证，对的留下，错的扔掉。

但现有方案还是各有毛病。自回归的猜得准但慢，并行的快但越往后越容易猜错。

DSpark做了两件事：一是半自回归生成——并行主干加轻量串行模块，既保留速度又保证质量；二是置信度调度验证——给每个候选词打分，只验证那些“存活概率高”的，不浪费算力。#热点观点##热点解读# http://t.cn/AXSQFtCi