#DeepSeek发布DSpark#
今天（6月27日），DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark，通过重构推测解码逻辑，将模型推理吞吐量最高提升了四倍。
核心技术：半自回归与置信度调度的结合
传统大模型逐字生成的方式在高并发场景下不仅响应慢，且容易导致GPU算力空转。DSpark 引入了推测解码（Speculative Decoding）技术，采用“大小模型协同”的工作模式来实现提速：
半自回归生成：先用轻量级草稿模型快速批量预判并生成一段文本“草稿”，再由主模型一次性进行校验，避免逐Token计算。
置信度调度：改变了以往固定长度预测的死板模式，DSpark 加入了置信度打分机制。对把握度高的内容批量放行，对不确定或容易出错的部分则放慢节奏精细计算，大幅减少了无效计算。
硬件感知调度：框架能实时读取 GPU 显存和负载情况，动态调整验证长度，最大化榨干硬件性能。
性能表现与模型兼容
相比于 MTP 等传统基线方案，DSpark 在实测中展现了显著的性能跃升，且打破了单一模型的限制：
吞吐量飙升：官方数据显示，部署后模型推理吞吐提升了 51% 至 400%。针对 DeepSeek-V4 系列，V4-Flash 单用户生成速度提升 60%85%，V4-Pro 提升 57%78%。 http://t.cn/AXSQbarX