TechWeb
26-06-28 13:40 微博认证:TechWeb官方微博

【#DeepSeek发布DSpark# 】6月27日,DeepSeek团队联合北京大学发布名为《DSpark》的研究论文(基于speculative decoding方向),提出一种用于加速大模型推理的新方法。#北大与DeepSeek联合开源DSpark#

该技术在保持生成文本分布完全无损(Lossless)的前提下,成功突破了大语言模型(LLM)在高并发生产环境中的推理性能瓶颈,实测数据显示,其单用户生成速度较现有主流方案最高提升 85%。

目前,该框架已被部署在DeepSeek-V4-Flash 与 DeepSeek-V4-Pro的真实线上流量中,大幅加速了大语言模型(LLM)的推理速度。

值得注意的是,DeepSeek创始人梁文锋也位列论文作者名单之中。#DeepSeek最新论文梁文锋署名#http://t.cn/AXSuwK1y
#DeepSeek开源DSpark框架#