#DeepSeek发布DSpark#

DSpark是DeepSeek联合北大推出的开源大模型推理加速框架，基于优化版推测解码技术。
先用小模型快速生成文字草稿，再由主模型批量校验；靠置信度、硬件动态调度减少无效算力消耗。

同等并发下生成提速60%-85%，整体吞吐量最高翻4倍，兼容多款主流开源大模型，已全栈开源。
#北大与DeepSeek联合开源DSpark#
http://t.cn/AXSQ6rw9