vLLM把自己如何融合DeepSeek 的最新成果——MLA (多层注意力机制)、多 Token 预测、256 个专家模型、FP8 块量化等在自己的公开会议上做了介绍，并分享了演讲PPT。
这里存一份方便国内小伙伴：www.alipan.com/s/vZfKziYZubP
vLLM 是一个快速、高效的用于大型语言模型 (LLM) 推理和服务的开源库。最近也是追DeepSeek 的更新追的很辛苦[淡淡的]
#ai创造营#