用直觉理解 KV Cache
地址：medium.com/@saad.ahmed1926q/kv-cache-explained-intuitively-2b425a36dfc7
这篇文章讲的是大语言模型生成文本时的一个关键加速机制：KV Cache。要理解它，需要先知道 Transformer 解码器会把文本拆成 token，再通过 attention 机制判断当前 token 应该关注前文哪些 token。模型生成回答时通常是一个 token 一个 token 往后续写，因此如何避免重复计算前面已经处理过的内容，就成了推理效率的核心问题。