火韦先生
26-07-04 21:33

1M 上下文能省 2.9× 算力,GLM-5.2 最关键的一刀居然砍在 indexer 上。

💡 背景补一下:DSA(DeepSeek 那套 sparse attention)已经把 attention 从 O(L²) 砍到 O(Lk),靠一个 lightning indexer 先挑出该关注的 top-k token。但这个 indexer 本身每层都得跑一遍,1M ctx 下也是个不小的开销。

IndexShare 的动作很直接——把 indexer 抽出来,每 4 层复用同一份。思路跟 GQA 共享 KV head、MLA 共享 latent 是一根线上下来的:"共享大法"在 sparse attention 的 indexer 上再落一次。

🤔 但这里有个不太好回答的问题:不同层的 attention pattern 差异其实挺大,浅层偏局部、深层偏全局。让 4 层共用一份 indexer,意味着这 4 层选出来的候选 token 池差不多,剩下的区分度全丢给后续 attention 权重去 fit。

4 这个数字大概率是实验扫出来的:1 层看不到收益、8 层大概就要掉点了。

从 GQA 到 MLA 再到 IndexShare,"共享"这条路每次都能再抠一层。都在同一条【表达力 vs 算力】的曲线上找 sweet spot,谁抠得比别人细半格,谁就多半个身位。 zai-org·GLM-5.2

发布于 日本