董力xp
26-09-10 16:31 微博认证:AI博主

DeepSeek V4.1 Flash 也转向了采用YOCO (You Only Cache Once; http://t.cn/A6HydTrP) 作为模型架构的灵魂,继承了YOCO 在Prefill 和KV Cache 上的数量级优势。我们的判断是领域已经进入了模型架构创新的下半场,大家会从component创新走向layout创新(比如YOCO从逻辑上拆开了Prefill和Decode)。对于想尝试YOCO的团队,我们提供了全家桶帮助大家一步到位:
Universal YOCO: http://t.cn/AX0gb7FH (Looped版本YOCO)
YOCO-Sparse: http://t.cn/AX0gb7FT (YOCO + Sparse Attention)

发布于 辽宁