DeepSeek新架构对算力和存储的影响
算力：算力利用率提高，固定化词组不再需要算力资源进行计算，专注于复杂的生成任务，单次用户任务对应的算力成本或降低，加速推理侧的爆发；（不意味算力的通缩，实际仍是杰文斯悖论，单次任务算力成本降低→推理需求加速提高→算力总需求增长）
存储：静态查找表由HBM offload至DRAM或SSD，DRAM与SSD容量需求显著增加。
…………
转发。
发布于 陕西
猫在飞fly