这下国内的内存价格是不是可以再降降了？华为昇腾AI芯片获清华大学等机构超级优化：内存用量直降6倍！华为的三元量化技术是不是可以成为三进制技术？
面壁智能、清华大学与OpenBMB社区联合发布首个原生基于华为昇腾NPU构建的端到端1.58比特（三元）大语言模型训练系统BitCPM-CANN。该系统采用三元量化技术，将模型权重压缩为-1、0、1三种状态，显存占用量降低6倍，同时将高耗能浮点乘法计算简化为加减法运算以降低功耗。 实测显示，1B、3B和8B参数量的三元版本分别保留对应全精度原版模型97.1%、97.2%和95.7%的平均性能，0.5B小尺寸版本保留90.1%的性能；在昇腾910B芯片平台上，其吞吐量损失仅为4.5%。该系统原生适配昇腾平台，支持端到端运行，开源可完全复现，可降低对HBM等高价存储芯片的依赖。