在Hot Chips 2023大会上，三星发布了令人振奋的PIM（存内计算）新技术和芯片，这是一项将存储芯片与逻辑处理器紧密结合的创新，适用于HBM芯片和LPDDR内存芯片，可以为CPU卸下一部分负担，大幅提高AI计算的性能和效率。

三星推出的HBM-PIM和LPDDR-PIM芯片主要针对未来的人工智能应用。相较于传统HBM芯片，这些存内计算芯片的能效可以提高约2倍，而AI计算速度更可以提高1倍以上。三星使用AMD Instinct MI100 GPU，并采用了MoE混合专家模型技术进行验证，构建了HBM-PIM集群。测试结果显示，与传统HBM芯片相比，采用PIM存内计算方案进行MoE模型运算的效率提高了2倍，能效提高了3倍。

HBM-PIM技术的工作原理是将CPU的一部分处理能力分配给内存，从而降低了CPU与内存之间的数据传输负担。对于AI应用来说，处理海量数据时内存带宽通常成为瓶颈，而PIM存内计算技术则可以显著减轻这一问题。三星还展示了LPDDR-PIM芯片，这一技术使得移动设备也能够充分利用存内计算的优势。尽管这款芯片的带宽仅为102.4GB/s，低于传统DRAM，但却实现了72%的功耗节省。

#芝能智芯##芝能日报#