AI已经进入了以生成式AI、智能体AI的发展阶段。依靠大语言模型,用户可以通过AI完成智能决策和信息流程处理自动化。在AI与GPU协同运作的经典场景中,高带宽内存HBM(High Bandwidth Memor)为GPU高频访问数据提供高速连接通道,特别是模型权重、KV Cache等高频访问数据需要大量HBM,但直接扩容成本高昂且存在物理限制。 http://t.cn/AXMFTYA0
发布于 上海
AI已经进入了以生成式AI、智能体AI的发展阶段。依靠大语言模型,用户可以通过AI完成智能决策和信息流程处理自动化。在AI与GPU协同运作的经典场景中,高带宽内存HBM(High Bandwidth Memor)为GPU高频访问数据提供高速连接通道,特别是模型权重、KV Cache等高频访问数据需要大量HBM,但直接扩容成本高昂且存在物理限制。 http://t.cn/AXMFTYA0