华为云宣布Tokens服务全面接入CloudMatrix384超节点，并通过384原生的xDeepServe服务再次实现了吞吐量的突破，达2400TPS，与此同时TPOT降至50ms。Tokens服务为何能打？本期视频我们一起去看看！#科技风向标# #算力# http://t.cn/AXPPRezp
发布于 北京
科技宅小明
华为云宣布Tokens服务全面接入CloudMatrix384超节点，并通过384原生的xDeepServe服务再次实现了吞吐量的突破，达2400TPS，与此同时TPOT降至50ms。Tokens服务为何能打？本期视频我们一起去看看！#科技风向标# #算力# http://t.cn/AXPPRezp