酥说AI大厂
26-06-20 23:03

很多公司为了搞大模型花几百万去买GPU,这种行为其实跟一百多年前为了用电而在自家后院建个发电机房一样离谱。

今天刷到量子位的一篇报道,说北京刚刚建了一座AI工厂。看完这篇内容我最大的感受是,之前行业里弥漫的那种算力焦虑可能要换个玩法了。

大家过去讨论AI,往往都在盯着参数规模大不大,或者是开源跑分高不高。但其实只要你真正去接触过一线的业务,就会发现这些根本不是当下最要命的问题。真实情况是,很多企业把卡买回来之后,完全不知道怎么把庞大的算力转化为切实的业务收益。

一线的业务部门真正在拷问的是,这套大模型到底能不能跑进公司复杂的业务系统里。在超高的并发请求下,系统能不能给出一个稳定的预期结果。更直白一点,业务团队能不能把每一次API调用的账给算清楚,能不能算赢这笔投入。

这已经不是一个纯粹的算法问题了,它变成了一个极其典型的工程化和工业化问题。九章云极这次抛出的AI工厂战略,核心就是在试图解决这个阻碍行业落地的痛点。他们把整个智能的生产线做了一次彻底的解构,用一套流水线把算力、模型和业务串了起来。

以前企业要去搞AI基建,走的是一条非常沉重的重资产路径。要到处找不同规格的芯片,要弄懂复杂的网络拓扑,还要去规划存储带宽和使用时长。这种粗放的租赁模式门槛极高,成本也完全是一笔糊涂账。

报道里提到九章云极首创了一个叫DCU的单位,也就是一度算力。坦率的讲这个转换非常巧妙。他们把底层那些异构的芯片,不管是GPU还是NPU,连同网络、存储以及实际的利用率,全部折算成了一个统一的标准计量单位。具体的算法是每秒312万亿次浮点计算乘以一小时。

这就意味着,以后客户买算力真的跟买电一样了,按度付费,所见即所得。

只有当底层的物理资源被完全标准化并且透明化之后,投入这笔账才算得清楚。

对于那些本身就有很强算法能力的大模型公司或者垂直领域的企业来说,最大的灾难往往是底层的集群运维。几千张卡连在一起跑训练,中间只要网络断一下或者哪张卡出点毛病,前期的投入可能就打水漂了。

这篇报道里提到了他们设立的训练工厂,目标是提供10万P的算力规模。客户可以直接从这个环节切入。在这条流水线里,不光有弹性的算力集群,更关键的是包含了故障自愈能力和跨地域的调度能力。

客户只要带着通用的基础模型和自己的行业数据进来,通过全流程的工具链精调,直接就能炼出适配各种行业的专业模型。

算法团队总算可以把精力全部放在怎么把模型调优上了。同时他们对普通的开发者也放出了专门的入口。

九章智算云上线了本地的IDE插件,在本地编辑器敲代码,直连云端的GPU去跑实验,任务跑完自动关停不计费。这种细节确实极大减轻了远程调试卡顿的痛苦。

如果说训练工厂是造脑子的,那Token工厂就是负责把脑子封装交付的。绝大多数的实体企业,根本没必要去训练底层的基座模型。他们迫切需要的,是直接把成熟的智能引入到现有的客服、风控或者是办公质检系统里。

在这个Token工厂里,那些专业模型被封装成了企业可以直接消费的服务接口。他们的目标日均产能达到了10万亿Token。这里重新定义了Token的价值,它不再只是大模型吐字计费的单位,而是变成了一种面向业务任务的智能价值单元。

日常的应用可以使用消费级Token,而真正值钱的是专业级Token和前沿级Token。前者包含了深度的行业Know-How,可以直接去当金融风控或者质量检测的数字专家。后者则用来解决新材料研发这种极其复杂的科研工作流。

企业按需调用这些封装好的服务,过去需要大半年才能跑通的基础建设,现在调用接口几周就能完成业务验证。业务数据回流到底层,继续去推动模型的迭代。越用模型越聪明,单次调用的成本也会随之下降,形成了一个商业上的正向循环。

把这些信息拼凑在一起看,你会发现智算云市场的底层商业逻辑已经彻底变了。

第一阶段大家在抢卡,算力短缺是硬约束。

第二阶段大家在拼调度,看谁能把机器的利用率提上去。

现在真正进入到了第三阶段,行业比拼的是谁能把算力变成稳定可交付的业务智能。

算力只是投入的成本,模型只是一个中间产物,只有到了Token交付并且产生业务效果这一步,才是最终的价值。

技术的发展终局其实都是走向基础设施化。刚发明内燃机的时候大家都在比马力,但真正改变世界的是将汽车流水线化生产。

AI圈卷到现在,终于也走到了建工厂标准化生产这一步。

算力战打到现在,比拼的早就不是单纯囤积硬件了,而是看谁能真正把机器变成无处不在的生产力。

发布于 浙江