大圣Ling
26-06-27 15:39

OpenAI正式发布新一代模型 GPT-5.6,并宣布7月份登陆Cerebras平台,推理速度最高可达750 token/秒,真是叼炸了。

过去几年,各家模型公司拼的是,谁能训练出最强的大模型。

未来几年,竞争重点可能会变成,谁能让AI回答得更快、更便宜,也就是推理。

因为训练模型只发生少数几次,但推理每天都会发生。

你每问一次ChatGPT、每调用一次AI助手、每让机器人完成一次任务,背后都是一次AI推理,未来每天可能会有数十亿次甚至更多的推理请求。

这意味着AI真正的大市场,可能不是训练,而是推理。

举个例子:AI就是一名学生,训练,就是上学学学知识。而推理,就是毕业后每天要工作。学习只有几年,但工作却要工作好几十年。

所以未来几年,AI拼的可能是推理效率。随着AI Agent、企业AI和机器人的快速普及,推理算力会成为下一轮AI基础设施的新增长引擎。

发布于 云南