为什么大家都烧不起Token了
大家有没有发现,现在AI越来越好用的同时,也越来越贵了。虽然DeepSeek把大模型的价格打下来了,模型Token单价三年内暴跌超99%,但很多人,尤其是企业的AI开支反而变多了。
谷歌的IO大会上公布了一组数据:截止2026年5月,谷歌每个月要处理的 Token 数量已经达到了3200万亿,从个体放眼整体,可想而知全球每天消耗的算力有多么庞大。从简单对话式大模型走向可自主执行任务的智能体,Token消耗直接进入了指数级膨胀阶段。
普通对话模式下,一次交互只需要单次上下文传输,Token消耗可控。Agent截然不同,它需要自主拆解目标、反复调用工具、回溯历史步骤、失败后重试纠错,每一轮决策都要把全部任务记录、工具返回数据、历史指令重新送入模型上下文窗口。Uber为五千名工程师开放AI编程Agent后,仅四个月就耗尽全年AI预算;某些大厂多Agent协同测试时,智能体陷入互相确认的循环链路,一夜烧掉巨额Token。执行复杂任务的Token消耗量是九成落地Agent的企业都面临成本远超预期的困境。
模型无法留存任务记忆,所有信息必须反复传入上下文,大量重复内容占据绝大多数Token份额。数据显示,Agent超过八成Token消耗都是重复的系统指令、冗余的工具描述、未精简的历史记录,真正用于产出结果的输出Token占比不足两成。Token价格持续走低,反而消解了使用成本约束,反而形成“越便宜越消耗”的怪圈。说白了,比起你用了多少,更重要的是你用它产出了多少?
Token爆炸不是发展阵痛,而是Agent时代必须跨越的结构性难题。单纯压缩提示词、限制调用次数只能治标,现在的AI行业需要的是体系化的治理,不能只追求能力扩张,效率与成本平衡才是下一阶段竞争核心,算力资源也是资源,不应该被无序浪费[思考] #ai创造营##微博兴趣创作计划#
