Barret李靖
26-04-19 18:06 微博认证:阿里巴巴职员 科技博主 头条文章作者

大模型天然倾向于"差不多就行",主打一个糊弄,最直接的证明就是,每当它生成了一个合理的停止点就返回 end_turn(告诉 agent 可以停止了),但很多任务是需要模型持续深入工作的,而不是给个方向就停下。

如果不想去设计复杂的主-子 Agent 框架和外部记忆管理机制,有一个简单的策略,跟模型说,“你有 2M 的 token 预算,没用光它之前不要停下来“,同时让它真的去统计每一轮的 tokens 消耗。

但有时候确实用不上 2M tokens 也能把任务做完,那就没必要强制让 agent 做无用功了。可以再补充一句,“如果连续三轮 tokens 消耗都低于 500,则停止任务“。

其实 Claude Code 本身就支持这个能力,你可以通过 prompt 中写「+500k」或「use 2M tokens」来设置预算(一定要按照这个格式)。

发布于 浙江