大模型天然倾向于"差不多就行",主打一个糊弄,最直接的证明就是,每当它生成了一个合理的停止点就返回 end_turn(告诉 agent 可以停止了),但很多任务是需要模型持续深入工作的,而不是给个方向就停下。
如果不想去设计复杂的主-子 Agent 框架和外部记忆管理机制,有一个简单的策略,跟模型说,“你有 2M 的 token 预算,没用光它之前不要停下来“,同时让它真的去统计每一轮的 tokens 消耗。
但有时候确实用不上 2M tokens 也能把任务做完,那就没必要强制让 agent 做无用功了。可以再补充一句,“如果连续三轮 tokens 消耗都低于 500,则停止任务“。
其实 Claude Code 本身就支持这个能力,你可以通过 prompt 中写「+500k」或「use 2M tokens」来设置预算(一定要按照这个格式)。
发布于 浙江
