和AI对话越聊越长,不仅更贵还更“笨”怎么办!
想必养虾玩家都碰到过这样的场景:
明明只打几个字,额度却掉得快,一次长会话的钱到底花在哪?
简单任务也开着最贵的模型太浪费,怎么判断、灵活切换才能不掉效果?
对话越聊越长,不仅更贵还更"笨"长周期项目的上下文该怎么管理?
本期二哥专门邀请到腾讯算法工程师——Kario来解答,送上可以直接抄的养虾秘诀!
图1: 一次长对话,Token都花在哪里
图2: 怎么管理长周期任务上下文
图3: 怎么让AI清晰理想态
图4: 怎么在复杂任务主脑调度
图5: 怎么动态切换模型
用四个技巧讲清楚,怎么在合适的时间,把合适的模型,装到合适的模型。
省Token和把AI用好,从来就是一件事!
#AI##省Token ##技巧 ##科技先锋官# 程序员超话
发布于 广东
