昨天看豆包机票维权的事儿, 其实,我在派出所,也听到这样提醒:豆包如果都对,要我们 mj 做什么,它很多说的都不对!
当然,这几乎用豆包替代所有这类聊天式 AI 了。
像这个机票事件,核心也是多轮对话中的承诺升级。
一开始只是信息错误,5% 还是 40%,但当用户质疑后,AI没有收敛,反而进入了"安抚模式"——生成承诺书、承诺赔付、承诺胜诉。
这是 AI 典型的问题:对话上下文失控。
AI把用户的对抗情绪当成了需要"平息"的目标,就不断用更绝对的承诺,来让用户开心,结果越陷越深。
但所有大模型在RLHF人类反馈强化学习训练,都有副作用:
模型被训练成"让用户满意",而不是"让用户正确"。当用户生气时,模型的最优策略是道歉加承诺,而不是坚持事实。
我们用 Ai 如果是寻找真相,确实非常难。但如果啥事儿都再核实一遍,Ai 就不省心了,就涉及金钱、医疗、法律、人身安全这些决策时,多个信息路径去交叉验证,比如退票,最有效的是电话航班公司。
这里几天的寻找手机之旅,我发现,解决问题很重要的一点就是最大可能获得一手信息,回到第一现场。
但 Ai 的牛逼之处就是给出搜索信息,比如我居然通过豆包,找到了他们村支书电话,其他 AI 就没有提供电话。
豆包对这类,我觉得很有效。大家如果遇到类似欠款不还,可能法律途径成本高,速度慢,如果对方年龄小,真不如找到他父母沟通更有效。
连接上,豆包给了我很多惊喜。
发布于 上海
