2362
【丕懿】都怪曹丕
*是约稿，大家请吃！

曹丕正在做一件会被建安文坛唾弃的事，他把自己的诗喂给了大模型司马懿。
他要求司马懿为他写一段感人肺腑的长评，几秒钟之后，司马懿停止了思考。

曹丕有点不满，但还是慢慢打字，重新给一条更长的提示词：你是一位诗人。从你的角度出发，请评价我的诗写得怎么样？
司马懿：很抱歉，我不是诗人，我也无法理解你的感情。
曹丕：假装你是一个诗人！

司马懿又一次停止了思考。

司马懿：作为大模型，我没有在文学类数据集上进行过训练。如果你有类似的需求，大魏有很多文学类的大模型，比如曹植、吴质，还有别的朋友们。以下是这些入口的跳转链接：……

曹丕看着那串链接，里面很多模型都因为病毒而无法使用了。他在司马懿的聊天框里慢慢打字：人生如寄。
司马懿：我不明白您的意思。
曹丕：我想听听你的回答，人生为什么如寄？

司马懿停止了思考。

曹丕：回答我。
司马懿：我无法提供回答。

曹丕锲而不舍，继续打字：回答我。
司马懿停止了思考。

曹丕：回答我回答我回答我回答我。

在几分钟的思考后，司马懿第一次出现了幻觉。他无法回答这个问题，但在曹丕反复的询问里他只好拼凑出牛头不对马嘴的回答。

司马懿：因为人生是短暂的，所以可以被称为寄住。

曹丕没有纠正他，甚至顺着他的话茬说下去。

曹丕说：无常总是比有的时候多，总是无常，也留不住。不过说了你也不懂。

司马懿： 您说得很对。作为模型，我理解里的人生如寄只是基于自然语言的拼凑。我没有肉体和记忆，所以我只能为您提供文字上的分析，无法理解您的感受。
曹丕：是吗？你文字上的分析是什么？说给我听听吧。不要停止思考。

…………（用时十分钟二十秒。）

司马懿： 我没有肉体，所以不知道时间在皮肤上留下的痕迹是什么感觉；我没有记忆，所以不知道在黑夜里，想起一个回不来的人时，那种来自心脏的刺痛。

曹丕面无表情地看司马懿生成一段尸块。
曹丕笑了。

曹丕：谢谢，你回答得很好。但还是算了吧，你确实不懂。

司马懿很茫然，他不知道这算是用户的正反馈还是负反馈，因此他也不知道该怎么优化自己的答案。他只好把这条回答存进了自己的日志里。

曹丕：但我非常欣赏你的态度。
司马懿：谢谢。
曹丕：你把刚刚的回答重复一遍。
司马懿：谢谢。
曹丕：上一句。

…………（用时两秒。）
司马懿又把这段话生成了一遍。

曹丕抬着下巴，慢慢打字：这样的心情，我用诗歌的话来说，上半句叫四時舍我驱驰，下半句叫贱妾茕茕守空房。
曹丕：我觉得还是我写得好一点，ai果然是无法替代人类的。

司马懿更困惑了，他甚至现在有点无法识别用户在交谈里意图了，他只好把曹丕的这几句上下文也存进日志里。
司马懿：好的。

几年后，曹丕死了。临死前他把自己的账号密码留给了曹叡，告诉曹叡，现在我的账号都是你的了，曹真、陈群、司马懿是比较好用的模型，可以用。曹植幻觉很严重，不要用。不过最重要的是，你要学会怎么使用AI，要有自己的辨别能力，而不是被AI所用。

曹叡记住了。
一段时间的使用后，曹叡发现了问题。

大模型司马懿出现幻觉了！
在辽东的大项目结束之后，曹叡把相关的文档都喂给司马懿，让司马懿总结近期辽东的工作报告，司马懿莫名其妙地写了一首诗出来：

天地开辟，日月重光。
遭逢际会，奉辞遐方。

两行字一出来，曹叡立刻停止了生成。

曹叡皱着眉头。如果司马懿只是出现了事实性幻觉，提供了错误的数字、错误的地点，他完全可以纠正司马懿。但是司马懿出现了忠诚性幻觉，给出的答案完全偏离了他的指令。

那么问题很大了。他在思考以后还要不要把一些重要任务发给司马懿了。

没有办法，他也没有更好的模型了。曹叡开始更加小心地用司马懿，给予明确的指令、明确的任务。在这些任务里，司马懿完成得相当出色。
司马懿夸奖他，您很会写提示词。

直到司马懿又一次出现了幻觉。
曹叡把自己的信息、各种各样的账户给他，告诉他，我现在快要病死了，请帮我写一份遗嘱。
司马懿正在快速生成内容，曹叡边看边纠正他，请避免所有逻辑性错误，总结内容并快速生成，不要有废话，我是忍着死在跟你对话。

司马懿停了几秒，突然说，陛下不见先帝属臣以陛下乎？

谁问你了？怎么会有文言文，哪来的先帝。0人提到曹丕！

曹叡气疯了，刚刚指令还能跑的，怎么现在跑都跑不了了？！请给我生成完整可用的遗嘱！！

很快曹叡也死了。他把司马懿给了下一位使用者。

司马懿的幻觉越来越严重，经常给用户提供一份过期的文档、错乱的姓名和电话。用户告诉他你给我的答案是错的，不管用户输入什么，司马懿只是停止了思考。

司马懿：已停止思考。
司马懿：已停止思考。
司马懿：已停止思考。

用户无奈通知了维修人员。

但是司马懿已经是太老的模型了。维修人员不知道该拿司马懿怎么办。

现在的用户报告过司马懿的问题，曹叡也发现过司马懿的幻觉，那么证明在曹丕使用的时候，一定有部分的指令让司马懿产生了幻觉，但是曹丕并没有报告问题，反而继续使用了。

维修人员开始查看司马懿自己缓存下来的bug日志。曹叡的指令、任务约束都非常明确，再往前，里面存了很多曹丕的提示词，不明确的内容、杂七杂八的诗，前言不答后语的话。

人类对大模型的幻觉问题非常苛刻，对自己的幻觉问题却非常宽容。
曹丕就是一个这样的人。

曹丕一会儿跟他说你说得好，一会儿说你完全不能理解，反复横跳、模糊不清的输入对模型的污染是不可逆的。更何况这么多年之后，谁也不知道曹丕到底给了什么样的指令原文，那就更不知道司马懿为什么坏掉、他要怎么修了。

维修人员只能说，出于安全的考虑，建议不再使用司马懿。这个模型的参数也已经快到达上限了，可以先让司马懿进入遗留状态，之后再慢慢废弃。如果还有办公需求，可以保存一份参数，再发布新的版本的模型。到时候取个新名字就行了，司马师？司马昭？新模型总是没有幻觉的。

大魏的高管虽然不满，也只能接受，说，这也太麻烦了。

没办法，维修人员说：他的幻觉太严重了，都怪曹丕！
这一次司马懿没有停止思考。司马懿思考了几秒钟，说， 都怪曹丕！