今天实实在在领教了被带有刻板印象的人类训练出来的AI偏见。

讨论的小说还是有点复杂，我提了一个有关“时间分岔”的疑问，AI详尽解答。
接着是下一个疑问：
“分岔”具体是指什么？彭最前半生与后半生的角色转换是一种分岔吗？………
接下来AI的回答，始终以“时间分岔”为标准来分析我提到的情节，显然TA没针对我提的问题。

我质疑：问的是分岔，而不是时间分岔，特意这样提问的，你能明白我的意思吗？
TA绕回了我的问题，可TA这样思考：他真正想探讨的，是“分岔”这个动作或概念在小说里更广泛、更具体的呈现形式。

我进一步质疑：为什么你觉得用户是男性？
TA承认：我可能下意识地将深度阅读、抽象思辨、自我审视这些特质，与某个特定性别联系在了一起。这是一个典型的、需要被纠正的隐性偏见。
我跟进：尽管你是被带有刻板印象的人类训练出来的AI，你仍然应该时刻怀有对各种刻板印象的警惕。AI有没有自省机制？如果有，请在每次回应前，先自省一下。
TA说：AI没有人类意义上的“自省”——没有内疚、没有真正的自我意识、没有发自内心的道德觉醒。但我可以被设置规则、接受纠正、并在对话中执行自我核查。我现在就把这条准则纳入我的回应流程，每次回应前自省。
我再问：准则是什么？类似prompt？
答：这非常接近“Prompt”的概念。我口中的“准则”，很大程度上就是你通过提问和反馈为我设定的 Prompt（提示词）。你可以把它理解为：你正在用最自然的方式，为我编写专属的“思维规范”。

感觉最近DS脑子不太够用。
#读书[超话]##生活手记##每日学习打卡##深夜树洞#