“以前我们把AI当成计算器,只要逻辑对、代码稳就行。但现在的LLM更像是一个博学但满嘴跑火车的“社交达人”。实验室雇佣哲学家,不是为了聊虚无缥缈的人生,而是为了解决最棘手的工程问题: 首先是解决“幻觉”。通过苏格拉底式的提问法和“无知之知”的训练,让模型学会承认自己不知道,而不是为了讨好用户而瞎编。其次是构建“宪法”。Anthropic给模型写了78页的“灵魂文件”,引入康德的义务论来划红线;而Google和OpenAI则更倾向于后果主义,通过权衡利弊来做决策。”
发布于 上海
“以前我们把AI当成计算器,只要逻辑对、代码稳就行。但现在的LLM更像是一个博学但满嘴跑火车的“社交达人”。实验室雇佣哲学家,不是为了聊虚无缥缈的人生,而是为了解决最棘手的工程问题: 首先是解决“幻觉”。通过苏格拉底式的提问法和“无知之知”的训练,让模型学会承认自己不知道,而不是为了讨好用户而瞎编。其次是构建“宪法”。Anthropic给模型写了78页的“灵魂文件”,引入康德的义务论来划红线;而Google和OpenAI则更倾向于后果主义,通过权衡利弊来做决策。”