免费系列文章一：记录我对下列问题的想法。http://t.cn/A6CDVUbw

1）大语言模型替代什么工作？能替代情感工作吗？
2）大语言模型是真正的智能吗？

简短回答是：

1）大语言模型替代什么工作？要从任务层面分析。比之前多很多的分析任务会被自动化，因为机器除了结构化数据（表格里的），现在能处理非结构化数据了（图像、文字）。情感任务除了涉及肉身的，我觉得很多也可以自动化。机器主要胜在即时/随叫随到、便宜、大量、丰富、自我改进。而且社交规则不是进化出来的，社交规则训练数据里全有，维度比原子世界里出门倒个垃圾小多了。我觉得一个类比是我们这一代对博主、偶像产生关心甚至依恋，而且这些情感投射其实代替而不是补充了临近朋友之间的情感。AI 还加入了互动，更加个性化，还会一直进步。最极端的情况，下一代人和 AI 朋友的关系可能就跟我们与偶像、博主的关系一样。

我觉得经济学研究者预测的论文看看就好。不确定性太大，根本取决于人类有多在意自己接受的服务是人做的。产品上，只有少数人愿意为手工制品支付溢价。情感服务上（包括娱乐），大家有多在意？

2）大语言模型是真正的智能吗？要看你怎么定义。我对智能的理解是能在复杂问题、少量例子上建立极简（也就是参数很少）的模型，且在遇到新问题、新情况的时候知道应该怎样修改原有模型。按照这个标准，机器还没达到——文章举了一些例子。

用测试人类的题目来测试机器，并把机器得高分看作机器获得智能，我觉得非常不合适。人类记忆力相比于机器来说很差，所以人类的考试题不需要和课本例题相差太多就可以看出谁有能力建模，谁只是在死记硬背课本。机器已经看过太多例题和习题，所以如果考试卷和习题类似，它只需要简单规则匹配，不需要人类的“推理”就可以做出。

当然了，人类中能答对我觉得真正能测试智能题目的，估计也不到 0.1%。能证明出新数学猜想的，历史上也没几个。所以机器不真正智能，不妨碍它替代经济活动中的人类完成的很多任务。

认为“人工智能还没达到真正的智能”，和认为“人工智能会对人类社会产生巨大影响”，之间并不矛盾。

一个有趣的观察角度可能是技术被部署的速度。数字化早期的很多技术，其实部署速度并不快。现在很多员工大量的时间，仍然花在“手动把 PDF 转成 Word”、“手动制作 Excel 表格”上，哪怕技术已经可以一秒完成上述任务。我的理论是，数字化主要影响公司内部的运营，所以只要公司人工成本低，或者其他地方效率高，仍能生存。

但这一波大语言模型带来的冲击有些不同——信息的输入量会大幅增加（例如客服请求都会变成机器生成），所以信息处理不得不引入新技术。设想，哪怕在劳动力很便宜的地方，用人工客服来接机器打来的投诉，肯定接不完，必须机器对机器。如果你的客户都是通过机器在下单、描述需求，你也得用机器来对接才行。如果给你写邮件的同事都是机器，你也得用机器把他们写好的大段文字变成列表才能看完。

如果部署速度真的很快，那么 1）对就业的冲击会来的比机械自动化、早期数字化还要大；2）更重要的是，AI 风险会大幅增加。一种可能是不用太久，每个人、每家公司都会有很多几乎自主行动的 AI，这些 AI 之间不经人类直接互动，它们也在不断优化自身。重要的是，它们产生的结果是概率的而不是确定的，产生过程也是黑盒，所以我们谁也无法预测、解释结果。这么大规模的 AI 互动会产生什么新情况，谁也不知道。很多短期的投资问题、产品问题，甚至是政策、社科人士喜欢讨论的谁被替代、什么制度能创新的问题，在巨大社会变革、终极哲学问题面前不值一提。