木鱼的AI大厂情报
26-05-08 00:43

这两天在反复看哈萨比斯最新的那场访谈,他说了一个词,我觉得说得太准了,这个词叫「锯齿状智能」。

在讲这个词之前,我先说一件我自己的事。上个月,我在用Claude帮我做竞品分析,那个分析写得非常漂亮,有逻辑、有数据、有判断,我当时就在想,这东西真的懂我在问什么。

然后我换了个问法,把同一个问题换了一种表述方式,重新问了一遍。

它给了我一个完全不同的答案。其中一个结论还明显站不住脚。

我当时就愣住了。同一个模型,刚才还在给我写行云流水的分析,怎么就...

哈萨比斯说的「锯齿状智能」,说的就是这件事。

他的意思是,现在这些系统,在某些问题上非常惊艳,只要你用某一种方式提问,它们能表现得极其强。但如果你只是稍微换一种问法,它们甚至可能在非常基础的问题上翻车。

真正的通用智能,不应该是「这里特别强、那里又突然掉下去」的状态。

你想想人脑是怎么运作的。不管别人怎么问你「今天天气怎么样」,不管是「外面热吗」「要带伞吗」「适合出门吗」,你都能给出一个合理的回答。因为你真的理解这个问题背后在问什么,而不是在匹配问法的格式。

AI现在还做不到这一点。

那它究竟差在哪里?

哈萨比斯在访谈里点了三个关键缺失,每一个都值得认真讲一下。

先说持续学习,现在这些系统,训练完成、部署上线之后,基本就停止学习了。它们不太擅长在真实世界里继续吸收新知识,也不会把用户的反馈真正融入进去。

人脑不是这样的。哈萨比斯提到,大脑大概是通过睡眠来完成这件事,你白天形成的记忆,晚上会在睡眠中被重放,然后一部分信息会慢慢融入原有的知识体系里,这叫「巩固」。他一直在想,AI也许需要某种类似的机制。

问题是,现在所有领先实验室都在研究这个,却还没有人真正想明白怎么做。把新的学习结果整合进一个已经训练了几个月的大系统,听起来简单,技术上到现在还没有优雅的解法。

顺着这个往下说,第二个缺失是长期规划。

这些系统处理当下任务时可以很强,但如果你让它提前几年去规划一件事,它就开始显得有些无力。哈萨比斯的说法是,人类心智能做到「层级式规划」,你知道今天要做什么,这件事服务于这周的目标,这周服务于这个季度,一层一层往上嵌套。

这种时间感知,AI现在基本上是缺的。这也是为什么你叫AI帮你做项目规划,它给你的往往是一个格式整齐但执行起来很难用的东西。

不过哈萨比斯认为,当下这三个问题里,最大的,还是一致性,就是「锯齿状智能」本身。

访谈里主持人举了个例子,你把一个agent的配置方式稍微改一改,整个系统就直接崩了。哈萨比斯说,完全是这样。他接着说了一句话让我印象很深,「真正的通用智能,如果你想想我们的大脑是怎么运作的,它不该有这种明显的漏洞。」

AGI的门槛之一,就是不管你怎么问,它都要保持稳定水准的表现。不是时而惊艳、时而掉进一个坑里。
说到这块,他在访谈里还说了另一句话。

「如果未来还有什么关键突破尚未出现,我依然会押注我们最有可能做出来。」这话当然有自我表扬的成分,但我觉得他说这话是有底气的。你去回溯AI这十几年最重要的几个时刻,Transformers架构,是谷歌研究院写的。强化学习的关键进展,很多来自DeepMind。AlphaGo、AlphaFold,都是DeepMind的成果。他们不是一家只会跟进的公司。

哈萨比斯在访谈里还有一个判断,我觉得挺准的,只靠「把现有方法做得更大」的实验室,日子会越来越难过。上一轮那套办法,基本已经被压榨差不多了。下一阶段真正拉开差距的,是那些能发明新算法、提出新思路的团队。

所以你可以理解,他为什么对接下来的方向有这种笃定。

回到「锯齿状智能」这件事,我最近在想,这个词其实也可以拿来描述我们自己使用AI的方式。大多数人找到了一两种AI特别好用的场景,就一直在那里用;遇到它掉链子的时候,要么抱怨,要么绕开,要么放弃。

但真正理解这个系统的局限在哪里,才是用好它的前提。

哈萨比斯说,未来五年内出现AGI的概率非常高。但他同时也说,「锯齿状智能」这个问题还没有解决。这两件事并不矛盾。AGI可以在一个还有很多缺陷的状态下出现,就像第一台工业蒸汽机,也不是一个完美的机器。

大概就是这样吧。

发布于 上海