OpenAI的战略未来头目(Head of Strategic Futures)Dean W. Ball在新的Kimi开放权重模型发布后写了篇推文。
依次看下来,第一点是他不得不承认“中国的模型蒸馏美国模型”论的破产,他明白再在这方面嘴硬,得到的只会是广泛的嘲笑。
第二点可以看出这帮美国AI人对AGI(通用人工智能)的执念,总觉得搞出AGI就是再“努把力”的事情了。他们疯狂地往AI领域投入和市盈率完全不相称的钱,也是出于这种执念:只要AGI实现,那么赢者通吃,投进去多少都赚得回来;相反,如果现在一松气,那先前投进去得就彻底赔光了。这个地方和底下他说的另一点有致命矛盾,下面再说。
而他认为中国政府之所以愿意开源领先水平的大模型的原因,75%是因为和杨立昆的看法类似,认为通过目前这种没有世界模型的语言大模型,是达不到AGI的,所以不担心通不通吃的问题;而25%的原因是,由于美国对中国的芯片禁运,使得中国公司没有足够的算力运行这些大模型,于是还不如把者模型开放给世界上有算力的组织。
可是根据第三四点,他应该知道,可是就不愿说的中国开放先进模型的一大原因是:我赚不赚得到钱对我不重要,让你赚不到钱对我很重要。
第三和第四点则是在宣扬中国开放先进大模型的行为造成的“危险性”。
首先他认为这是“减速主义”的,也就是在拖慢这个领域的发展,因为这会使得资本不愿意被投资到这个领域。然而在计算机历史上,从来没有这种现象存在,反面倒是有不少例子。比如Linux的开源并没有阻止像Red Hat、AWS或是企业级服务器的资本扩张,反而降低了创新的试错门槛。人工智能方面也一样,开源模型正在逼迫闭源巨头,比如他所在的OpenAI不得不加速开发更具断代优势的下一代模型,这是强力加速,而非减速。他在哭喊的,只不过是闭源模型赚不到原来想的那么多钱了而已。
其次在第四点里他发出了一个威胁:要是让开放模型主导世界,就会导致AI共产主义,是反乌托邦的地狱景观!这就是前面我说的那个致命矛盾。在“AGI即将到来”论者的心里,首先达到AGI的那个公司将会因为掌握了AGI而迭代地爆炸性地快速地发展AI,把所有竞争对手抛在后头,从而永久地达到赢者通吃的垄断地位。可是在这里他却假惺惺地担心起由国家主导的让AI成为像自来水或电力这样的公共产品的局面,会是“反乌托邦的地狱景观”。言下之意,资本家的私人垄断是善意的,国家的垄断则是地狱。
如果说前面这些是为相对未知的未来的考虑,那么第五点就会很快甚至正在发生。这里他其实是在向特朗普政府建议,要对中国开放权重模型“制造监管风险”。具体地,他不建议立法禁止美国公司使用中国模型,相反地,要用“软法”制造恐慌、不确定性和怀疑(FUD),也就是政府发个警告或指导说,“中国模型靠不住,可能有后门,未来可能会有合规风险,出了问题数据泄露责任自负”之类的。
这是相当阴险的一步棋,它不仅能够阻挠美国公司使用中国模型,也同样在世界范围内制造恐慌。这就要再次提到前两天我国刚和世界其他28个国家一起成立的世界人工智能合作组织了。一些眼光短小的人以为拉这些技术不发达又缺乏资金的国家进一个人工智能合作组织,能为中国人工智能发展助多少力。事实上,这个组织的一大着眼点正在于对人工智能的“国际合作和全球治理”。让世界各国参与到对人工智能治理规则的制定和应用上来,能够打消各国对这个共同组织中按这样的共同制定规则下发展出的人工智能的疑虑,而且还能对不按这样的规则发展出的不受监管的人工智能(比如美国的闭源模型)提出质疑并限制它们的应用。这正是破解Ball提出的这种阴招的正大光明的阳招。
第六点就没啥意思了,“要是有一天一个疯狂AI从中国实验室逃出来了,我可不会吃惊哦……”还是准备好为你那名为OpenAI其实是CloseAI的实验室里跑出啥来吃惊吧。
