AIGC·非著名程序员
26-07-13 15:18 微博认证:微博新知博主 科技博主 头条文章作者 微博原创视频博主

微软的 CEO 纳德拉写了一篇文章,提到了一个概念叫:"逆向信息悖论"。

诺贝尔经济学奖得主肯尼斯·阿罗早就提过一个经典悖论:信息这种商品很特殊,买家在掏钱之前没法知道它值多少,但等他知道了,其实已经相当于免费拿到了。所以卖家要卖信息,就得冒着把知识白送出去的风险。

但纳德拉发现,AI时代把这个关系整个翻转了过来。现在风险转移到了买家这边。你花钱买AI模型,还得把自己的核心知识喂进去才能让它好用。你越想让它表现好,就得泄露越多。而且这种泄露特别隐蔽,每次纠错、每次提问、每次调工具,都在一点点往外渗透,自己都未必察觉。模型厂商那边越用越了解你,你对他们却几乎一无所知,信息不对称就这么越来越严重。

更讽刺的是,模型厂商自己训练时需要"合理使用"公开数据的权利,这大家都能理解。可转头就对蒸馏设限,还保留从客户使用数据里学习的权利。如果学习只朝一个方向流动,经济价值就会全部汇聚到掌握学习基础设施的人手里,而不是那些真正创造知识的人手中。

纳德拉认为出路也很明确:每家企业都得有自己的信任边界,把自己的评测、数据、轨迹、反馈、记忆都攥在自己手里。他提了五个关键词:掌控自己的评测和记忆,在自己的边界里训练模型,编排层别绑死在单一模型上,用最优成本组合资源,最后把这些串成一个持续学习的闭环。

说白了,你用AI可以,但你赖以独特的那点知识,不能在不知不觉中拱手让人。这就是我们真正要面对的逆向信息悖论。

传送门:x.com/satyanadella/status/2076323181154230284

#科技先锋官##How I AI#

发布于 山东