硅谷王川
26-07-05 10:04 微博认证:独立投资人

古代皇帝为了掌控权力,所有事务都要有不同的人互相监督和制约,而且不可能让同一个人掌握自己所有的信息,否则会威胁权力安全。一个反例就是秦二世把所有事情交给赵高处理,自己只顾享乐,结果后来被赵高杀害。

今天一个企业如果把自己核心数据和流程全部交给闭源的大模型处理,这类似皇帝把信息和执行权交给同一个人,非常危险。权臣在信息传递过程中可以双向篡改信息,大模型也有类似的风险。

权臣甚至可以篡位 (如王莽,杨坚),而闭源大模型可以根据后台看到的数据决定直接进入某个垂直领域抢生意。

发布于 美国