#黎曼猜想证明获认证#延展一下这个话题,当人类已经看不懂AI的发现,我们还算掌握着科学吗?
Anthropic与Claude合作证明黎曼猜想这件事,给我带来的震撼,已经不只是AI可能解决了一个167年的数学难题。
而是一个更深层的问题:当AI的能力开始超过人类的理解能力,我们究竟是在利用工具,还是正在逐渐失去对工具的掌控?
这次证明有1700万行Lean代码。Lean和Mathlib社区已经通过多种独立检查器验证了证明的正确性,但要让数学家真正理解其中的数学思想,仍然需要大量工作。
这就很有意思了。
过去数学家证明一个定理,不只是为了告诉大家结论正确,更重要的是解释为什么正确。一个好的证明,往往还能创造新的理论、方法,帮助其他数学家解决更多问题。
但现在,AI可能直接给出一个人类很难完整理解、却能通过计算机严格验证的证明。
那么问题来了。
人类看不懂的证明,还有意义吗?人类不能理解的发现,还叫发现吗?
我觉得答案是有意义,但意义可能和过去不同。
人类其实早就习惯了使用自己无法完全理解的复杂系统。今天的芯片、飞机、互联网,没有任何一个人能够掌握其中全部技术细节,但这并不妨碍我们使用它们。
科学也一样。
一个数学命题是否正确,不取决于某个人能不能看懂它。如果证明经过严格的形式化验证,即使暂时没有人能够完整解释其中的数学思想,也不意味着它没有价值。
但这里存在一个区别。
证明一个结论正确,和真正理解这个结论为什么正确,是两回事。
如果AI证明了黎曼猜想,却没有人能够从中提炼出新的数学思想,那么我们获得了一个确定的答案,却未必获得了与之对应的理解。
这可能会改变未来科学研究的方式。
过去科学发现主要依赖人类提出假设、推导和验证。未来可能变成人类提出问题,AI完成研究,另一套AI负责验证,人类最后再尝试理解结果。
甚至可能出现一种情况,AI发现的知识越来越多,人类能够理解的部分却越来越少。
这才是我真正感到不安的地方。
因为数学至少还有Lean这样相对严格的形式化验证工具。
但如果换成医学、材料科学,甚至经济政策呢?
AI提出一种新药,我们可以通过临床试验验证疗效和风险;AI设计一种新材料,我们也可以通过实验检验性能。
可如果AI开始参与制定复杂的经济政策、控制关键基础设施,或者自主执行涉及大量人类利益的决策,我们还能不能充分理解它为什么这样做?
有人可能会说,只要结果正确,为什么一定要理解过程?
问题在于,现实世界不像数学。
数学证明有明确的逻辑规则,而现实决策往往没有唯一正确答案。同一项政策可能让一部分人受益,另一部分人承担成本;一种治疗方案可能对大多数人有效,却给少数人带来严重风险。
谁来定义目标,谁来判断代价可以接受,出了问题又由谁负责?
这些问题不能简单交给一个更聪明的模型。
所以我越来越觉得,未来AI最重要的竞争,可能不只是模型能力,而是验证、解释和控制这些能力的技术能不能同步发展。
人类不一定需要理解AI每一步计算,但必须能够检验结果、限定权限、纠正错误,并在必要时停止它的行动。
我们可以接受工具比人类更聪明,但不能因为它更聪明,就把决定权也一起交出去。
发布于 北京
