不要太迷信Fable 5和GPT 5.6，在所有专业领域里遇到非常规性的问题时，它们还是解决不了。这是这些AI工具都无比依赖大语言模型LLM的局限性——只是在文本里面打转和预测下一个词会是什么，但对这个世界的运行原理一窍不通，必须依靠高维的人类大脑给它注入灵魂方向。所以无论是OpenAI还是Anthropic，只要还是深陷在LLM训练中，GPT和Claude的上升空间只会越来越狭窄，因为把所有还算优质的语料学完以后，也不免会吞噬垃圾语料，越来越容易产生幻觉。

总之Fable 5让我失望不是一次两次了，在分析复杂法律问题寻找破局之解和在玄学预测的猜想验证上，Claude都是蠢得离谱。当然，对于既有知识文本框架内的东西，它确实能大幅度减少时间和人力的消耗。

陶哲轩是极少数深度拥抱 AI、每天把 ChatGPT 和 Copilot 挂在工作流里帮他做研究的顶级科学家。正是因为他天天在用，所以他对当前流行的大语言模型LLM的局限性，有着极其一针见血的解剖。

他的评价可以精准概括为以下三个深层维度的断言：
1. “它像一个满嘴跑火车、但极度热情的的研究生”

这是陶哲轩最著名的一个比喻。他认为当前的 AI 聊天机器人表现得非常像一个聪明、博学，但极度不负责任的助理。
局限表现在：当你给它一个复杂的数学命题时，它会极其兴奋地在几秒钟内给你生成 10 个看起来无懈可击的证明思路。但当你这位顶级导师坐下来逐行审查时，你会发现其中 9 个思路在核心逻辑步骤上都存在致命的、甚至常识性的伪造和断层。
局限本质：AI 缺乏自我质询的能力。它只负责让语言显得流畅、专业和充满信心，但它根本不知道自己说的话在逻辑上是真是假。

2. 概率学机器与数学“零容错”的降维对撞

陶哲轩指出，当前 LLM 的底层局限在于它的概率统计本质，这与数学、科学研究要求的“绝对严密性”天生相克。
局限表现在：AI 聊天机器人非常擅长做“从 1 到 10”的格式化和联想工作，比如把一段粗糙的数学想法翻译成完美的 LaTeX 代码，或者编写一段特定算法的 Python 脚本。但在“从 0 到 1”的逻辑推演中，数学的对错是 100% 或 0%，容不得一丝概率模糊。
大模型在预测下一个词时，哪怕有 99% 的准确率，只要在某一个关键逻辑节点上掉了那 1% 的链子，整个长篇大论的数学证明就会像多米诺骨牌一样瞬间坍塌。大模型无法感知这种细节决定生死的逻辑重力。

3. “纯文本 LLM 无法独立解决未知的科学难题”

陶哲轩明确表示，如果只靠目前的聊天机器人路线，AI 永远无法独立发现新的数学定理或攻克重大的科学无人区。
局限表现在：目前的 AI 只能在人类既有的“知识语料库”所划定的概率空间里打转。它能把 A 领域的公式借用到 B 领域，做一些精妙的样式迁移，但它无法凭空创造出一种人类从未见过的全新数学范式。
因此，陶哲轩目前大声疾呼并亲自践行的破局点，正是神经符号学/形式化验证。他最近利用 AI 成功证明了著名的“多项式弗赖曼-鲁沙猜想（PFR）”，靠的绝不是单纯和 ChatGPT 聊天，而是把大模型当作一个“灵感过滤器”，然后强行把 AI 输出的代码塞进 Lean（一种硬核的计算机形式化数学证明工具） 里面进行无情地逐字审查。

陶哲轩对 AI 局限性的评价，完美印证了：当前依赖LLM大语言模型的 AI 聊天机器人，是一个无与伦比的“体力解脱者”，但它绝不是一个能独立思考的“智力创造者”。

在陶哲轩看来，这些AI 的局限性决定了它必须依附于一个高维的人类大脑。人类负责提供方向、死咬底层逻辑、并进行最后的真理把关；这些AI 工具负责去干那些翻阅文献、格式转换、写无聊模板代码的繁琐苦力。

谁要是把 这些AI 聊天机器人的话当做绝对真理去顶礼膜拜，谁就会死在大模型那充满自信的“高级幻觉”里。真正顶级的科学家（不仅是陶哲轩），都是批评纯粹用LLM来开发AI的，也早就把这套机器的权界看得明明白白(根本不愿意加入Open AI和Anthropic，因为LLM走到最后就是要面对坚不可摧的数据墙，死路不通)。