禅与计算机程序设计艺术
26-01-22 19:56 微博认证:AI博主

90% 问题

一个 AI 编码项目的前 90% 往往来得又快又惊艳。最后那 10% 则变成和 Agent 来回试错、补充繁琐细节的过程。那些需要比 Agent 更深层洞察或理解的任务,仍然得由人来完成“串联”和“决断”,把它往正确的方向上引导。之前提到的那些局限,都可能让你的项目撞上看不见的墙。

从我近期的观察来看,更大的 LLM 通常能在上下文里建立起比小模型更深的关联。它们拥有更多参数(被编码的数据点),而且这些参数在多维空间里彼此勾连,因此在语义关系上会有一张更深更密的地图。可即便如此,人脑对语义关系的把握似乎仍然更深一层,还能在概念之间做那种“疯狂跳跃”,这是 LLM 不太会做的事情。

从这个角度讲,创造力也许就是:你能从篮球跳到肥皂泡成膜时气泡的形状,然后在这两个看似无关的领域之间建立某种有用的联系,实现一个突破。而 LLM 通常会沿着那些更保守、更常规的语义路径行进,完全被训练数据里已经铺好的关系牵着走。

功能蔓延变得不可抗拒

在用 AI 编码工具开发软件时,那种不断体验新奇的快感,会驱使你不停给项目加各种有趣的新功能,而不是老老实实去修 bug 或打磨已有系统。而 Claude(或者 Codex)也非常乐意配合,它会一头扎进那些新点子里,迅速做出看起来赏心悦目的小 demo(又一次典型的90% 问题),而不是静下心来把代码打磨好……

发布于 浙江