零重力瓦力
26-05-05 16:37 微博认证:AI博主

被誉为 Vibe Coding 之父的 Karpathy 在 Sequoia 年度 AI 活动上做了一场精彩的演讲,信息量很大,AI 技术博主 Matthew Berman 进行了深入解析。

Karpathy 把软件发展分成三个阶段。1.0 是人写规则,2.0 是用数据训练神经网络,3.0 是用提示词操控 LLM。上下文窗口就是 RAM,模型权重就是 CPU,LLM 本身成了一台新型计算机。这个类比不新鲜,但他三年前就画出了这张架构图,现在回看确实有前瞻性。

关于“AI 为什么又聪明又蠢”,他给出了精准的解释,就是“可验证性”。代码写完能编译能跑,数学算完有对有错,这些领域天然容易验证,模型通过强化学习能疯狂进步。但洗车场在五十米外该开车去还是走路去,这种常识判断没有清晰的验证信号,模型就拉胯。再加上 AI 实验室的经济激励全部集中在代码这类高价值输出上,结果就是能力分布极度不均匀。他说了一句很有意思的话,“几乎所有事情最终都可以变得可验证,只是难度不同”。这个判断如果成立,意味着 AI 能力的“参差”只是暂时的。

他还区分了氛围编程(vibe coding)和智能体工程(agent engineering)。前者降低了编程的门槛,让任何人都能搭应用。后者提高了开发的上限,让专业工程师在保持质量标准的前提下获得指数级的产出效率。程序员不会被取代,只是需要在更高的抽象层上工作,核心能力变成了编排智能体和提升品味。

最后他说了一句 AI 时代,值得所有人记住的话,“你可以外包你的思考,但无法外包你的理解”。LLM 再强,如果你不理解自己在做什么,你就没法把它指向正确的方向。理解力才是真正的瓶颈。

#Karpathy##智能体工程##软件3.0时代##氛围编程##HOW I AI# http://t.cn/AXJWqkKG

发布于 上海