向度之桥
26-03-23 16:30 微博认证:科技博主

最近Andrej Karpathy 接受采访时说,大概从去年12月开始,他就没有自己手写过一行代码了。

他原话是这样描述自己现在每天的工作状态的:「编程这个词都不太对了,我现在是每天16个小时在向我的 agents 表达意志。」

他不再是那个亲自敲键盘写函数的人了,他变成了一个发号施令的人。把任务描述清楚,分配给不同的 AI agent,然后在它们并行工作的间隙,不断思考下一个宏观目标是什么。

这就是当下真实发生的工作流转变。

在采访里他描述了一个他朋友 Peter Steinberg的工作场景:屏幕前同时开着十几个 agent 窗口,每一个都在运行一个独立任务,大概20分钟能跑完一个。
Peter 的工作就是在这些窗口之间走来走去,审阅产出,给下一个任务做分配。

批准一个功能方向,交给 agent 一号;批准另一个不冲突的功能,交给 agent 二号。
这是宏操作的时代。

Karpathy 特别强调了时间节点:去年12月。
在那之前他的工作模式大概是八二开,自己写八成代码,AI 辅助两成。
12月之后,这个比例直接翻转,变成了最多两成自己动手,剩下全部委托给 agent,而现在可能连那两成都没有了。

这个变化发生得太快,很多普通人根本没意识到这件事有多戏剧性。

当然,这不是说 AI 已经完美无缺了。

Karpathy 说他说现在和 agent 工作,感觉像是同时在和一个"在系统编程领域工作了一辈子的顶级博士后"以及"一个10岁小孩"对话。
这两种感觉是同时存在的,而且切换得毫无规律。

他说模型现在在"可验证领域"表现得无比强悍,比如写代码、优化算法,只要有明确的对错标准,AI 就像开挂一样。
但一旦脱离了这个轨道,进入那些软性的、不好量化的领域,它就会开始游荡,做出莫名其妙的事情。

他举了一个特别逗的例子:现在最好的大模型,如果你问它讲一个笑话,大概率还是会告诉你那个"科学家为什么不相信原子?因为它会编造一切"的老段子。

模型的代码能力突飞猛进,但讲笑话这件事停滞不前,因为讲好笑话这件事根本没有被纳入强化学习的优化目标里。
也就是说,AI 的聪明是高度定向的,哪里有可量化的奖励信号,哪里就进步神速;哪里没有,它就像是被冻在了原地。

采访里有一个概念我觉得很值得单独说一下:auto research,也就是自动研究。
第一步,你定一个目标,比如"让模型训练更高效,validation loss 更低"。
第二步,AI agent 开始不断尝试不同的代码修改方案,就像一个永不停歇的研究员在做实验。
第三步,每次产出一个候选方案,都用客观指标来验证——是否真的更快、更准确。
第四步,把有效的方案保留下来,继续在这个基础上迭代。

这类任务有一个共同特征:找到答案极其困难,但验证一个候选答案是否正确,却相对容易。
这种"搜索代价高、验证代价低"的结构,特别适合用一大堆并行 agent 来做。

Karpathy 说他在想的一个更进一步的设想是:能不能让互联网上不受信任的人也参与进来贡献这种"提交",然后用客观验证来筛选?这个架构听起来,有点像区块链——不是指加密货币,而是指那种"贡献难、验证易、去中心化协作"的思路。

Karpathy 还在采访里分享他给自家搞了一个叫"多比"的家庭 agent。

他让 agent 扫描家里局域网,找到了 Sonos 音响系统,自动逆向工程出 API 接口,然后他打了一句话:"能帮我在书房里放点音乐吗?"
音乐就响了。

然后他用同样的方式接管了家里的灯光、空调、窗帘、泳池、温泉还有安全摄像头。
现在他家门口来了快递,"多比"会截图发一条 WhatsApp 消息给他:"一辆联邦快递的车刚进来了,你可能收到包裹了。"

他之前管这些事要用六个不同的 app,现在只用自然语言和"多比"说话。

主持人问 Karpathy:现在你的能力边界被什么限制?
他想了一下说:感觉什么都是 skill issue。

意思是,现在 AI 的能力上限很高,大多数时候事情没做成,不是工具不够好,而是你还没想清楚怎么把工具用起来。
或许是你的 agents 配置文件没写好,你给 agent 的 memory 工具不够精细,你的任务拆解方式不够聪明。

他说自己在 PhD 时代,GPU 闲着就会焦虑,觉得自己没把可用的算力最大化。
现在他有类似的焦虑感,盯着自己的订阅 token 用量,如果 token 还有剩余,就说明自己没把 agent 吞吐量跑满。

你能同时管几个 agent?你能把任务拆解得多细、多合理?这些才是现在真正稀缺的东西。

采访快结束的时候,Karpathy 聊到了教育这件事。
他最近做了一个叫 microGPT 的项目,大概 200 行 Python,把训练一个语言模型所需的核心算法提炼到了极简状态。

他说,以前如果他做了这样一个项目,他会录一个视频讲解,一步步带着人看代码。
但现在他不这么想了,因为代码已经足够简洁,任何人都可以把它扔给 agent,让 agent 用不同的方式、不同的语言、不同的深度来解释给自己听。

他不需要再直接教人了,他只需要把这个精华提炼出来,让 agent 去做教学的事。

"凡是 agent 能做的事,它们很快会比你做得更好。凡是 agent 做不到的事,那才是你真正应该花时间的地方。"

发布于 上海