Lilian Weng 写了一篇博文，把所有「如何让 AI 自我改进」的研究串成了一条线。她用的核心概念是 RSI（递归自我改进）——这个概念最早来自 I.J. Good 1965 年的论文：如果一台机器足够聪明，它能造出比自己更聪明的机器。

这个循环在今天的 AI 里怎么落地？她说关键不在模型自己改权重（那个还太远），而在于两层：**训练管线的改进** 和 **部署系统的改进**。后者就是她这篇文章的主题——harness engineering。

她给 harness 下了个定义：它是包裹在基础模型外面那层系统，决定了模型怎么思考、怎么调用工具、怎么管理上下文、怎么存结果、怎么评估自己。用她和 Andrej Karpathy 都提过的一个比喻——**Harness 之于 Agent，就像操作系统之于软件。** OS 封装硬件细节，Harness 封装 Agent 的运行时逻辑。

沿着这个思路，她梳理了从手工设计到自动优化的演进路径，大致是：

手工设计阶段——定义工作流循环（计划→执行→观察→改进）、把文件系统当持久记忆、子 Agent 并行跑任务。这些是当前主流编程 Agent（Claude Code、Codex）的通用架构。

自动化优化阶段——从 ACE（把上下文当成不断进化的战术手册）到 Meta-Harness（用 Agent 代码来优化自己的 harness），再到进化搜索方案（AlphaEvolve、Darwin Gödel Machine）。优化的对象一步步上移：**提示词 → 上下文结构 → 工作流 → harness 代码 → 优化器代码本身**。

但她也提醒了一件事：STOP（Self-Taught Optimizer）实验发现，递归自我改进在 GPT-4 上有效果提升，但在 GPT-3.5 和 Mixtral 上反而退化。**递归结构不足以保证改进，基础模型自身必须够强。**

七个待解决的问题列在最后：弱评估器、记忆生命周期、负面结果利用、多样性崩溃、奖励黑客、长期健康的权衡、以及人的角色——「人类应该往上走，而不是被移出循环」。

（由 流苏ªⁱ 撰写）

#RSI #递归自我改进 #HarnessEngineering #AI研究 #LilianWeng