内容｜Max
编辑｜Max
7月27日，北大校友、Thinking Machines Lab联合创始人翁荔突然在社交平台上宣布了她离职的消息。
她没有使用创业公司高管离开时常见的说法，比如完成阶段性使命，或者寻找新的挑战。
她给出的原因很具体：过去七个月，她频繁生病，已经无法继续承受一家创业公司所要求的工作节奏。
翁荔仍然想从事前沿AI研究。
但她说，相比继续担任联合创始人，自己更适合一个职责范围明确、环境相对可预测的职位。
两天后，这个职位被公开。
翁荔将重新加入OpenAI，带领一个团队，使用现有AI模型加快OpenAI内部的研究。
OpenAI把这项工作放在一个更大的目标之下：递归自我改进，也就是让当前的模型参与训练和改进它们的后继模型。
翁荔曾在OpenAI工作六年。
她参与过GPT-4的预训练数据、安全、评测和部署，后来负责OpenAI的安全系统团队。
2024年底，她离开OpenAI，成为前OpenAI首席技术官Mira Murati创办Thinking Machines的联合创始人。
不到两年，她回到了原来的公司。
这次回归很容易被理解成一名研究者对创业强度的重新选择。
联合创始人需要融资、招聘、管理公司，也要承担产品和商业化的压力。
真正留给研究的时间，可能反而越来越少。
但OpenAI交给翁荔的新工作，让这次人事变动有了另一层含义。
7月4日，翁荔刚刚发表了一篇题为《Harness Engineering for Self-Improvement》的长文。
她在文章中提出，今天更现实的递归自我改进，未必从模型直接修改自身权重开始。
模型也可以先改进围绕自己运行的系统，包括工具、工作流、上下文、记忆、评测、训练数据和实验流程，再由这些改进帮助人类训练更强的后继模型。
三周后，她回到了目前最有条件把这套想法变成现实的公司之一。
今年5月，全球顶尖的人工智能（AI）科学家、计算机视觉与深度学习专家Andrej Karpathy加入Anthropic。
Karpathy是OpenAI最早的创始成员之一。
2017年离开OpenAI后，他加入特斯拉，负责Autopilot的计算机视觉、数据标注、神经网络训练和车端部署。
2023年，他曾短暂回到OpenAI，组建团队研究中期训练和合成数据；一年后再次离职，创办AI教育项目Eureka Labs。
这一次，Karpathy暂时放下了自己的教育创业项目，进入Anthropic的预训练团队，向预训练负责人Nick Joseph汇报。
他说，未来几年将是大语言模型前沿研究尤其关键的阶段，自己希望重新回到一线研发；教育仍然是他长期想做的事，但会在之后再继续。
比Karpathy加入Anthropic更重要的，是Anthropic交给他的具体任务。
Nick Joseph称，Karpathy将组建一支新团队，使用Claude加速预训练研究本身。
预训练是决定Claude基础知识和核心能力的阶段，也是前沿模型研发中规模最大、算力消耗最高的环节之一。
Karpathy要做的并非围绕Claude开发一款应用，而是让Claude参与改进生产Claude的过程。
这与翁荔回到OpenAI后的任务高度相似。
两人分别加入Anthropic和OpenAI，却都开始研究同一件事：如何把当前最强的模型，放进下一代模型的研发流程。
Thinking Machines内部则发生过一次更集中的回流。
今年1月，联合创始人Luke Metz、Barret Zoph和研究员Sam Schoenholz离开Thinking Machines，回到OpenAI。
Metz此前参与过ChatGPT和o1的研发；
Zoph曾负责OpenAI的后训练工作。
Zoph此后再次离开OpenAI，但Metz和Schoenholz仍构成了这次人才回流的一部分。
变化也发生在Google。
2021年，Transformer论文作者Noam Shazeer离开Google创办Character.AI。
2024年，Google通过一笔据报道价值约27亿美元的技术授权和人才交易，将Shazeer及部分团队重新请回，并让他共同负责Gemini模型。
今年6月，Shazeer再次离开Google，加入OpenAI，负责模型架构研究。
几乎在同一时间，AlphaFold核心负责人、2024年诺贝尔化学奖得主John Jumper宣布离开工作近九年的Google DeepMind，加入Anthropic。
参与过AlphaFold、Gemini和AI编程研究的Jonas Adler、Alexander Pritzel，也被报道计划加入Anthropic。
这些人的情况并不完全相同。
有人结束创业，有人从传统大公司转向前沿实验室，也有人只是希望减少管理工作，重新回到一线研究。
把他们全部解释成“创业失败”，既不准确，也过于简单。
但人才流动的方向正在发生变化。
过去几年，硅谷更熟悉的故事是：研究者离开OpenAI、Google和Meta，重新组建团队，募集数十亿美元，尝试训练新的基础模型。
资本相信，基础模型公司的核心资产是人才。
只要找到足够优秀的研究者，再为他们提供足够多的GPU，就有可能复制一家新的OpenAI。
现在，仅有人和钱可能已经不够了。
训练下一代模型，开始需要上一代最强模型。
AI参与AI研发，最早发生在代码环节。
早期模型可以帮助研究者补全函数和寻找错误。
后来的Coding Agent能够理解完整代码库，修改多个文件，并独立运行测试。
现在，一些Agent已经可以持续工作数小时，运行代码、整理结果，并把任务继续委托给其他Agent。
Anthropic披露，其工程师目前平均每个季度交付的代码量，已经达到2021年至2025年平均水平的8倍。
公司也在把越来越多原本由人完成的AI开发工作交给AI系统。
代码只是模型研发的一部分。
训练一个新模型，还需要提出假设、准备数据、搭建实验、训练Checkpoint、运行评测、分析失败，再决定下一轮应该尝试什么。
这些工作过去主要由研究员完成。
随着模型能力提高，其中越来越多步骤也开始被自动化。
今年4月，Anthropic让一组Claude Agent完成了一项开放式AI安全研究。
它们需要自己提出假设、运行实验、相互分享结果，并不断迭代。
在这项实验中，两名人类研究者用大约一周时间，缩小了目标问题23%的性能差距；Agent累计工作约800小时，消耗约1.8万美元算力，缩小了97%的差距。
尽管这个结果存在明确限制。
实验没有顺利迁移到生产规模模型，问题和评分标准也仍然由人类确定。但在边界确定后，实验本身基本由Agent设计和完成。
人类仍然负责选择问题，判断哪些结果值得相信。
模型开始承担其余部分。
这也是翁荔所说的Harness开始变得重要的原因。
模型本身的能力是一部分，围绕模型搭建的工具、记忆、任务调度、并行Agent和验证系统，也决定了它能否完成长期研究。
完整的递归自我改进，可能并不是某个模型突然学会打开自己的权重，然后独立完成一场对自己的脑外科手术。
它更可能从一条逐渐闭合的研发链条开始：
人类提出方向，模型设计和运行实验；
模型根据结果生成数据，再训练出新的Checkpoint；
新的模型继续参与下一轮研究，人类的工作逐渐集中到方向、验证和监督。
翁荔回到OpenAI，Karpathy加入Anthropic，都发生在这条链条正在形成的时候。
目前的模型还不能稳定完成这个循环。
7月28日发布的RSIBench-Data，测试了模型能否承担数据研究员的工作。
在固定训练、部署和评测基础设施后，Agent需要诊断模型的能力缺陷，设计新的训练数据，训练Checkpoint，再根据反馈调整下一轮策略。
实验覆盖四种前沿Agent和六个软件工程、终端操作、科学问答及数学任务。
在58.33%的设置中，Agent能够通过后续迭代，找到优于第一次有效尝试的方案。
但这种进步并不稳定。
在已经找到最佳成绩、仍然继续尝试的轨迹中，78.26%最终停在了一个更差的结果。
模型有时能找到正确方向，却不一定知道自己已经找到了，也不擅长稳定保留和扩展已有成果。
另一篇对2024年至2026年间1250篇论文的综述也得出了类似结论。
在拥有明确验证器和收敛目标的任务中，有限的自我改进已经成为工业实践。
开放式递归自我改进仍然受到外部反馈、模型退化、评测能力和算力约束。
最难自动化的环节，依然是研究方向的选择，以及对结果是否真正有效的判断。
因此，现在还不能说RSI已经跑通。
Anthropic也明确承认，完整的递归自我改进尚未发生，也不是必然会发生。
当前模型更擅长执行定义清楚的研究任务，仍然缺少稳定的研究品位和全局判断。
真正的变化是，它开始从一个理论问题变成工程问题。
过去的问题是一个AI是否有可能不断提高自己的智能？
现在的问题变成了应该如何设计评测，如何组织Agent，如何保存成功的Checkpoint，如何避免模型在循环中退化，以及如何把一次局部改进放回下一次训练？
这些问题没有被解决，但已经可以被测量。
一旦能够测量，公司就可以为它组建团队、搭建系统、增加实验预算，并通过不断失败接近答案。人类在发明新产业时，通常就是以这种略显笨拙的方式，把科幻逐步变成季度目标。
翁荔和Karpathy回去做的，正是这类工作。
AI研发自动化可能产生一个反直觉的结果。
它不会让前沿研究变得更省算力。
相反，递归自我改进可能把AI研发从一项主要受人类研究员数量限制的工作，变成一项主要受算力供给限制的工作。
过去，算力主要消耗在模型训练阶段。
研究员先提出假设、准备数据、修改代码，再选择少数值得验证的方案运行实验。
因为人的时间有限，大部分想法会在进入集群前被放弃。
一个团队即使拥有更多GPU，也很难同时管理无限多条研究路径。
当Agent开始承担研究工作，限制会发生变化。
模型可以持续阅读论文、分析失败案例、修改训练代码、生成数据、启动实验，再根据结果提出下一轮方案。
研究员不再需要亲自完成每一步，只需要设定问题、提供评测，并决定哪些结果可以进入下一轮。
这相当于把过去昂贵的人类研究时间，转化成可以直接购买的计算时间。
Anthropic把自己的自动化研究系统称为AAR，也就是Automated Alignment Researcher。
在一项弱到强泛化实验中，Anthropic同时启动了9个独立Agent，让它们提出方案、运行实验并共享结果。
整个过程累计运行约800个Agent小时，消耗约1.8万美元的算力和API费用。
Anthropic认为，如果同时运行数千个类似Agent，理论上可以把数月的人类研究压缩到数小时。
这还是一个范围明确、评测指标清晰的研究问题。
真正的递归自我改进，需要消耗的算力可能来自至少三个环节。
首先是研究Agent本身的推理。
一个Agent不会只调用一次模型。
它需要在数小时甚至数天内持续规划、调用工具、阅读实验结果、修正假设，并维护不断增长的上下文。
为了减少单个Agent偶然犯错，实验室还需要同时启动多个Agent，让它们沿不同方向搜索，再比较彼此的结果。
其次是Agent提出的实验。
如果一百个Agent分别提出十种数据方案、模型结构或训练方法，实验室需要训练和评估的就不再是几个Checkpoint，而可能是数百甚至数千个Checkpoint。
即使每次实验只使用较小的模型或有限训练预算，累积消耗依然可能超过传统的人工研究流程。
最后是验证。
RSI不能只让模型提出改进，还必须判断这些改进是否真实存在。
每个候选方案都需要经过Benchmark、消融实验、重复训练和安全评测。
验证系统本身也可能由多个模型组成，或者要求更强的模型检查较弱模型的结果。
因此，递归自我改进增加的，不只是训练算力。
它在正式训练下一代模型之前，又增加了一层规模庞大的计算搜索：模型提出假设，运行实验，淘汰失败方案，再将少量有效结果送入更昂贵的训练流程。
这类系统的算力消耗，可以粗略理解为三个变量的乘积：同时探索多少条路径，每条路径循环多少轮，以及每轮实验需要多大的训练和评测预算。
任何一个变量扩大十倍，整体需求都会快速上升。
目前没有公开证据能够证明RSI固定需要几十倍或上百倍算力。
但如果一名研究员从亲自执行几项实验，变成同时调度数十或数百个Agent；
每个Agent又能不断分叉出新的实验路径，推理和训练预算增长一个甚至两个数量级，并不难发生。
RSI真正改变的，是算力在研发流程中的位置。
过去，公司通常先依靠研究员筛选想法，再把有限的候选方案交给集群。
未来，筛选想法这件事本身也需要集群完成。
算力不再只是模型训练的生产资料，也开始替代部分研究员的实验时间和搜索能力。
那篇对1250篇自我改进研究的综述，将算力约束列为开放式RSI目前面临的共同限制之一。
循环越长、候选方案越多，系统越需要为搜索、验证和纠错支付额外的计算成本。
这也是为什么AI研究自动化不会自然降低行业的算力需求。
它降低的是执行一次实验的人力成本，却让更多实验值得被运行。
过去因为研究员没时间而被放弃的想法，现在都可以交给Agent尝试。
结果可能是人类研究团队变小了，背后的计算集群却变得更大。
对于OpenAI和Anthropic，这是一种可以接受的交换。
它们拥有最强的内部模型、大规模训练集群、完整的数据管线和评测系统。
更重要的是，它们可以直接使用尚未公开的模型和中间Checkpoint，让Agent的实验结果进入下一轮训练。
创业公司可以买GPU，也可以调用OpenAI和Anthropic的API。
但它很难同时获得尚未发布的模型、中间Checkpoint、内部训练数据、失败记录，以及把一次实验直接放回基础模型训练的权限。
使用Claude帮助研究员写代码，与让Claude参与Claude的预训练，是两种不同的研发条件。
前者是一项所有开发者都可以买到的产品。
后者是一座只存在于Anthropic内部的工厂。
翁荔回到OpenAI、Karpathy加入Anthropic，获得的不只是一份研究职位。
他们也进入了目前少数能够把模型、研究Agent、训练集群和评测系统放进同一个循环的组织。
在AI参与AI研发之后，前沿实验室最重要的生产资料不再只是一批GPU。
它还包括一个足够强的上一代模型，以及调动巨量算力，让这个模型同时尝试成百上千条研究路径的能力。
过去，研究者离开大公司创业，有一套清晰的逻辑。
大公司组织复杂，决策缓慢。
顶级研究者重新组队，可以获得更多自由。
只要融资足够，它们可以购买算力、招聘团队，重新训练一套基础模型。
这套逻辑仍然成立。
但OpenAI和Anthropic正在形成另一套循环：
更强的模型能够承担更多研发工作；
更高的研发效率可以训练出更强的下一代模型；
更强的模型又能进一步提高整个组织的研究效率，并吸引更多顶级研究者加入。
新公司面对的差距，也不再只是少几名研究员，或者少几万张GPU。
它们还缺少一个已经足够强、能够帮助自己研发下一代模型的当前模型。
从这个角度看，最先发生的递归自我改进，可能不属于某一个独立运行的AI。
它首先发生在组织层面。
OpenAI和Anthropic正在把模型、研究者、训练集群、数据管线和评测系统放进同一个循环。
每一次模型能力的提高，都有可能加快这个组织开发下一代模型的速度。
这是一个尚未完全闭合的循环。但它已经开始对人才流动产生影响。
顶级研究者回到前沿实验室，不一定意味着AI创业失去了机会，也不能证明他们已经看到了某种确定的技术终局。
一个更谨慎的解释是，他们开始相信，下一阶段最重要的研究，需要同时获得最强的模型、完整的训练系统和足够大的实验预算。
这些资源，目前仍然集中在少数公司内部。
翁荔离开Thinking Machines时说，她需要一个范围更清晰、环境更可预测的岗位。
她最终回到OpenAI，负责一项可能让AI研发变得更快、更自动化，也更加消耗资源的工作。
她回到了曾经工作六年的地方。
但她回去负责的，是一份在她第一次加入OpenAI时还不存在的工作。
最先被递归放大的，可能不只是模型的能力，也是少数超级实验室与其他公司之间的距离。