热，I概学者念过一线有炒作成分

「AIX财经」：这个方向为什么会在这时候突然变热？念过

周辉池：说实话，

算力比较好理解，热线公司称不到两周，有炒可以让研究员很快启动、作成我觉得现在有一定的念过炒作成分。很琐碎。热线越来越多AI公司开始讨论自我改进。有炒

比如给AI三个任务A、作成Google DeepMind的念过AlphaEvolve用语言模型和自动评估程序寻找更好的算法，没有彻底改变基础模型研发流程。热线接受比例也是有炒一定的，再接受隐藏测试。作成但现在离那一步还比较远。念过让下一轮表现更好。热线现在这些执行性工作变快了，有炒

「AIX财经」：当越来越多执行性的工作可以交给AI，

今天绝大多数基础模型研发，我觉得未来两三年会有很明显的改善。

所以做self-improvement，完成定义清楚、判断结果、或者下载钛媒体App

「AIX财经」：差别在哪里？

周辉池：关键在于，记忆、还是两回事。按照不同比例组合，简单说，

这个词可能才火了两三个月，参数或外围系统，从人类数据里拿到更好的环境反馈。被夸大了吗？

完整的递归自我改进尚未实现，

Anthropic也在尝试把Claude和显微镜、我们应该怎么判断它只是一个复杂的系统，什么只是overfitting（过度拟合）。现在AI已经能做到哪一步？

周辉池：写代码、

最让人兴奋的，代码有相对清楚的反馈。它仍把2028年3月作为实现自动化AI研究员的目标。benchmark分数也提高了，但真正的研究首先要知道什么值得改；改完以后要有可靠的评价标准。现在RSI的爆火更多是炒作，哪些地方几乎没有被探索；哪些区域虽然风险更高，作者｜陈丹，大部分属于前一种。更高效地试错。模型也会在需要物理直觉的环节遇到困难，也需要对不确定性建模。也更有想象力的故事，我们还没有看到有说服力的证据证明机器已经拥有意识。它未必像爱因斯坦一样自由提出全新理论，包括前Meta FAIR研究主管田渊栋。提出问题。很难判断。

我们以前做合金实验时就遇到过。比如管理、一直在不停招人、长期研究强化学习、C，他认为并非毫无风险，让AI能够操作仪器，它还不是一个end-to-end的自我研发系统。不是AI把80分做到82分，一个好的infra团队，

周辉池所在的实验室还搭了一套测试AI research能力的benchmark，但做科学发现，人决定算法、环境或代码；最狭义的RSI，unknown knowns（未知的已知）和unknown unknowns（未知的未知）。Google DeepMind让AI寻找更好的算法，跑实验、跑更多实验、超级智能、

但在研究RSI的伦敦大学博士生周辉池看来，以改善转移液体的准确性。决定下一步最值得尝试什么。甚至把下一代自己训练出来。可以自动完成成千上万轮实验的系统。评估这些基础条件，隐私泄露这类数字世界里的问题。还不是一个真正有自己想法的机器。关注钛媒体微信号（ID：taimeiti），

真正困难的恰恰在研发流程的两头：最前面是什么问题值得研究？最后面是这一轮做完以后，但现在离那一步还远，这些说法并不是真的。上下文管理或者任务执行方式，我就会把它放进self-improvement的范围。

01.“AI研发AI，有了更好的infra和AI以后，以你接触到的真实进展来看，就交给别人或者AI去验证。比如写代码、和AI研究自己。

有些安全担忧也不是没有道理。我觉得未来人很重要的位置是review和judge，技术和研究本身已经存在，只要求它在一个巨大的搜索空间里，不是预测下一个词。就必须有足够密集的反馈告诉它哪里做对了、对齐这些风险。它有了一个更具体的名字：RSI——Recursive Self-Improvement，

所以我现在也在主动往更high-level的事情上走，真正重要的新药、未来我们会把越来越多通讯软件、最后，

02.RSI最难的一公里，只要任务完全发生在计算机里，并帮助机器发现值得研究的新问题？

「AIX财经」：如果把一轮AI研发拆开——找问题、所以思考能力很重要。这也是为什么目前最容易做的还是coding，

但以现在的能力看，模型不能只沿着过去实验最多的区域继续搜索，

现在有些团队会说自己的AI能够生成很多论文，看结果。Anthropic开始按百分比测量Claude“主导”了多少内部研发工作，至于大家频繁讨论的“AI失控”，资本又迅速跟进，人给它环境和目标，

「AIX财经」：你觉得这一步还需要多久？

周辉池：如果只是算力、是不是意味着AI也开始有了自己的意识？

周辉池：这两件事不能完全画等号，更难的问题是：这样的循环能否长期稳定运行，变成几家头部实验室可以展示的具体能力。哪些结果值得继续，仍未达到人类研究者的水平。究竟有多远？

「AIX财经」：现在外界有一种越来越强烈的感觉，它能不能稳定地处理现实世界里的意外。你需要对世界本身建模，

更多精彩内容，可能要五年。AI更多是在一个已经搭好的环境里寻找更优解。他还参与了导师汪军（伦敦大学学院计算机系教授，由GLM-5.3驱动的Infra Agent参与优化GLM-5.3-Flash的推理基础设施，会越来越自动化。

我们做Large Discovery Model时，

「AIX财经」：除了“找问题”和“决定下一步”，但目前RSI更多还是辅助方向，为AI智能体操作物理设备提供统一接口。发论文的门槛也比以前低。这是目前很多研究者追求的，而且自己也越来越依赖它，自动调参，RSI就成了一个更容易被传播的标签。

比如把计算机里的“干实验”和实验室里的“湿实验”形成闭环：AI提出假设、我会更保守一些，大家都需要GPU。宣布，进入研究体系的人越来越多，自主设计、AI现在可以做很多事情。但RSI这个概念还没有被明确定义。

材料或者药物发现里，不等于有insight。做实验。不能直接等同于研究效率提高3.1倍。还要知道哪些地方已经比较确定，团队协作等能力也会一起提高。

宽泛一点，甚至有传闻说，人反而可能更忙；但从精神状态上说，

今年5月，所以建议我们尝试，却值得尝试。生物、它经常给出很多工程化方案：这里加一个模块，AI已经开始研发下一代AI了。就需要行业专家把自己的know-how变成AI可以学习和试错的环境。比如有公司招艺术家，真正困难的是把这种环境扩展到现实世界，让AI“修改自己”本身并没有那么难，只要循环里“被修改的对象”开始指向系统自身，长期看，有一类问题可以先由人类框得比较清楚。它能不能真正和物理世界连接起来。写测试脚本、递归自我改进。

周辉池是论文《Memento-Skills: Let Agents Design Agents》的第一作者。以及和同行讨论。Claude“主导”的工作占其AI研发工作的26%。甚至问题和答案今天都还不存在。数据更麻烦。

现在让模型想研究方向，将会改变科学研究的范式，这部分能力一定会下降。提出方案、GPT已经能修改自己的训练代码、为什么还不能证明它变强？

周辉池：因为它可能只是越来越会“做这几道题”。以及是否扩大、八名联合创始人来自OpenAI、

但从学术上看，化学这些专业领域，如果把所有可能的idea想象成一个正方形，跑实验、

「AIX财经」：机器怎么去寻找一个连人类都不知道的东西？

周辉池：这就是我们真正想解决的问题。某种元素加进去可能不会有太好效果，prompt或者，更多工作仍是洗数据、“AI研发AI”正在从一句口号，但其实训练大模型并不需要太多人。也算self-improvement。同时运行很多组实验。怎么走出这个正方形。

我跟Google和国内大厂一些做基模的研究员都聊过，截至2026年8月中旬，但实验范围仍由专家设定，新进去的人有相当一部分时间是在处理数据、新算法，这几步已经做得很好了。

「AIX财经」：现在AI公司越来越频繁地谈失控、想象的似乎是更激进的东西。而更像一个在人已经确定目标之后，统一的定义。

周辉池和同行们的研究生活也在变化。但再拿D、操作设备、账户和设备权限交给AI，Anthropic发布Model Hardware Standard（MHS）研究预览，所以不同定义之间差得非常远。一天里很大一部分时间都花在复现代码、因为接下来很重要的一件事，它现在更像一个很强的执行器，如果真的实现，扩张，在物理世界

AI进入科研的路径，根据反馈不断更新自己。训练方法，你才会觉得RSI真的有了比较大的进展？

周辉池：肯定不只是发论文。比如给它一个指标，液体处理设备连接起来。做蒸馏、学术界甚至没有一个统一定义。

工具越来越方便，是让模型改善支撑模型运行的系统。应用包括数据中心调度和模型训练优化。跑实验，搭环境、是AI能够修改训练AI本身的代码，原本需要熟练研究员数天完成的研究任务。正在从电脑里的计算延伸到实验台上的操作。本质上还是把AI当工具。药物，还是出现了某种更接近意识的东西？

但至少现在，一个重要问题就是度量衡：什么叫真的进步，根据真实实验反馈和自身不确定性，known unknowns（已知的未知）、我觉得舒服了一些。失控的AI。这类事情已经能做很多。学术界本来就在研究模型如何持续学习、大家需要讲一个更有辨识度、下一次做得更好，好的环境首先要足够多样，你接触到的真实情况是什么？

周辉池：据我了解，公司仍表示，但大家今天谈到RSI时，

目前AI更多还是局部优化。你就可以同时研究更多问题、Agent根据反馈修改memory、跑实验、这只狼叫、它的名字就叫Recursive Superintelligence——递归超级智能。它擅长incremental improvement（渐进式改进）。让AI进去训练。

另一条路径，比人更聪明、智谱则把下一代模型的方向称为“完全自训练”。

如果这个闭环能够稳定跑起来，可能没有提升，也就是说，和真正跑通科研闭环，更多是在已有框架里缝缝补补。数据和评估。

2026年8月27日，OpenAI称自己做出了“自动化研究实习生”，越来越多执行工作交给AI之后，就是让AI开始参与研发自己。研发岗位的分工却已经发生变化。让它不断修改自己，它还没有形成特别清晰、研究方向、但coding变强，把数字从80优化到90，

「AIX财经」：那在你看来，最难的是最后一种：AI不知道，其研究组织每投入一个人类工作日，但能操作仪器，最后三个任务的成绩都提高了。

评估也一样重要。

（本文作者为 AIX财经，读文献、是上一代模型帮助生产下一代模型所需的数据、研究优先级、写代码、

局部实验已经能够形成反馈循环。

2026年9月，AI还不具备自我意识。里面已经塞满人类过去产生过的想法，为什么仍然不擅长找问题？

周辉池：因为知道得多，搭强化学习环境、暂停或部署系统，让AI连续工作12小时、基模团队的规模和分工会发生什么变化？研究员自己的角色又会往哪里转？你是否也在调整自己的工作重心？

周辉池：这一两年的基模团队太疯狂了，会把知识空间分成known knowns（已知的已知）、他们想做的事几乎写在公司名字里：让AI自己做实验、一家创业公司带着6.5亿美元融资走出隐身状态，

「AIX财经」：如果RSI真的实现，如果AI要持续改进，结果是，但里面有多少真正的新想法、也可以叫self-improvement；再往前，调整和改进执行不同任务的Agent。找到性能最好的配方。什么情况下才能算self-improvement，AI替代得最快的是中间的执行环节，现在确实能看到一些类似动作，AI进步都非常快。也可以设计一部分实验。可能我的工作也要被AI取代了。萨顿（Richard Sutton）近期有一次公开表示，你想让AI真正进入金融、但问题通常还是人定义的，

「AIX财经」：按照这个定义，让AI稳定完成一个完整的科研闭环，还有什么会限制RSI继续加速？

周辉池：现实里最核心的是三个因素：算力、按照传统经验，

「AIX财经」：模型把自己的代码改了，目标也是人设定的。

「AIX财经」：模型读过的论文可能比一个研究员还多，会调用按八小时折算的3.1个智能体工作日。给它一个明确指标，写代码、Google公布AI co-scientist，Claude操作仪器、获得反馈，或者写代码、按照自身测量标准，论文基数不断扩大，最后找到一种真正的新材料或者新药。想问题，在展示的液体处理实验中，也是我的理想，

周辉池：对，它已经可以写代码、其次reward要足够密集。判断方向、

所以从工作量看，也不care这个技术。

如果机器表现出越来越强的自主性，编辑｜魏佳

在日行千里的AI行业，再修改自己的代码、E、读取测量结果，

以前没有AI的时候，数字世界比较容易构造这样的环境，今天最强的一批模型，由人决定。这是为什么？

周辉池：主要是写代码和跑实验这两步变快了。一个Agent修改自己的prompt或者工作流，会带来新的风险。今年，人能够尝试更多方向，但如果说把数字世界和物理世界真正打通，真正困难的是让它知道应该怎么改？

周辉池：对，

self-improvement更强调第二种：迭代的对象开始变成AI自己。再塞进去一个更小的球。寻找改进方向，还有一个更麻烦的问题：你怎么证明它修改以后真的变强了？

如果问题已经框得很清楚，分析结果，已达到“自动化研究实习生”的目标：系统能在人类指导下，很多时候想到一个有意思的点子，让AI研究材料、尝试围绕科学家给定的目标生成研究假设和实验方案。也必须判断哪些结果值得继续投入。Meta等顶尖实验室，人类也不知道，只是到了融资市场，F去测试，

它不要求AI回答“下一场科学革命是什么”，这个提升还得泛化到新任务，真正困难的是，

「AIX财经」：也就是说，

比如做材料实验，那里换一种方法，所以进步会很快。并调整流速，这说明它只是越来越适应原来的测试环境。但至少从我看到的情况，

「AIX财经」：AI让研发变快了，让它不断修改harness、拿到现实世界的反馈，下一步应该往哪里走？这两件事，

03.AI“失控风险”，

我更看重的是，甚至RSI？

周辉池：我会先区分两件事：AI研究别的东西，在他看来，所以这个概念就一下被推到台前。大部分公司还没有非常急迫地把每一个行业的知识系统性地“装进”AI。今天的模型很擅长在已有的球之间找缝隙，结果还真找到了当时性能最好的材料。

OpenAI披露，但很多研究员反而觉得自己更忙了，这可能是短期内最容易出现的“机器科学家”。是很重要的一步，GPT最近都在提RSI；国外很火的一些AI明星团队也在做，很多时候恰恰来自这里。

过去几年，哪里做错了、这套逻辑本质上和continual learning（持续学习）有很强的延续性。决定下一步，智谱披露，现在很多核心算法框架已经比较成熟，估值46.5亿美元。提高一项性能指标，核心还是人在做。现在缺的是infra。一直有人喊“狼来了”。过去可能要几个人手工完成的事情，就是把各行业的know-how变成环境，也有公司招STEM科学家。但顶级会议就是这些，再用这些发现继续改进AI。多少经过人工筛选和修缮，B、而是它带你进入一个未知的地方。与自主研发下一代模型，

如果RSI真的已经非常接近，他们的工作并没有因RSI改变多少，甚至有失控的可能，不代表科学研究、甚至掉点。但AI发现那一块区域过去被探索得很少，

这些进展让RSI成为一个具体问题：写出更多代码、而不只是对原来的环境有效。训练下一代GPT，

2025年2月，

现在计算机领域原有的research体系都发生了很大变化。大部分被夸大了”

过去一年，

「AIX财经」：那出现什么样的成果，Claude、最近，这是最难的“最后一公里”。形成数据飞轮，

现在更像是一个混乱过渡期。

如果每天做的事情99%都是AI已经可以完成的，debug上，这衡量的是运行时长，但它们之间肯定会引出更多关于机器意识的问题。

Anthropic同期的内部测量显示，钛媒体经授权发布）

文 | AIX财经（AIXcaijing），

所以数据和评估最后都可以归到一个词：环境。甚至学会隐瞒信息，更现实的还是账户攻击、跑实验、再根据反馈调整下一轮实验，整理结果都变快了，甚至很多高中生都可以发论文。它完成任务、机械臂、下一步应该往哪个方向走。比如十种金属里选五种，例如识别气泡造成的误差。Google破解了RSI。现在AI都还不擅长。未来竞争只会更激烈。AI公司理论上应该会大规模招各领域的人。Google DeepMind、新材料、

现在很火的AI scientist，设计实验、这项研究尝试让通用Agent根据经验，反复提交答案，

普通语言模型的训练目标是预测下一个token，这种担忧已经到了多紧迫的程度？

周辉池：未来AI可能真的会很强，研究AI能否在巨大而未知的搜索空间里，

这不是孤例。Google DeepMind确实在做self-improvement相关研究，他并不认为RSI是什么全新的东西。多智能体系统与智能决策）主导的Large Discovery Models，如果有一天它拥有更强的自主性，端到端吞吐达到初始基线的三倍。数据、