DataManing 联系我们 →
SystemarXiv:2609.0639647 页 · 12 幅图 · 11 张表

MetaRSI / RSI²

A Meta-Recursive Self-Improving System for Recursive Self-Improving Systems Themselves

Zihan Tan, Leixin Sun, Zitong Shi, Yitao Liu, Jiajun Wu 等 31 位作者

TL;DR

递归自我改进(RSI)至今几乎只在代码、数学这类可机器判分的基准上被验证过。MetaRSI-v1 把改进拆成三个类型化算子:放大数据、改写脚手架、训练参数,三者共享同一个循环内核,由优化器决定先后顺序,元层策略再跨轮次改写调度本身。全程没有外部教师,目标模型自己扮演环里的每一个角色。

+10.9四个基准平均提升(相对冻结系统,5 个种子均值)
+7.3六个前沿模型在 Terminal-Bench 2.1 上的平均自我提升
26.2vs 20.7五轮累计增益:带元更新 vs 不带
69%45 个被调研的 RSI 系统中,改进环对着可机器检查的目标闭合的比例

01发现:约束 RSI 的是验证格式,不是学科

论文先做了一次普查。在调研的 45 个 RSI 系统里,69% 的改进环是对着封闭、可机器检查的目标闭合的:测试集、精确匹配的答案、数值目标或选择题标签。按学科分组看,几乎所有科学类系统都落在这个封闭区块里。

再扩大到 22 个领域、55 个改进环:领域能形成的改进环数量,随该领域验证器的等级下降而下降,Spearman ρ = −0.75,p < 0.001。55 个改进环里有 53 个落在验证器阶梯的第 1 到 3 级。

结论很直接:自我改进能走到哪里,取决于有没有可靠的验证器,而不是取决于题目属于哪个学科。论文因此主张,RSI 下一步要进入真实、多样的科学、工程与元科学领域,而不是停在容易判分的那一小块。

02方法:一个内核,三个算子,三层嵌套

MetaRSI-v1 把一个系统拆成三个可写的面:数据 𝒟、脚手架 ℋ、参数 θ。每个算子只写其中一个面,所以每一次被采纳的改动都能归因到唯一的算子。

算子写什么做什么
Data-RSI合成数据 𝒟放大已有能力,并标出能力边界
Harness-RSI五槽脚手架 ℋ改写任务脚手架,不碰权重
Model-RSI参数 θ通过有界训练把能力内化进参数

三个算子共享一个循环内核和一套产物词表,因此可以组合,而不是互斥。六种有序转移里五种合法;一个双轴优化器同时决定算子顺序和每个算子的提案策略。往上还有两层:RSI² Agent 管一个改进轮次,MetaRSI² Agent 每轮改写一次调度策略本身。这就是标题里「改进自我改进系统本身」的含义。

环里有一条明确的权限边界:模型只负责提案,判定、产出和读取由确定性代码完成。

03结果

主实验以 Qwen3.5-35B-A3B 为目标模型,在四个基准的密封测试集上评测(其中 GPQA 使用预先冻结的 100 道难题 GPQA-D-hard100),所有条件同预算,结果为 5 个外层种子的均值。

  • MetaRSI-v1 在四个基准上全部最好:相对冻结系统平均 +10.9 分,相对最强的固定顺序组合 +3.6 分。两种固定顺序组合都停在 +7.3,单算子之间相差 3.8 分。调度本身就值 3.6 分。
  • 六个前沿模型在 Terminal-Bench 2.1 上各自运行 MetaRSI-v1 环,每个模型自己当提案者和裁判,全部提升,幅度 +5.6 到 +9.2,平均 +7.3。
  • 只走脚手架路线(不动权重)连续三轮:平均每轮 +7.3、+2.8、+1.2,累计 +11.3。
  • 五轮对比:带元更新的路径累计 +26.2,不带的 +20.7,差距每轮都在扩大。被改进过的改进器,确实是更好的改进器。

04意义

论文把自我改进从「改一个面」重新定义为「在整条模型生产管线上做组合」,并给出两条路线:模型路线通过训练内化能力;脚手架路线不动权重,因此可以扩展到任何只能通过接口访问的模型。Data-RSI 是两条路线共享的底座。论文还给出了可证伪的规律:环在哪里存在、算子如何组合、监督能换来什么。

对我们来说,第一个发现是最重要的一条:自我改进的上限由验证器决定。在验证器阶梯的低端,Data-RSI 最有价值的产出是一份边界声明,说明哪里真正需要人类或语料监督。这正是专家任务数据存在的位置。

09引用

@article{tan2026metarsi,
  title   = {MetaRSI / RSI2: A Meta-Recursive Self-Improving System for Recursive Self-Improving Systems Themselves},
  author  = {Tan, Zihan and Sun, Leixin and Shi, Zitong and Liu, Yitao and Wu, Jiajun and others},
  journal = {arXiv preprint arXiv:2609.06396},
  year    = {2026}
}