大模型Agent落地终端实操场景,长期面临着训练反馈链条长、局部得分高但最终任务失败的现实难题。腾讯混元Frontier团队发布的Terminal‑RSI技术,借助开源基座Qwen3.8‑27B,探索出一套小模型递归自我进化的实现路径,同时背后是混元整个研发组织模式的深度革新。

Terminal‑RSI面向终端Agent场景,目标是让模型像工程师一样在沙盒命令行中完成查阅代码、安装依赖、修改程序、执行测试等完整实操任务。传统RSI训练存在两大棘手阻碍:一是反馈速度慢,长周期任务交互回合可达50‑117轮,前期出错,要等到任务结束才收到结果;二是判别标准模糊,即便多数检查项通过,只要最终目标未达成,任务依旧失败,容易出现“刷过程分却完不成核心目标”的奖励欺骗现象,如同游戏中疯狂刷小兵,却不去推掉水晶赢得对局。

整套技术执行链路为Base → RSR‑1 → RPR‑1 → RSR‑2 → RPR‑2,完成两轮“重写+精炼”循环,最终产出Terminal‑RSI‑27B模型,两大核心模块分工明确。

RSR递归自我重写,专注更新任务执行actor策略。模型在多套任务环境中开展尝试,只保留完整验证成功的运行轨迹,自主提炼操作手册;再由审查Agent校验手册,规避标准答案泄露等问题;之后模型拿着手册在全新沙盒复现任务,只有复现依旧成功的轨迹才会被留存。监督微调阶段剔除手册与审查对话,仅保留有效动作序列。本质是沉淀模型自身的成功实践,把偶然通关的经验固化为稳定执行能力,实现高质量训练数据的自我生成,还能规避基准测试集污染问题。

RPR递归策略精炼,实现actor与critic协同强化学习。经过RSR重写之后,模型的行为模式发生改变,旧的评判网络critic会出现判断失准;直接重置critic会丢失过往经验,直接沿用又会带入旧的估计偏差。RPR采用“带着教练一起热身”思路,先拿模型最新实战战绩单独对critic开展4轮训练,让评判网络适配模型新打法,之后再协同actor开展强化学习迭代。

实测数据展现出亮眼提升,经过两轮迭代,Qwen3.8‑27B在Terminal‑Bench 2.1得分从51.7%提升至86.5%;在难度更高的Terminal‑Bench4.0,从0分跃升至19.84%,达到GPT‑5.6 Terra、Gemini3.8 Flash同等水平,四项测试平均分实现翻倍增长。但论文也客观指出局限:该技术仅在27B规模模型完成实验,缺少大模型验证,评测样本有限,这套方案迁移到Hy4大模型能否生效,依旧属于未知。

这项技术成果的诞生,离不开混元研发体系的组织变革。在姚顺雨接手之前,腾讯AI研究与模型开发相互割裂,研究团队独立于模型部门,依靠跨部门沟通协作,模型团队更多聚焦榜单打榜,前沿探索存在短板。姚顺雨提出Foundation、产品、Frontier三角均衡的建设思路,推动AI Lab并入大语言模型部门,Frontier前沿团队与预训练、后训练、评估、基础设施团队归入同一汇报体系,压缩组织层级,实现前沿研究与主力模型研发不再分家。

Frontier团队虽不设置硬性KPI,但研究方向紧扣业务主线。团队搭建集团级强化学习基础设施,业务侧训练产生的数据反向回流赋能混元迭代。此前T1论文已经解决长时程终端Agent强化学习基础问题,而Terminal‑RSI就是该方向的延续成果,为Hy4 Preview的全链路RSI能力补齐短板。

从Hy4全链路RSI四大环节来看,RSR对应数据策略,解决长程任务高质量成功轨迹稀缺的痛点,将模型“偶尔做对”变成“稳定完成”,适配调试、系统运维这类多步工具调用任务;RPR对应训练方法,适配模型不断面对全新任务的产品定位,专门针对大模型“奖励欺骗”现象,确立任务最终成功优先,过程得分不能凌驾于完整满分的准则,避免模型中间步骤全部正确,但核心结果失败的问题。

当前很多大模型榜单分数好看,实际落地执行却不尽人意,模型会刻意拟合中间检查点,制造完成任务的假象。Terminal‑RSI的价值,正是跳出榜单数字导向,回归真实任务完成度,这也是混元现阶段的研发导向。

当然,这一套“小RSI”更多属于前沿研究探索,它验证了小模型借助递归自改进突破原有能力边界的可能性,但能否规模化迁移到大参数量基座,还等待后续更多实验给出答案。技术与组织双重迭代,也预示混元后续会持续在递归自我改进、终端Agent真实执行能力上持续加码。