智能体机器人综述:光是动作对了,已经不足以让一台机器人真正能用
这篇 79 页的论文,涵盖了编排、失效恢复,以及现有基准测试揭示不了的那些缺口

机器人正越来越擅长拿起物体、在房间里导航、遵循自然语言指令。它们做不到的,是当事情稍微出点岔子时,依然能可靠地完成一项复杂任务。香港中文大学 MMLab 和复旦大学的研究者提交到 arXiv 的一篇新发表的 79 页综述主张,解决这个问题,需要重新思考系统里哪个部分才值得工程上的关注——而答案不是更好的运动预测。
这篇论文于 2026 年 10 月 14 日提交,提出了「智能体机器人」这个概念——一种能够利用环境观察和执行反馈来规划和协调执行的系统。作者特别注意把这个概念与「完全的机器人自主性」区分开来。「智能体性」指的是决策在内部是如何组织的:该调用哪个模型,什么时候调用它,如何检测一个动作没有产生预期的状态变化,以及在下一步之前该如何恢复。
这个框定很重要,因为机器人行业正处在一场前所未有的商业化浪潮之中,而仿真分数与真实部署之间的差距正在拉大。据中国工业和信息化部的数据,2026 年上半年,中国生产了超过 4 万台人形机器人——占全球产量的 97%——而同期这个行业的融资规模达到 935 亿元人民币,大约是去年同期的五倍。在 2026 年世界机器人大会上,有人观察到工作人员在演示之前,现场对模型参数进行校准。基准测试数字与真正能用的产品之间的这道差距,不是纸上谈兵的。
四个演进阶段,界定了基准测试与实际部署之间的差距
这篇综述梳理出了机器人智能的四个演进阶段。任务专用策略,通过在示范数据上做强化学习或行为克隆训练而成,能在受控条件下可靠地执行单一技能。视觉-语言-动作(VLA)模型在此基础上延伸,纳入了预训练好的视觉和语言知识,让模型能更灵活地遵循指令,不需要为每个任务从零开始重新训练。世界模型和世界-动作模型走得更远,能在执行动作之前,预测这些动作对环境造成的后果——这种能力可以通过在内部运行仿真,减少昂贵的真实世界训练数据需求。
第四个阶段——智能体机器人——不替代前三者中的任何一个,而是去组织它们。一台在厨房里导航、同时面对相互矛盾的指令、任务中途被打断、物体位置不断变化的机器人,需要决定哪个模型负责处理哪个子问题,什么时候该把控制权从一个高层规划器交给一个视觉运动策略,以及什么时候执行已经悄悄失败、需要一步恢复操作。前三个阶段里,没有一个包含这种决策逻辑。
这篇论文用一个它称为「Harness(运行时骨架)」的概念,来框定这个协调层:这是一套外部软件结构,规定了模型该如何被调用、各步骤之间要维持什么状态,以及失效该如何被检测和处理。
Harness 这一层:编排到底需要什么
Harness 这个领域,是这篇综述最具特色的贡献。此前关于 VLA、世界模型和机器人学习的工作,都把系统这一层当作一个实现细节,而不是一个研究领域来对待。这篇论文把它划分成六个功能类别:编排、记忆、监控与恢复、技能、基础设施,以及分层系统。
编排负责处理模型组件之间的交接。一个慢速推理的规划器(论文称之为「系统 2」)把任务拆解成子目标;一个视觉运动策略(「系统 1」)用学到的感知-运动映射来执行每一个子目标;一个底层控制器(「系统 0」)把输出转换成关节力矩。每一个边界,都是一个潜在的失效点。记忆负责在各步骤之间存储信息,不需要在任务之间重新训练权重。监控与恢复负责检测「静默失效」——即一项技能报告成功、但底层任务状态其实没有发生变化的情况——并相应地重新规划。
技能是可复用、可调用的程序,可以加入机器人的技能库,不需要端到端的重新训练。基础设施定义了软件如何与硬件通信:消息格式、延迟预算和传感器接口。分层系统描述的是完整的三层架构,以及它如何处理各个抽象层级之间的冲突。
这种结构的实际意义,可以在 RoboClaw 上看到,这是 AgiBot 和上海交通大学在一篇独立预印本里描述的一个智能体框架。按那篇预印本所述,相比非智能体的基线,RoboClaw 在长周期任务上的成功率提升了 25%,人工操作员的介入时间减少了 53.7%。这些提升主要来自失效检测和恢复逻辑,而不是来自底层运动策略本身的改进。
现有的基准测试,衡量的是错误的东西
这篇综述在实践上最重要的论点,关乎评测方法。VLA 模型目前在 LIBERO 仿真基准上报告的成功率超过 90%。这些数字在一个具体的方面具有误导性,正如一篇涵盖 582 篇论文、分析 VLA 评测方法的 2026 年综述所记录的。
LIBERO 衡量的是在固定条件下的表现:相同的物体位置、相同的指令、相同的光照。而在LIBERO-PRO——一个对位置、光照和指令措辞引入扰动的变体——下,按其作者所述,同样这些模型的表现会崩溃到 0.0%。标准基准测试衡量的,是在训练分布内的稳健性,不是对真实部署所涉及的那种变化的稳健性。
这个问题是结构性的:当 Harness 这一层改进了任务成功率时,基准测试分数会随着模型的改进一起上升,而单凭成功率这一个指标,无法把这两种效应区分开来。一个改进了自己恢复逻辑的机器人团队,看起来会像是改进了自己的模型。一个改进了自己模型的团队,看起来会像是改进了自己的恢复逻辑。无论是基准测试还是成功率这个指标,都无法区分这两者。
这篇综述还指出,跨本体泛化是一个结构相似的开放难题。在轮式机器人上学到的技能,不会直接迁移到一个机械臂或一个人形机器人上。一个平台的基准分数,对另一个平台几乎没有参考意义,但投资决策和产品时间表,却经常把某个平台特定的成功率,当作一种通用能力的主张来对待。
这篇综述指出的四个开放性挑战
这篇综述把全部 17 个功能类别,组织进四个领域——模型、数据、环境和 Harness——并指出了四个当前投入与部署瓶颈不匹配的开放性挑战。
数据采集严重依赖人工遥操作示范,这种方式成本高昂,而且产生的失败样本很少。这篇综述指出,失败的轨迹里包含着有用的子轨迹片段——比如一次失败的「抓取并放置」任务里,成功打开抽屉的那一段——而二元的成功/失败筛选方式,会把这些片段丢弃。由智能体引导的标注和精炼,能够把这部分信号找回来。
仿真环境在静态评测上已经相当成熟,但在动态扰动和跨本体迁移上还很薄弱。这篇综述主张,评测需要一种「重建度量」,去评估机器人内部的状态表示,是否与真实世界相符,而不只是看最终是否达到了成功状态。
模型这个领域,需要 VLA 和世界-动作模型之间更紧密的整合。目前的系统把预测和执行当作两个独立的阶段来对待。把动作策略与世界模型的预测耦合起来——并在执行之后更新这个预测——有可能在出现意外状态时减少所需的恢复步骤。
这个领域接下来需要衡量什么
这篇综述发表的时刻,恰逢机器人行业的标准指标正在失去解释力。仿真成功率正在趋于饱和。硬件产量正在扩大规模。而二者之间的差距,并没有单靠更大的模型就被弥合。
中大和复旦的研究者提出的这套 17 类框架,给了这个领域一套词汇,用来拆解这道差距。与其只问「一台机器人是否完成了一项任务」,现在可以去问,是哪个功能类别限制了表现:是规划模块没能把一个目标正确拆解,是监控层没能检测出一次不完整的状态转换,还是技能库没能泛化到一个未曾见过的物体朝向?
这种诊断上的分辨率,正是下一代机器人评测所需要的——而目前那种集中在仿真环境里、仅靠成功率来衡量的基准测试设计,给不出这种分辨率。