2026 年 9 月 4 日,研究机构 Robocurve 发布了一项受控基准测试,让 OpenAI 的 GPT-6 Astra 控制一对机械臂,并在两项操作任务上对其进行了测试,在相同条件下将其与 Anthropic 的 Claude Fable 5 和 Fable 5.1 相抗衡。结果清晰分为两面:在简单的抓取放置任务上,新模型表现显著更好;但在精密插装任务上,它丝毫不占优势。

硬件采用双工 I2RT YAM 机械臂架构——两台六自由度机械臂,每台均配备平行夹爪。团队没有用原始像素端到端地训练模型,而是使用了 Inspect Robots 测试框架(0.58.0 版)。在该设置中,模型充当'代理策略':它通过 move_to 命令发出绝对末端执行器位姿——每台机械臂包含 x、y、z、yaw、pitch、roll 以及夹爪状态——机器人的逆运动学(IK)层再将这些位姿转换为关节角度。每个模型每任务进行 20 次试验,每次运行最多允许 20 次大语言模型(LLM)调用,速度被限制在机器人全速的 25%,并启用该框架的默认安全护栏。观测数据来自三个摄像头视角——俯视、左手腕、右手腕——加上机器人本体感知状态。每次试验由人工按五级标准打分,从'毫无目的的靠近'(0)到'放入最终位置'(4);即使失败的运行也会记录其进展到了哪一步。

在更简单的任务——'从桌上拿起红色方块并将其放入碗中'——GPT-6 Astra 在 20 次试验中有 19 次成功将方块放入,成功率 95%,平均等级 3.95。Claude Fable 5.1 仅完成 8 次(40%,平均 2.40);较早的 Fable 5 仅完成 1 次(5%,平均 1.30)。Astra 还更快更便宜:平均每轮 2.5 分钟、约 0.94 美元,而 Fable 5.1 为 6.8 分钟、2.12 美元,Fable 5 为 8.2 分钟、2.69 美元。其输出 token 也少得多——每轮约 2,100 个,相比之下 Fable 5.1 约为 12,900 个,Fable 5 约为 19,200 个。

第二项任务——'捏住圆形蓝色拼图块中央的旋钮,将其放入面板上对应的圆形凹槽'——则呈现出截然不同的局面。Astra 仅成功完成插装 2 次(20 次中的 10%),基本与 Fable 5.1 的 2/20 持平,仅因技术细节上优于 Fable 5 的 0/20。其平均等级为 2.00,实际上低于 Fable 5.1 的 2.35。报告原文措辞直白:Astra '抵达了凹槽,但在 Fable 同样停滞的同一最后一步陷入停滞'。三个模型都能将拼图块移动到开口处,但随后都在同一个最终动作——精密插装本身——上卡住。Astra 确实成本更低(每轮 1.36 美元、约 2,700 个输出 token、3.4 分钟,而 Fable 5.1 为 2.18 美元、10,500 个 token、5.9 分钟),但廉价的停滞仍然是停滞。

Chart plotting completion rate against output tokens for GPT-6 Astra, Fable 5.1 and Fable 5 on the two robot-arm tasks
Astra reached the bowl task with the highest success and fewest tokens, while all three models scored near zero on the precision insertion.openai.robocurve.org

The chart visualizes the article's central finding: the models diverge sharply on the simple pick-and-place task but stall together on precision insertion.

这一停滞是基准测试中最具启发性的部分。粗略的抓取放置任务考验空间推理与抓取选择能力;而旋钮入槽插装额外考验精细位置控制能力以及摸索对齐的感觉。新一代更强模型与前辈们撞上同一瓶颈——而且平均等级更低,因为它更常在到达最后一步之前就已失败——表明障碍存在于操纵的最后几厘米,而非将手臂移到大致正确区域这一步。报告并未说明停滞的确切成因。它可能是模型本身的局限,也可能是 move_to 接口的局限(它要求模型一次性给出一个绝对位姿,而非让模型摸索着进入),或是一个模型始终收不到触觉反馈的设置问题。该基准测试仅能证明,在这些条件下,插装步骤仍未被解决。

作者对研究的局限坦诚相告,而这些局限决定了结果可推广到什么程度。Astra 每任务 20 次试验是在 Fable 试验两天后运行的,且未与它们交错进行,因此无法排除随时间推移设置发生漂移。碗形任务的对比并非对等:Fable 的碗形试验运行于 rig-3,而该硬件对 Astra 不可用,因此 Astra 的碗形运行是在 rig-1 上完成的。不过拼图对比至少在全部模型间是在同一台机架(rig)上进行的。评分由操作员判定,且评分者知晓被测模型,这为偏向新一代模型的无意识偏差留下了空间。成本采用的是目录标价:Anthropic 的请求未使用提示缓存,而 OpenAI 自动缓存了 Astra 约五分之一的输入,却未应用该折扣——因此 Astra 的成本数字若有什么,反倒被高估了。物体在试验间由人工重置,且每个模型仅以中等推理强度运行。每模型每任务 20 次试验样本偏小,两项任务也只是操作能力的一小部分;报告并未声称更多。

这些成本数字值得驻足细看,因为它们容易被误读。按目录标价计算,最便宜的 Astra 运行约 0.94 美元,最贵的 Fable 5 运行约 2.69 美元——而这是一项人类只需数秒即可完成的任务。即便按数字表面理解,以一块多美元一次尝试的成本来收拾方块,也无法与任何合理的劳动力成本竞争,而且单轮成本数字混淆了 token 单价、推理强度以及测试框架的固定开销。数字清晰表出的,是新一代模型的相对效率:在碗形任务上每轮约 2,100 个输出 token,而两个 Fable 模型分别为约 12,900 和 19,200。但 token 吞吐率只是某个特定测试框架内控制器成本的一种代理指标——既非部署系统经济性的预测,也不是物理能力的度量。

最后,还值得澄清基准测试的测试范围与局限。该设置是一个 LLM 代理通过符号接口驱动机器人——处理的是位姿,而非从像素到关节的映射。这种通用模型进行高层规划、而传统控制器处理底层几何的路子,有时被称为'代码即策略'(code as policy),并且是故意为之的选择。这也意味着结果对端到端视觉-语言-动作(vision-language-action)模型毫无解释力,后者将传感器输入直接映射为关节指令,并不在此次比较之内。因此,拼图任务的失败是这一特定测试框架下 LLM 规划操作能力的证据,而非对机器人一般能力的证明。报告的技术附录精确列出了该接口——每台机械臂的 move_to 包含 x、y、z、yaw、pitch、roll 和夹爪,机器人的 IK 将位姿转换为关节角度——因此该设置可复现,而换一种接口能否填补插装差距,则是本实验留下的未解之问。

那么,可以确定的结论是什么?通过标准操作框架、由代理策略驱动的 GPT-6 Astra,在简单的抓取放置任务上明显优于两个 Fable 模型,但在一个击败所有三个模型的精密插装任务上并不更优——至少目前还不是。简单任务的优势明显,而困难任务上的差距为零。插装问题能否通过更好的接口、更多试验、触觉传感或另一类模型得到解决,目前仍是本基准测试未能回答的开放性问题。