人工智能的快速进步在很大程度上遵循了“规模假设”,该假设认为增加模型规模、计算能力和训练数据会导致智能水平的预测性提升。虽然这在语言模型上行之有效——因为它们可以在数万亿个互联网文本标记上进行训练——但机器人领域面临着不同的挑战。目前还没有等同于物理任务(如折叠衣物或操纵物体)的高质量公开数据储备。由于机器人训练需要正确执行动作的示例(或一种对尝试进行评分的方法),该领域目前正致力于研究如何生成足够数量的数据,以超越简单的重复性任务。

收集此类数据的主要方法之一是远程操作,即人类通过远程界面控制机器人的动作。这允许进行“行为克隆”,即模型学习模仿专家的动作。虽然这产生的数据与机器人的实际物理能力高度匹配,但由于人力成本高昂且操作者缺乏触觉反馈,这种方法难以大规模扩展。作为替代方案,研究人员利用模拟环境来创建“合成”数据。模拟环境允许成千上万个机器人在数字环境中同时接受训练,这比现实世界的测试快得多且成本更低。然而,这往往会导致“模拟到现实的差距”(sim-to-real gap),即模型在完美的数字世界中表现良好,但在现实中却失败了,因为模拟环境无法完美建模复杂的物理现象,如摩擦力或柔软、可变形物体的行为。

为了缓解这些限制,各公司正转向以人为中心的数据采集。这包括“第一人称视角”视频,即人们佩戴头戴式摄像头记录自己的动作,然后将这些动作映射到机器人动作上。其他方法涉及“通用操纵接口”(UMI),其中人类佩戴专门的操纵器来执行任务,为具有相似硬件的机器人提供高保真数据。虽然这些方法比一对一的远程操作更具扩展性,但它们在捕捉细微的感官反馈方面仍面临障碍——例如人类通过神经系统自然处理的物体的精确压力和纹理。目前,通向通用机器人的路径依赖于这些策略的结合,以建立一个“数据飞轮”,其中现实世界的部署最终会反馈到训练循环中,以改进未来的模型。