论文概述

arXiv 论文《Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds》研究了一个对具身智能体很关键的问题：在物理环境中，增加数据、提升数据多样性、扩大模型容量已经能改善具身学习；但这些收益能否延伸到视觉风格、动力学、控制方式和目标都不同的虚拟世界，仍然不清楚。

为此，作者对持续预训练（Continued Pre-Training，CPT）做了控制变量研究，覆盖三条 scaling 轴：数据量、数据多样性和模型规模。实验共包含 120 组训练配置，横跨 0.8B 到 27B 的四种模型规模、50 到 1,600 小时的六档数据预算，以及从仅 Minecraft 数据到多世界混合语料的五种数据混合方案。评估使用三级验证损失，以及从语料内世界到未见世界的 gameplay benchmark。

关键技术点

  • 研究目标：检验在物理环境中有效的 scaling 规律，是否适用于视觉、动态、控制和目标各异的虚拟世界。
  • 实验设计：围绕数据量、数据多样性、模型规模三个维度做系统扫描，而不是只比较单一模型或单一游戏。
  • 数据规模与混合：数据预算从 50 小时到 1,600 小时；数据混合从 Minecraft-only 扩展到多样化多世界语料。
  • 模型规模：覆盖 0.8B 到 27B，共四种规模，用于观察模型容量对数据效率和泛化能力的影响。
  • 评估方式：使用三级验证损失，并在语料内世界、相关世界和未见世界上做 gameplay 评测，区分“见过”“相关”“远距离迁移”三类场景。
  • 主要发现一：更多数据能提升语料内表现；数据多样性有助于迁移到相关世界，但对远距离世界的收益有限；模型规模能提升数据效率，但在单世界训练下对远距离世界的泛化反而更差。
  • 主要发现二：作者观察到早期“interface phase”具有较广的跨世界收益，后期“world phase”的收益则收窄到语料内世界和相关世界；并拟合了一个将验证损失与数据量、多样性、模型规模关联的经验 scaling law。原文未给出这两个阶段的精确定义。
  • 主要发现三：模型在 3D 世界中与 Minecraft 专家模型和前沿模型具有竞争力，并在实时设置下表现最好。不过，模仿学习的局限以及远距离世界中的持续差距表明，构建通用具身智能体还需要持续预训练之外的更丰富训练阶段。

对数据科学或 AI Agent 落地的意义

这项工作对数据科学和 AI Agent 落地的直接启示是：数据规模、数据多样性和模型规模不是可以互相替代的单一变量。更多数据主要改善分布内表现；多样性更有利于相关世界迁移，但并不能自动解决远距离泛化；模型变大能提高数据效率，却可能在单世界训练下强化世界特定先验，损害远距离迁移。

对具身 Agent 而言，论文把“游戏数据”视为一种可扩展的预训练资源，并给出了从语料内到未见世界的分层评估框架。这对实际落地有两个价值：一是可以用多世界 CPT 构建更通用的具身基础能力，尤其是在实时 3D 环境中；二是评估不能只看同分布 benchmark，必须单独测量相关世界和远距离世界的迁移差距。

同时，论文的结论也提醒工程团队：scaling law 可以辅助预算分配，但不能替代 OOD 测试。如果目标场景与训练语料差异较大，仅靠增加数据量或模型参数并不够，还需要更丰富的训练阶段和更系统的环境多样性设计。原文未说明该方法在真实