通过模拟进行合成:STS 用 Agent 在仿真企业环境中生成合规数据
事件/论文概述
arXiv 上新挂出一篇 cs.AI 论文《Synthesis Through Simulation: Generating Coherent Enterprise Data via Scalable Agent-System Interaction》(arXiv:2610.10549v1,2026 年 9 月 24 日提交),作者为 Yipeng Li、Ashutosh Hathidara、Jane Lo、Harshavardhan Abichandani、Gunraj Singh、Atin Ghosh 共六人,代码与数据托管在 SAP 的 GitHub 组织下。
论文要解决的问题很实在:工具调用(tool-calling)Agent 已经成为企业 AI 的核心形态,但要在规模化条件下训练和评估这类 Agent,会严重受限于企业在系统、数据和数据库 schema 上的商业与法律约束——真实环境既不能随便给你连,也不能随便给你看表结构。
现有的两条替代路线各有硬伤:
- 表格数据合成:受制于结构有效性和 schema 可得性,拿不到 schema 就无从下手;
- 基于流程(procedure-based)的方法:反过来,往往缺乏分布保真度(distributional fidelity),而且需要逐领域人工撰写。
论文提出的 Synthesis Through Simulation(STS) 是一条 schema-free 的数据合成路径:让 LLM Agent 在模拟的企业环境中,通过调用带有策略约束(policy-enforcing)的 API 来”执行操作”,数据就在这些操作过程中被生成出来。
关键技术点
1. 用环境本身来保证结构有效性
STS 的核心机制是:数据的生成路径和有效性的判定路径是同一个环境。因为数据是通过定义了”什么算合法”的那套 API 被写出来的,结构有效性由构造(by construction)保证。这相当于把传统方案里最麻烦的约束检查,从”事后校验”变成了”事前不可能违反”。
2. 有效性约束与分布建模解耦
这是论文在方法层面最值得注意的一点。传统合成方法把”结构合法”和”分布像真的”绑在一起解决,于是两个问题互相拖累。STS 把它们拆开:环境负责前者,模型负责后者,各自独立可攻。
3. Generalist Populator(GP)
GP 是 STS 的领域无关(domain-agnostic)Agent,专门用来补齐剩下的两个难点——分布保真度与合成可扩展性。论文给出的结果:
- 在全部十个环境上,平均 marginal fidelity 达到 0.88;
- 100% 约束满足;
- 全程不访问 DB schema。
4. 与基线的对比
- 统计类合成器在十个环境中有 7 个根本不适用,原因是它们依赖必要的种子数据;
- 拥有 schema 权限(schema-privileged)的 Agent 在 airline 环境上 82% 的轨迹失败,论文归因于该环境工作流高度紧耦合,任务组合过于脆弱。
5. 开源
论文开源了完整框架、全部十个环境和生成的数据集:https://github.com/SAP/synthesis-through-simulation。
需要说明的是,原文未说明 GP 所依赖的具体基础模型、十个环境分别对应哪些业务域,以及 marginal fidelity 的具体计算口径。
对数据科学或 AI Agent 落地的意义
对企业侧的数据科学团队而言,这项工作指向一个很现实的痛点:你最难拿到的往往不是算力,而是合法、可用的数据入口。客户系统连不上、schema 属于敏感资产、脱敏后的静态表格又丢掉了业务约束之间的耦合关系。STS 把”造数据”变成”在沙箱里跑业务”,这带来几个直接好处:
- 合成数据天然自洽:跨表引用、状态流转、策略校验都经过同一套 API,不会出现单表好看、关联全错的情况;
- 合成过程与评测过程同构:既然 GP 是通过调 API 生成数据的,那么用它造出来的环境,本身就是工具调用 Agent 的评测靶场;
- 不需要领域人工撰写:property-based 方法最贵的部分被 Agent 替代,这是”可扩展”三个字的主要来源。
对 AI Agent 落地来说,更值得注意的是那个 82% 失败率的对比。它说明拥有更多权限并不等于更强:拿到 schema 的 Agent 反而因为要自己拼装紧耦合工作流而大面积崩掉。这提示我们,在企业 Agent 设计里,”把约束下沉到环境/接口层”很可能比”把约束塞进 prompt 或让模型自己编排”更稳。
我的技术点评
这篇论文真正的贡献,我认为不在于某个新模型,而在于一次范式层面的位置调整:把”合法性”从数据属性改成了环境属性。
传统合成数据的思路是——先造出数据,再检查它是否合法。STS 的思路是——只允许通过合法路径产生数据,于是合法性不用检查。这跟类型系统、以及数据库里用约束而非应用层校验来保证一致性的思路是同源的。它把一个验证问题(expensive,且覆盖率存疑)转化成了一个生成问题(by construction)。
第二个我觉得聪明的点是解耦。有效性靠环境、保真度靠模型,这两个目标本来就要用完全不同的手段去优化,硬绑在一起只会让两边都做不到位。0.88 的 marginal fidelity 配合 100% 约束满足,说明这个拆法是成立的——至少在两套指标上都没塌。
但也要保持冷静。几个我在原文里没找到答案、因此存疑的地方:
- 0.88 的”marginal fidelity”到底衡量什么? 原文摘要只给了数字和名称,没有给出度量定义,也没有说明基线对比的口径。这个数字的实际说服力,取决于它背后的统计量。
- 十个环境是谁定义的、覆盖哪些复杂度? 除了 airline 被点名,其余环境的难度分布原文未说明。如果多数环境工作流偏线性,那 100% 约束满足的含金量会打折。
- 模拟环境本身的构建成本。 STS 号称省掉了逐领域撰写,但一个带策略约束 API 的仿真企业环境并不是白来的——这部分前期投入原文未说明,而这恰恰决定了它能否真正”可扩展”。
- 分布保真 ≠ 任务有用性。 对训练和评测 Agent 来说,真正关键的往往是难例分布而非整体分布。合成数据在长尾、异常路径上表现如何,原文未说明。
总体来说,STS 给出的是一个方向明确、可复现(已开源)的方案:别再造表,去造环境。这句话对企业 AI 的数据基础设施,可能比对模型本身的改进更有现实价值。至于它能不能撑住真实业务的复杂度,还得看那十个环境的细节和后续的社区复现。
