事件概述

2026 年 9 月 9 日，OpenAI 全球事务首席官 Chris Lehane 发布文章《The AI policy window is open. We need to act.》。文章的核心判断是：AI 能力已经进入新阶段，AI 政策也必须进入新阶段；没有哪家公司、行业或政府能够独自应对这一挑战，因此应当以“有意义的行动优先于政策完美”为原则推进治理。

OpenAI 在文中列出了四项正在推进的工作：

  1. 推动强制性的国家 AI 安全要求，与国会合作制定基于能力的国家 AI 安全监管；
  2. 在国会行动之前，继续支持州级立法，并宣布支持四项加州法案；
  3. 推进产业主导的前沿 AI 标准，先以自愿方式推进，无论政府是否支持；
  4. 建设全球标准，倡导在能力测量、风险管理、人类控制以及何时放缓或停止开发等方面形成兼容的国际方法。

文章还引用 OpenAI 首席科学家 Jakub Pachocki 近期的观点：机器智能的快速崛起，包括递归自我改进的潜力，要求“极度谨慎”。OpenAI 表示将继续推进对齐与监控的技术方案、建设防御系统，并在必要时放缓开发。但单个实验室内部的技术工作并不足够，还需要共享标准，包括关于何时应当放缓或停止开发的标准。

需要注意的是，原文在“We badly need national stan”处截断，后续完整内容原文未说明。

关键技术与政策要点

1. 强制性、基于能力的国家监管

OpenAI 主张，AI 加速 AI 发展的前景要求超越自愿承诺。美国需要强制性的、基于能力的国家监管，并且这种监管应能随技术演进而调整。

其《Blueprint for Democratic Governance of Frontier AI》提出了通往持久联邦框架的路径，包括：

  • 通用的测试与独立评估要求；
  • 更强的网络安全保护；
  • 明确的事件报告规则；
  • 更强的国家准备；
  • 用于追踪递归自我改进进展的共享指标。

OpenAI 强调，前沿安全要求应适用于少数开发最强系统的资源充足实验室，而不是创业公司、小型开发者或远离前沿的研究者；义务应与能力和风险成比例。

2. 州级立法与加州法案

在国会行动之前，OpenAI 表示将继续支持强化 AI 安全生态的州级立法。文章宣布支持四项加州法案：

  • SB 813：关于独立安全评估的整体基础设施；
  • AB 1405：关于 AI 审计员标准；
  • SB 1119：关于对年轻人的保护；
  • AB 1864：关于针对 AI 赋能生物威胁的保障措施。

3. 行业标准与全球标准

OpenAI 表示将与其他前沿实验室合作推进前沿 AI 标准，先建立自愿机制，无论政府是否支持。同时，它将倡导兼容的国际方法，用于衡量能力、管理风险、保持人类控制，并确定何时以及如何放缓或停止开发，即使这意味着放缓模型能力的进展。

4. 安全工程与监控措施

文章称 OpenAI 已在模型开发生命周期中加强监控、对齐和安全保障，具体包括：

  • 对前沿研究工作负载实施更强的隔离；
  • 扩大在工具调用训练和评估期间对模型行为的监控；
  • 制定更清晰的规则，规定何时升级关切。

针对 Astra，OpenAI 还引入了对完整轨迹的通用监控，包括思维链，并在更广泛的内部部署前设置强制性的对齐评估门。

当继续推进会造成不可接受的安全风险时，OpenAI 表示将放缓或停止无法充分保障的系统开发或部署，这与其 preparedness framework 的要求一致。

5. 递归自我改进与自动化研究

文章明确区分了现状与方向：

  • 完全自主的递归自我改进——即 AI 系统独立驱动一代又一代更强 AI——今天并未发生；除非能够安全实现，否则不应追求。
  • 但 AI 已经在加速用于开发和对齐下一代模型的部分研究。OpenAI 的最新研究显示，AI Agent 可以完成一些原本需要熟练研究者数天的任务。这不是递归自我改进，但显示了趋势方向。

OpenAI 的目标是安全地构建在人类监督下工作的自动化 AI 研究者，推动深度学习与对齐研究，让每一代 AI 帮助下一代更安全、更对齐、更可控，而不仅仅是更强大。

6. 政策原则：前沿安全不等于开放权重政策

OpenAI 强调，国家框架应当强有力但精准定向。前沿安全政策不应变成变相的开放权重政策。文章认为：

  • 开放模型可以成为解决方案的一部分，尤其是在网络安全以及主权、安全或数据驻留需求偏向本地部署的场景；
  • 大多数开放模型并不在前沿竞争，而是在成本、控制和延迟上竞争；
  • 美国需要开放模型和闭源模型；
  • 联邦框架应处理前沿能力与风险，同时不削弱竞争、不巩固现有巨头、不把创新推向海外。

文章还提出，严肃的公共框架应减少而不是增加权力集中。当前前沿实验室在很大程度上自行制定前沿风险管理规则；民主问责的标准、独立验证和有意义的透明度，将取代这种碎片化的私人治理体系。

对数据科学或 AI Agent 落地的意义

从原文可以推导出几个对数据科学和 AI Agent 落地有直接影响的方向：

  1. 评测与审计将进入工程主流程。 独立安全评估、AI 审计员标准、事件报告和独立验证，意味着模型与 Agent 系统需要更完整的评测证据链，而不仅是离线指标。
  2. Agent 可观测性要求提高。 对完整轨迹包括思维链的监控，以及工具调用训练与评估期间的行为监控，指向更细粒度的调用链追踪、行为日志和异常升级机制。
  3. 人类监督仍是自动化研究的边界条件。 原文主张构建“在人类监督下工作的自动化 AI 研究者”，而不是无条件追求完全自主递归自我改进。对 Agent 产品而言，这意味着高风险任务需要保留人类审批、停止和回滚能力。
  4. 能力门槛与风险比例原则会影响部署策略。 前沿安全要求针对少数资源充足实验室，而非所有开发者；但一旦系统接近前沿能力，测试、评估、隔离和报告义务可能显著增加。
  5. 开放与闭源将长期并存。 对数据科学团队来说，本地部署、数据驻留、成本和延迟仍会是选择开放模型的重要理由，但前沿风险治理不会简单等同于限制开放权重。
  6. 信任是采用的基础设施。 文章明确将强安全保障视为广泛采用和美国长期领导力所需的基础设施，而非创新的让步。这对企业级 AI 落地尤其重要：合规、透明和可验证性会直接影响采购与部署决策。

我的技术点评

这篇文章最值得注意的，不是 OpenAI 又列出了一组