事件概述

2026 年 9 月 23 日，OpenAI CEO Sam Altman 在联合国安理会就人工智能发表讲话。根据 OpenAI News 发布的讲话记录，Altman 讨论了 AI 扩大机会的潜力、让强大系统保持人类控制的重要性，以及在国际层面开展 AI 安全合作的必要性。

讲话的核心判断是：AI 可能走向两种未来——更像一场创造力与发现的新文艺复兴，或更像一场充满动荡与失序的新工业革命。Altman 表示，当前模型快速进展让时间线显得更加压缩，好处更具体，但风险和代价也更紧迫。他同时提到，自己大体同意 Bengio 教授的观点，但把风险归纳为两种，而非三种。原文未说明 Bengio 所提三种风险的具体内容。

关键技术点

1. 递归自我改进带来的加速风险

Altman 特别提到，当 AI 系统能够改进自身以及未来版本时，即所谓的“递归自我改进”（recursive self-improvement），建设 AI 的过程会变得更加自动化，AI 进展可能迅速加速。他认为这一时刻需要“极度谨慎”。

2. 两种必须避免的失败路径

第一，人类可能失去对未来的控制。风险在于 AI 进展太快，人们无法跟进正在发生什么，也无法在需要时介入。Altman 表示，行业不能因为收益太大、感觉太重要就接受过多技术风险；也不能因为竞争速度而做出草率决定。他称 OpenAI 过去曾单方面放缓，未来也会这样做，并且不应训练那些无法对对齐、可监控性和安全保证作出极强论证的模型。

第二，权力可能过度集中到少数人手中。Altman 认为，没有任何一个人、公司或国家应该能够用最强大的 AI 模型把自己的世界观强加给其他人；不能因为某个公司或国家相信自己才值得被信任，就以此合理化几乎任何行为。

3. 三个原则

Altman 提出 OpenAI 处理这些问题时的三个原则：

  • 随着 AI 能力增强，人必须保持在 AI 决策的中心。对齐不是抽象研究问题，而是确保系统可靠地处于人类控制之下、反映人类价值，并帮助人们指导下一阶段发展。人类判断和人类价值不应被自动化。
  • 科学进步与经济增长必须“由人、为人”。AI 应帮助研究者发现、医生治疗、教师教学、创业者创业、社区解决问题。
  • 技术必须赋能个体。Altman 称 OpenAI 可能是这项技术的建设者之一，但不是这个故事的主角，其角色是赋能世界各地的人。

4. 数学能力进展的时间线

Altman 用数学能力举例说明模型进展：三年前的夏天，模型还只擅长小学数学；两年前的夏天，在高中数学竞赛中表现不错；去年夏天，在最负盛名的国际数学竞赛中达到金牌水平；而就在几周前，OpenAI 的一个模型解决了千禧年大奖难题之一——Navier-Stokes 方程。原文称这些方程用于飞机设计、天气预报和血流研究。需要说明的是，原文未提供该数学成果的论文、验证过程或同行评审细节。

5. 治理与民主过程

Altman 强调，公司不应替代民主过程。如果 AI 要民主化，最重要的决定不能仅由旧金山的实验室做出。原文在此处截断，后续内容未说明。

对数据科学或 AI Agent 落地的意义

这次讲话虽然没有发布具体产品或技术论文，但对数据科学和 AI Agent 落地有几个直接信号。

第一，对齐、可监控性和可中断性正在从研究议题变成工程前置条件。Altman 明确说不应训练无法作出安全保证的模型。对 Agent 系统而言，这意味着自主性越强，越需要权限最小化、行为日志、人工接管点和可回滚机制。

第二，递归自我改进与自动化 AI 研发循环值得警惕。如果 Agent 被用于自动改进模型、自动生成训练数据、自动调参和自动评估，迭代速度会显著加快。数据科学团队在设计这类闭环时，需要设置评估闸门、异常熔断和外部审计，而不是只追求自动迭代效率。

第三，**能力跃迁的节奏会影响 Agent 产品设计