一、事件概述

2026 年 9 月 13 日，资深系统工程师 Bryan Cantrill 在其个人博客 The Observation Deck 发表长文《The contagion of fear》（恐惧的传染）。这篇文章在 Hacker News 首页获得 103 分、73 条评论，讨论热度不低。

文章并非技术论文，也不是产品发布，而是一篇立场鲜明的技术评论/观点文章。它的写作契机是：本周，Anthropic 前员工 Jacob Coxon 声称，并且 Anthropic Alignment Science 负责人 Evan Hubinger 表示认同——AI 在”未来十年内杀死全人类”的概率”>10%”。

Cantrill 的核心反驳是：这类主张缺乏与自身严重性相称的证据，而它之所以能迅速扩散，靠的不是论证，而是恐惧本身的传染性。

需要说明的是，原文未说明 Coxon 与 Hubinger 论述的完整上下文、具体论证链条或所在平台，也未给出任何量化模型或实验数据。文中提及的两位当事人的身份描述（”ex-Anthropic employee””Anthropic Alignment Science lead”）即为原文所给的全部信息。

二、文章的关键论点

1. 一个三十年前的”自白”作为隐喻

文章的开头是一段私人往事。作者大学一年级时，已经认定计算机科学是自己的志业，某天深夜在计算机实验室里，和几个低年级同学一起嘲讽大众缺乏技术理解力——作者称之为”年轻与早慧所能召唤出的那种傲慢”。在这个氛围里，他们想出了一个坏主意：跑到隔壁的公共机房，告诉那里正在写论文的文科生”计算机病毒正在你们的机器上传播”。

他们真的去做了。结果是混乱：学生弹出软盘、关机、拔出已经断电机器的线缆、尖叫、跑出机房。他们想解释这是”恶作剧”，但已经收不回来——恐惧一旦扎根，就无法根除。正值期末考试周，关机的学生丢失了工作成果。第二天，他们被叫到设施主管办公室，被要求各写两封道歉信，一封寄给被伤害的人，一封留在主管抽屉里，并被明确警告：再犯就换一所大学读。四年后作者毕业时，主管把那封信还给了他。

作者用这个故事说明一个他自己当年没有理解的道理：公众不可能理解所有技术的内幕——技术太广、太深、又是所有人生活的核心，我们必须在某个层面上信任领域专家。而当领域专家播撒恐惧时，扎根的是恐惧，它比随后到来的任何证据都传播得更快。作者引用 Jonathan Swift 三百多年前的话：”Falsehood flies, and the truth comes limping after it.”（谎言疾飞，真相跛行。）

2. 恐惧作为”向量”，而非”索引病例”

作者指出，Coxon 更像是一个传播”向量”（vector），而不是”索引病例”（index case）：灭绝风险的恐惧早已广泛存在，Coxon 本人很可能也是从别人那里听来的。可怕之处在于，恐惧一旦扩散，被吓到的专家数量本身就会变成一种”证据”，反对的声音被”显而易见的一致意见”淹没。

作者还点出一个尖锐的观察：Coxon 不是关键基础设施专家，不是生物武器专家，更不是灭绝问题专家；这位 27 岁的年轻人”意外地”成为专家的领域，是恐惧的传染。原文提到 Coxon 举出的例子是”hacking critical infrastructure”（入侵关键基础设施）和”extinction-level bioweapons”（灭绝级生物武器），但没有进一步的展开说明。

3. 从”造计算机”的角度进行反驳

作者明确表示，他只从自己狭窄的专业领域——造计算机——出发提出反驳，并引用了自己在 2023 年 Monktoberfest 的演讲《Intelligence is not Enough》：

  • 工程行为不是纯粹的智能行为。 工程不仅需要人的品格层面，还需要人在物理世界中的行动与推理。
  • 恐惧叙事常常用一句”机器人会做这些”轻巧带过，但这忽视了物理现实：机器人今天做不到这些，而且看不出会在与这些灭绝恐惧相称的时间尺度上做到。
  • 数字系统在物理世界中拥有的能动性，是人类允许的：AI 执行的是那些按照人类问责与控制原则工程化构建的物理系统。智能并不能让一个系统豁免于物理世界的现实。

4. 举证责任在主张者一方

作者引用 Carl Sagan 的名言：非凡的主张需要非凡的证据（extraordinary claims require extraordinary evidence）。Coxon 及其同类的主张是一个技术专家所能提出的最非凡的主张，因此必须要求与之相称的证据。

他同时承认：我们不应指望公众理解 LLM、关键基础设施、生物武器、灭绝生物学——这个负担必须落在提出主张的人身上。领域专家因为其专业身份，隐性地持有公众的信任，这种信任不能被滥用；提出主张应当审慎，在拉响警报时尤其如此。

三、对数据科学与 AI Agent 落地的意义

这篇文章本身不涉及任何模型架构、训练方法或工程实现，但它触及了 AI 落地过程中一个真实的组织性问题：风险话语如何影响技术决策。

  • 对 AI Agent 的实际部署而言，文章提出的”物理世界约束”是一把可以用的尺子。作者的观点是：Agent 的能力边界受制于它被允许接入的物理系统，以及这些系统上是否保留人类问责与控制机制。这是评估一个 Agent 系统实际风险面时更可操作的角度，而不是抽象的存在性风险外推。原文未说明作者对具体 Agent 架构或权限设计的进一步建议。
  • 对数据科学团队而言，”恐惧压倒证据”的机制提醒我们：当行业内的风险共识主要由专家身份背书而非可复现证据支撑时，团队在做技术选型、合规判断和对外沟通时，很容易把情绪化的共识误当成事实基础。作者的建议是回到举证责任——要求与主张严重性相称的证据。
  • 对 AI 安全研究者而言，文章并不否认 AI 存在风险。作者明确反讽地承认”AI 可能杀死数千、数百万甚至数十亿人”这类主张本身就足够惊人了，但他强调：主张的强度必须匹配证据的强度。这一点对任何做风险评估与不确定性量化的人来说都是基本纪律。

四、我的技术点评

第一，需要给这篇文章定性：它是论战性评论，不是研究。它没有提出可检验的假设，没有数据，也没有模型。把它当作”AI 风险被高估”这一立场的代表性文本读是合适的；把它当作证据本身来引用，则是不合适的——这一点对双方都成立。

第二，作者最有力的部分不是”机器人做不到”，而是举证责任的分配。Coxon 与 Hubinger 提出的是”十年内 >10% 概率灭绝全人类”这样的量化主张。任何量化主张都要面对量化主张该有的问题：模型是什么？先验从哪来？如何校准？原文未说明两位当事人是否给出了这些，而作者正是在指出这种缺失。从数据科学的角度看，”给出一个百分比”和”给出一个可被检验、可被更新的概率模型”之间存在巨大差距，前者极易被误读为后者。

第三，作者的”恐惧传染”框架有解释力，但也需要对称使用。如果恐惧会传染，那么对恐惧的驳斥同样会传染，同样可能让从业者低估真实存在的、渐进式的危害（比如 Agent 被滥用、自动化带来的责任真空、模型被用于欺诈与骚扰等）。作者在文中并未讨论这些”非灭绝级”风险的严重性——原文未说明他对这类风险持何种态度。一个成熟的立场应当能同时容纳”灭绝论据不足”和”具体危害论据充分”这两件事。

第四，那个三十年前的机房故事之所以值得一读，是因为它把问题从”AI 会不会杀死我们”转成了”技术专家应该如何对待公众的信任“。这是这篇文章真正的主题，也是它对工程共同体最有价值的提醒：作者当年 18 岁时的错误，是假设别人应该理解他知道的一切；而今天某些专家的错误，是假设别人应该相信他说的一切。两者都是滥用了信任，方向相反而已。

五、原文链接