事件概述

arXiv 上出现了一篇题为《The AI Risk Observatory: What Can We Learn from AI Disclosures in Annual Reports About Societal Resilience?》的论文（arXiv:2610.02281，cs.AI），作者为 Bart Jaworski，2026 年 10 月 1 日提交。

论文的核心问题是：年报这种传统、强制、公开的企业文本，经过 LLM 规模化处理后，能否提供关于”企业如何披露其 AI 应对”的有效信号？ 作者认为社会韧性研究（societal resilience research）依赖于可用、可行动的数据，而年报恰好是一个被长期低估的数据源。

研究规模并不小：作者对 9,821 份年报（来自 1,362 家英国上市公司，时间跨度 2020–2025 年，并包含 2026 年的部分数据）运行了一条可复现的两阶段分类流水线。论文共 22 页（9 页正文加附录）、12 张图、7 张表，并公开了代码与数据（dataset-v1.1，具体链接原文以 “this https URL” 形式给出）。

关键技术点

1. 两阶段分类流水线 + 人工标注验证

方法上，作者采用的是一条可复现的两阶段分类流水线（two-stage classification pipeline）。第一阶段与第二阶段的具体任务划分、所用模型、提示词设计，原文摘要与页面信息未说明，需要查阅论文正文或公开代码。

验证环节是这篇工作值得注意的地方：作者用 474 段人工标注文本（human-annotated passages） 对方法进行了校验，结论是召回率高、标签级一致度中等（high recall and moderate label-level agreement）。这是一个诚实且务实的表述——高召回意味着”该抓的 AI 相关内容基本没漏”，而”标签级一致度中等”则提示分类标签的边界本身存在主观性，这一点在风险类文本上尤其常见。

2. 三类实证发现

论文报告了三组经验规律：

（i）披露比例的快速增长与供应商集中。 2020 到 2025 年间，提及 AI 风险的年报占比从 2.8% 升至 41.2%；同时 AI 采用（adoption）相关披露也从 13.8% 升至 45.2%。此外，被点名的 AI 供应商集中在少数几家主要厂商上，以 Microsoft 为首。

（ii）披露情况在行业与市场板块间分化明显。 论文从关键国家基础设施（Critical National Infrastructure, CNI）行业和市场板块两个维度做了切分：AIM 板块公司的 AI 风险披露率远低于 Main Market 板块；Energy（能源）与 Data Infrastructure（数据基础设施）等行业在 AI 风险披露上落后于其他行业。

（iii）实际伤害（harm）披露近乎缺席。 整个语料库中只有 7 份年报提及了伤害相关内容。

3. 实质性分类（substantiveness classification）

这是我认为全文最有价值的一个设计。作者额外构建了一套”实质性”分类标准，用来评估披露的质量而非仅仅是有无。

结果相当扎眼：2025 年，41.2% 的年报把 AI 列为风险，但只有 4.3% 包含被判定为”实质性”的 AI 风险披露。换句话说，绝大多数 AI 风险披露是”提到了，但没说到点上”。

对数据科学 / AI Agent 落地的意义

第一，LLM 做大规模文档结构化，已经有了可验证的工程范式。 近万份年报、跨六年、可复现流水线，再加上人工标注集做验证——这套组合本质上是”把非结构化企业文本转成结构化数据集”的标准套路。对于任何要做财报、招股书、ESG 报告、监管文件的团队，这篇论文的流程设计（尤其是人工标注验证与召回/一致性双指标报告方式）是可以直接借鉴的模板。

第二，”提到了”和”说清楚了”是两件事。 41.2% 对 4.3% 这个落差，是所有做文本分类的人都需要警惕的问题：如果只做二分类”是否提及 AI 风险”，你得到的是一个几乎无法支撑决策的信号。真正的信息量藏在层级化的、可解释的实质性子标签里。

第三，对 AI Agent 与合规监测场景的直接启示。 如果企业要做 AI 治理看板、供应商风险监控或监管科技产品，年报披露数据可以成为一个低成本、高覆盖的观测信号源——尤其”供应商提及集中在少数大厂”这一发现，意味着可以用年报文本反推企业的 AI 依赖集中度。但同时必须记住论文的结论：这个信号的覆盖度在上升，但深度仍然很浅，把它当成预警雷达可以，当成风险认定的依据则远远不够。

我的技术点评

这篇论文最聪明的地方，是把”社会韧性”这样一个偏宏观、难以量化的议题，落到了一个极其具体、可自动化处理的锚点上——上市公司年报。年报有法定披露义务、有固定发布节奏、有跨年可比性，几乎是为纵向观测量身定做的数据源。

但它的价值也恰恰受限于这个锚点。有几点值得读者保持清醒：

  • 地域与市场结构强绑定。 样本是英国上市公司，且论文明确指出 AIM 与 Main Market 之间存在披露率鸿沟。这种差异究竟源于企业实际风险敞口不同，还是源于披露义务与合规压力的差异，论文摘要层面未给出解释。把结论外推到其他司法辖区需要非常谨慎。
  • 验证集规模与”中等标签一致度”。 474 段标注文本相对于 9,821 份年报来说，验证密度不算高；”moderate label-level agreement” 也意味着 4.3% 这个关键数字本身带有不可忽略的标注噪声。当然，作者把这一局限明确写出来，本身就是负责任的做法。
  • “实质性”的定义是整个研究的命门。 4.3% 与 41.2% 的对比是全篇最吸睛的数字，但它的说服力完全取决于实质性的判定标准是否合理、是否稳定、是否能被第三方复现。论文公开了代码和数据（dataset-v1.1），这是好事——真正有价值的后续工作，应该是有人拿这套流水线去跑别的语料库，看结论是否稳得住。
  • 伤害披露只有 7 份，这个”近乎为零”本身就是发现。 它可能说明企业确实几乎不披露 AI 造成的实际伤害，也可能说明年报这种体裁天然不适合承载此类信息。这两种解释的治理含义完全不同，而单靠年报数据无法区分。

总体判断：这是一篇方法上扎实、结论上克制、数据上开放的研究。它的最大贡献未必是那三个实证发现，而是示范了一条”LLM 规模化处理公开企业文本 → 形成可复现的社会观测指标”的技术路径。对于做 AI 治理、合规科技和企业文本挖掘的团队，这类工作值得跟进；对于期待从中得到直接可用的风险评分的人，则需要降低预期。

原文链接