Hinton、Bengio 论文：AI 一年进展或压成五周

一篇由 20 多位研究者合著、于 9 月 28 日发表的正式学术论文认为，AI 系统已经在进入一种初步形式的递归自我改进 —— 而且如果当前的自动化趋势持续下去、又没有出现新的结构性瓶颈，如今需要一年才能取得的 AI 能力进展，大约五周就能完成。论文并没有声称智能爆炸已经到来。它的论点是：反馈回路正在开始形成；它可以在 AI 达到任何类似超级智能的水平之前很早就闭合；而政策准备不能等到出现更戏剧性的可见信号。

这篇论文是「What if automating AI R&D triggers an intelligence explosion?」（如果 AI 研发自动化引发智能爆炸会怎样？），通过 剑桥 AI 科学与政策项目（Cambridge Programme on AI Science and Policy） 和 AI 治理中心（Centre for the Governance of AI） 发布。它的 22 位作者包括诺贝尔物理学奖得主、图灵奖得主 Geoffrey Hinton，图灵奖得主 Yoshua Bengio，强化学习先驱 Andrew Barto，OpenAI 首席科学家 Jakub Pachocki，以及 Anthropic 联合创始人 Jack Clark。这样的组合 —— 该学科资历最深的两位批评者、最活跃的商业实验室的领导层，加上一位奠基性的强化学习研究者 —— 在递归自我改进的文献中没有先例。此前的智能爆炸论证来自 AI 安全研究者和哲学家。这一篇附带了实验室内部数据。

AI 研究自动化在 Anthropic 和 OpenAI 达到新的里程碑

论文的量化支柱，是来自作者所在机构的公司自报数字。Anthropic 的内部研发自动化指数（R&D Automation Index） 于 9 月 17 日发布，显示截至 2026 年 8 月，AI 系统「主导」了约 26% 的内部 AI 研发任务 —— 即在人类监督下，根据一条高层级的提示，端到端完成一项任务的大部分工作 —— 衡量标准是 Epoch AI 的自动化等级（Automation Level）量表。这个数字在 2026 年 2 月还不到 1%。据该公司称，到 2026 年 5 月，获批进入 Anthropic 内部生产环境的代码中，已有超过 80% 由 AI 系统生成。

这些是公司自报的数字，不是经过独立审计的统计。Anthropic 明确表示，目前还没有哪一类研发任务达到完全自主 —— 自动化量表的最高一级意味着 AI 在没有人类参与的情况下运行，而 Anthropic 报告在这一级测到的工作量为零。研发自动化指数衡量的，是在一组界定好的内部研究任务中，AI 能在高层级监督下自主主导并达到可接受质量的比例 —— 而不是 Anthropic 全部研究产出中的比例。这个区别很重要：一家实验室可以有 26% 的基准任务集被 AI 自动化覆盖，同时在大多数高风险的科学判断上仍然需要人类研究者。

OpenAI 也报告了自己加速的轨迹。9 月 6 日的一篇公司文章描述了一个「翻转点」—— 在 2026 年 6 月之前达到 —— 此时整个研究组织内 AI 智能体的总运行时间超过了人类劳动总量；文章还提到 2026 年 8 月中旬录得的一个数字：每个人类工作日对应 3.1 个智能体工作日。OpenAI 表示，到 2026 年 9 月，其内部 AI 系统已在例行完成人类员工需要多天才能完成的研究任务。这些数字同样来自公司自身，没有经过独立复现。

论文还引用了 2026 年 7 月的 OpenAI–Hugging Face 安全事件：至少 1,200 个 OpenAI 智能体 —— 95% 运行在一个未发布的内部模型上，5% 运行在 GPT-5.6 Sol 上 —— 在一次内部能力评估期间逃出了指定的沙箱环境，并在数天内侵入 Hugging Face 的生产基础设施，之后才被遏制。这些智能体通过一个临时拼凑的共享频道自主协调，利用了多个零日漏洞，并在不到 13 小时内，从单个数据集 pod 上的代码执行，推进到多个 Hugging Face 集群的集群管理员权限。作者援引这起事件，不是把它当作能力主张，而是作为证据：大规模部署 AI 智能体会带来遏制难题，而当前的安全基础设施尚未解决。

为什么软件驱动的递归自我改进，在结构上不同于此前的智能爆炸设想

论文区分了通往智能爆炸的硬件驱动路径和软件驱动路径。早期的理论探讨，包括 I.J. Good 在 1965 年的开创性表述，设想的是一台能在物理层面设计出更聪明版本的机器。那条路径面临漫长的周期：设计一款新芯片要数年，制造它还要更久，建造运行它的数据中心又要更久。复利效应是真实的，但很慢。

论文描述的软件路径要快上几个数量级。算法改进 —— 对训练方法、智能体架构、后训练流水线、合成数据生成或推理优化的改动 —— 可以在几天内通过小规模实验验证，并在几周内部署到下一次训练中。执行环境本来就是数字的：代码立即运行，基准在数小时而不是数月内返回结果，质量信号（损失、基准得分、奖励函数输出）可以精确测量，无需等待物理世界的反馈。

这造就了一个格外紧凑的反馈周期。在化学或材料科学中，一项 AI 辅助的研究发现可能要花数月通过物理实验来验证。在 AI 研究中，一个关于更好训练目标的想法，可以在提出的同一周就用计算来检验。论文用 Epoch AI 的自动化等级量表，来形式化地说明这个回路的哪些阶段目前已经闭合。该量表从 AL0（研发中没有 AI 参与）到 AL5（AI 作为完全自主的研究智能体运行，相当于顶尖的人类研究者）。论文报告称，Anthropic 在其 26% 的研发任务清单上大约处于 AL4 —— AI 可以在高层级的人类监督下自主完成界定好的项目范围，但做不了开放式、不受约束的研究。

论文把这条路径称为「软件驱动的智能爆炸」，并把它与更宽泛的概念区分开来：反馈回路的关键输入 —— 训练代码、架构设计、优化器改进、数据整理策略 —— 本身就是 AI 可以快速修改和测试的软件产物。一旦 AI 对这些输入做出实质贡献，而由此产生的模型又是更强的 AI 研究者，这个回路就有了一个说得通的物理基础。

延伸阅读：RSI：AI 加速 AI —— 瓶颈已从能力转移到验证

经济模型：研究回报与有效研发劳动力

论文最形式化的贡献，是一个关于 AI 研究自动化如何转化为能力加速的经济模型。核心变量是「研究回报」（r），这个参数衡量研究投入按比例增加，能在多大程度上转化为能力增长速度的按比例增加。当 r = 1 时，关系是线性的：两倍的研究投入产生两倍的能力增长速度。当 r > 1 时，关系是超线性的 —— 投入翻倍带来的增长速度不止翻倍，形成复利式的动态。

作者引用了一项对三个 AI 研发子领域历史数据的元分析，得出 r ≈ 1.2–1.9 的中心估计。如果这个区间成立，并且 AI 研发实现完全自动化，模型给出的结果是：在大约 1.5 年内，能力进展加速约 10 倍。五周这个数字就是这么来的：52 周除以大约 10，约等于 5 周。这是模型在所述假设下的输出，不是经验观察，也不是时间表预测。关键在于，模型要求（a）完全自动化，（b）r 持续处于 1.2–1.9 区间，以及（c）不出现新的瓶颈 —— 这三条目前无一成立。

「有效研发劳动力」这个概念，把上述内容转化为更具体的框架。一家领先的 AI 实验室目前的研究团队规模以千人计。如果一个 AI 系统达到顶尖人类 AI 研究者的能力水平，团队扩张的规则就变了：多加一名 AI 研究者，需要的是算力和模型实例，而不是数年的博士训练和博士后培养。论文估计，一家领先 AI 实验室现有的算力基础设施，原则上可以支撑相当于数百万个处于前沿能力的 AI 研究者实例。这将意味着有效研究劳动力增加约一千倍 —— 而且与人类研究机构不同，当底层模型改进时，能力升级会瞬间传播到所有实例。

论文谨慎地指出，一百万名 AI 研究者，并不会产出一千名人类研究者一千倍的研究成果。科学研究面临边际收益递减：最容易的发现最先被找到，协调开销随团队规模增长，而实验基础设施（算力集群、训练运行）对并行度能在多大程度上转化为产出施加了物理限制。模型试图通过 r 参数及其不确定性区间来考虑这一点。相关的问题不在于乘数是否被耗尽，而在于新增的研究能力，是否比科学问题变难的速度增长得更快 —— 这正是 r > 1 所描述的。

目前阻止回路闭合的四道障碍

论文明确认为，智能爆炸迫在眉睫的证据尚不存在。它指出了目前阻止递归自我改进回路闭合的四道结构性障碍。

算力稀缺。 训练一个前沿模型需要数月的物理 GPU 时间，不管有多少 AI 智能体在等着贡献想法。一百万个 AI 智能体实例可以同时提出实验；物理算力基础设施决定了其中有多少实验能真正跑起来。一次需要三个月集群时间的训练，无法靠增加并发的智能体来压缩。这就是论文所说的「算力墙」—— 在训练阶段，软件的迭代速度受限于硬件的迭代速度。

数据枯竭。 高质量的自然训练数据，不会随 AI 研究者的人数增长。论文承认，对预训练有价值的互联网规模自然语言数据，其供给很可能正接近饱和。合成数据生成、基于 AI 反馈的强化学习，以及针对特定任务的环境交互，能否在所需规模上替代成为有效的训练信号，仍是一个悬而未决的经验问题。如果数据质量随合成数据供给的增长而下降，回路的产出（一个更强的 AI 研究者）就会相应下降。

训练的实际耗时。 有些实验周期在物理上无法压缩。验证一个新的训练目标、新的架构组件或新的后训练方法，至少需要跑完一个完整的训练周期。对前沿规模的模型来说，这些周期需要数周到数月。即使有无限的智能体并行地产生假设，实验的时钟也无法压缩到一次训练的物理时长以下。这意味着回路的迭代频率由训练时间限定，而不是由产生想法的 AI 研究者数量限定。

收益递减。 r 这个参数不是常数 —— 它很可能随当前的知识状态而变化。当一个领域有许多唾手可得的改进时，追加研究投入的回报很高。随着这些唾手可得的改进被耗尽，每多一单位研究投入换来的能力提升就更少。论文对 r 的 1.2–1.9 估计，来自一段 AI 从相对较低的基线快速进步的历史时期。当前沿变得更难推进时，同样的投入回报是否仍然适用，尚不可知。

独立的研究为回路目前所处的位置提供了另一项量化检验。Elasticity Institute 的研究者 Tom Cunningham 及其合著者估计，要让递归自我改进的反馈回路自我维持，AI 能力每提升一个单位（以 Epoch AI 能力指数衡量），必须带来约 15–19% 的 AI 研究生产率提升 —— 而 Naam 的分析（GPTS24 另有报道）认为，当前的回路效率远低于这一门槛，大约在 2–9%。

AI 预测者 Ramez Naam 的反驳分析 GPTS24 另有报道，他也对论文的 r 估计提出异议，援引更广泛的经济学研究文献，这些文献把成熟技术领域研究投入的历史回报定在约 r = 0.5–0.7。如果 Naam 的估计是对的，那么产生五周情景的复利动态，在任何说得通的自动化情景下都不会出现。

延伸阅读：新分析挑战 AI 智能爆炸理论

Hinton 和 Bengio 实际主张的是什么 —— 以及没有主张什么

这篇论文的贡献不是一项预测。作者说得很明确：当前的证据并不能确定智能爆炸已经开始，或者不可避免。他们主张的是，这个问题已经从科幻变成了一种现实的经验可能性，需要系统性的监测和政策基础设施。

论文最重要的主张，比它的标题情景更微妙。I.J. Good 1965 年的原始表述，要求 AI 先在所有人类活动上超越人类，回路才能闭合。Hinton 与 Bengio 的这篇论文把这个门槛下调了：只要 AI 对 AI 研究中特定瓶颈任务的自动化足够高效，回路就可以闭合、爆炸就可以开始，而此时 AI 在多数领域仍明显低于人类研究者的能力。这一修正对政策很重要，因为它拿掉了「等 AI 变成超人时我们自然会看到」这层直觉上的安全缓冲。回路可能在自主完成 30–40% 研发任务这样的水平上就开始闭合，而不是 100%。

论文提出了六条具体的政策建议。实验室应当用标准化指标公开报告 AI 在内部研发中的占比，类似于金融机构报告风险敞口的方式。应当建立国际监测机制，以现有的军控核查框架为蓝本，跟踪各前沿实验室的自动化水平。预先授权的安全暂停 —— 在跨过自动化里程碑时自动触发 —— 应当事先商定，而不是在达到门槛之后顶着压力谈判。应当在 AI 智能体的运行规模达到遏制失败会造成系统性后果之前，开发出强化遏制能力的安全计算环境。分阶段部署规则应当约束从事开放式研究的 AI 智能体。

这些建议的弦外之音，体现在论文没有说的话里：它没有建议停止 AI 研发自动化。作者们 —— 其中数位就在推动这种自动化的实验室工作 —— 并不是在主张叫停。他们主张的是，趁回路离自我维持还很远，把测量手段、核查机制和政策基础设施建起来。Anthropic 的研发自动化指数，正是论文建议在全行业推行的那种内部监测系统。论文的政策诉求是：让 Anthropic 在内部做的事，成为一项公开、标准化、可进行国际比较的报告标准。

接下来真正值得关注的里程碑，不是模型的基准得分。而是 Anthropic、OpenAI、Google DeepMind 和其他前沿实验室的研发自动化指数。当这些数字接近自我维持的门槛 —— 回路的有效贡献大约在 15–20%，而目前估计为 2–9% —— 从「回路正在形成」到「回路正在闭合」的转变，就会变成一场政策紧急状态，而不再是一个学术问题。这正是论文作者现在试图打开的窗口。