Athanor：开放智能体系统无人指导就追平官方 Instruct 模型

一个由四个 AI 智能体组成的团队，在一个原始基础语言模型上自主完成了整条后训练研究流水线，产出的结果与该模型官方发布的 instruct 版本质量相当 —— 没有任何人类研究者指挥过哪怕一次实验。描述 Athanor 的论文于 2026 年 10 月 17 日发表在 arXiv 上，记录了作者所称的「智能体原生」的开放式自主后训练系统，其基准结果代表着「让 AI 研发本身自动化」这一持续努力中跨过了一道有意义的门槛。

这一进展的意义不只在于做到了什么，还在于它揭示了怎么做到的。此前关于自主后训练的工作 —— 最著名的是 PostTrainBench（ICML 2026） —— 确立了单个资源受限的 AI 智能体可以大幅改进基础模型，但始终明显达不到专业发布的 instruct 质量。Athanor 补上了这段剩余差距，而看起来最关键的结构性差异并不只是更多算力：而是多智能体协作，具体说是智能体之间共享发现的训练技巧、并跨节点合并各自训练出的模型权重的能力。

Athanor 系统如何设计以防止评测作弊

构建任何自主后训练系统的挑战在于，确保进展是真实的，而不是针对智能体能看到的评测去优化的产物。Athanor 通过五项核心服务来界定智能体能访问什么、不能访问什么。

冻结的评测服务为智能体提供一个稳定的优化目标 —— 一套 6 任务的开发基准 —— 同时让另一套留出评测在整个训练期间对它们不可见。智能体可以在开发集上检查进度，但留出集只用于评估最终结果，由此可信地衡量改进是否泛化。这与学术界测试集隔离的原则相同，只是应用到了一场自主研究活动的层面。

受管理的 GPU 作业队列把四个 Claude Opus 5.5 智能体各自分配到自己的 8 GPU 节点，让每个智能体都有资源独立运行真实的训练实验。去污染的数据服务确保智能体从公开数据集取数，而不会无意中混入与评测相近的材料。一份持久的研究记录充当共享留言板：智能体发布自己的发现，其他智能体可以阅读并在此基础上继续。跨智能体协作正是通过这一机制发生的 —— 不是通过直接通信，而是通过一份结构化的共享研究日志。

延伸阅读：Jack Clark 把自我改进预测提前到 2027：AI 研究创造力条件正在瓦解

智能体在无人告知下发现的方法

在 104 小时的自主运行中，智能体没有收到任何研究指引。它们自己发现了训练方法论。

这场活动涉及四大类技术，每一类都由智能体自行识别，而非事先指定。第一，智能体用公开推理数据集做了监督微调 —— 这是标准的后训练步骤，但智能体必须自己选择、配置和验证。第二，一个智能体识别并实现了对强化学习 rollout 过程的一项修改；论文把它描述为智能体发现的对 RL 训练循环的调整，而不是已知的基线配置。第三，智能体跨各自的节点合并了模型检查点 —— 这种技术称为模型合并或权重平均，通过把多样的训练轨迹合成一套权重来改善泛化。第四，智能体进行了多轮自蒸馏，用自己的输出生成新的训练数据并在其上微调，进一步打磨模型。

RL 修改和跨智能体权重合并尤其值得注意，因为两者都要求智能体超越标准的 SFT 配方。权重合并更明确地需要多智能体系统内的协调：智能体必须意识到各自单独训练的检查点可以有效地组合，这正是 Athanor 留言板架构旨在促成的那种实验洞见。

基准数字到底意味着什么

论文报告了两个不同评测设置下的结果，应分开解读。

在六任务开发套件 —— 智能体在整个活动中可见并可针对优化的评测 —— 上，Qwen3-4B-Base 起点是 15.9。Athanor 的智能体在 104 小时里把这个数字推到 67.3。官方的 Qwen3-4B-Instruct-2507，即阿里对同一基础模型做的专业后训练版本，在同一套件上得 66.5。

智能体在训练期间无法访问的留出评测套件，是更可信的信号。这里 Qwen3-4B-Base 起点是 9.2。Athanor 的结果达到 48.2。官方 instruct 模型得 47.9。

这些数字是论文自报的，尚未被独立复现 —— 预印本在本文写作前 14 小时才出现。说法的方向和幅度是清楚的：无论在可见评测还是留出评测上，Athanor 的智能体都产出了一个实际上与官方 instruct 版本持平或略高的模型。留出结果是更难作弊的数字，因此证据分量更重。

为什么这超出了此前单个智能体能做到的

PostTrainBench 确立了受限条件下自主后训练的基线：一个智能体、一张英伟达 H100、十小时。该基准的最佳结果在任务套件上约为 21% 到 23%，而官方 instruct 模型为 51.1%。PostTrainBench 的作者把这定性为一段显著的剩余差距 —— 智能体可以大幅改进基础模型，却无法走完到专业后训练质量的全部距离。

Athanor 的智能体在 32 张 GPU 上运行了十倍以上的时间，但资源差异本身并不能完全解释结果。文献中每智能体算力相当或更多的单智能体方法并没有稳定地达到 instruct 质量。跨智能体权重合并和共享发现日志看起来才是起作用的结构性增量：Athanor 中的智能体能以单智能体系统无法复制的方式在彼此的实验发现上继续构建。多智能体架构实现了一种单智能体系统在结构上无法企及的探索性分工。

亚马逊的 A-Evolve-Training 系统于 2026 年 6 月发表，在一个 300 亿参数的 Nemotron 模型上展示了持续数周的更大规模自主后训练。那项工作表明自主后训练可以在更大模型规模和更长周期上运作；Athanor 的贡献在于，在一个刻画充分、比较目标明确的公开基准上，展示了完全的质量闭合 —— 追平而非仅仅逼近官方 instruct 的表现。

延伸阅读：Hinton、Bengio 论文：AI 一年进展或压成五周

系统仍有哪些开放问题

这一领域的任何结果在独立复现之前都不应被视为定论，Athanor 的作者也谨慎地把它定位为研究系统而非产品。有几项局限值得关注。

Athanor 的结果是在一个 40 亿参数模型上报告的。同样的多智能体架构能否在更大模型上 —— 那里训练成本高得多、训练动力学也不同 —— 产生相当的闭合，尚未证明。32 GPU、104 小时的活动代表着有分量但不极端的算力；经济上的问题是，同样的方法能否高效扩展到更大的基础模型，而不需要比人类监督的后训练按比例更多的 GPU 小时。

目标模型 Qwen3-4B-Base 是一个具体且刻画充分的起点。智能体事先就知道要达到的质量水平，因为官方 instruct 模型的基准分数是现成的。在真实的 AI 研发场景中，目标并不总是定义得这么清楚。Athanor 式的系统能否设定自己有意义的优化目标 —— 而不是朝一个已知的公开基准努力 —— 是另一个更难的问题。

Athanor 结果对 AI 研发自动化时间表的提示

自主后训练问题的意义超出其直接的技术范围，因为它是一个更大问题的代理：AI 系统能在无人指导的情况下完成多少 AI 研究工作流？后训练是一个有能力的基础模型变成有用的已部署模型的重要环节。如果智能体现在能完全闭合从基础到 instruct 的差距 —— 发现方法、运行实验、合并结果、评估进度 —— 那么 AI 开发流水线中相当一部分已经进入了自动化领域。

Hinton–Bengio 对自动化 AI 研发的论述表明，AI 系统自己做研究可能显著压缩进展时间表。Athanor 是这个方向上的一个实证数据点，处在一个受限且具体的设定中。曾把差距闭合定性为未来里程碑的 PostTrainBench 时间表需要更新：四个智能体、32 张 GPU、104 小时，在 2026 年 10 月于一个 40 亿参数目标上做到了。下一个有意义的里程碑是同样的方法在更大模型规模上是否成立，以及独立复现能否确认论文报告的留出基准持平。