新研究给 AI 智能体一个有理有据的公式:何时该主动索取上下文
OQA 基准揭示:当追问要消耗 token 时,七款前沿模型离最优解还有多远
每当一个 AI 智能体遇到一项描述不充分的任务——用户漏掉了某个约束、文档缺了一个关键变量——它都要面对一个目前尚无广泛部署的系统能解决好的抉择:是按最可能的猜测直接往下做,还是花 token 去追问一句、发起一次检索、或调用一个工具?加州大学戴维斯分校与慕尼黑工业大学的研究者在一篇发表于 arXiv cs.AI 每日新投稿列表的论文中,给出了第一个严谨的数学答案:只有当任务相关不确定性的期望降幅超过为此付出的 token 成本时,才去获取更多上下文。
这个名为「最优提问」(Optimal Question Asking, OQA)的框架,用主动推断(active inference)——一个源自计算神经科学的概率框架——把上述权衡形式化,并统一适用于澄清式提问、RAG 检索调用、工具调用和提示词优化试验。为检验现有系统与理想解的差距,研究者基于「二十个问题」游戏构建了一个受控基准,让七款前沿模型——GPT-5、GPT-4.1、Gemini 2.5 Pro、Gemini 2.0 Flash、Claude Sonnet 4.5、Claude Haiku 4.5 和 Grok 4——与一个通过动态规划精确求解的最优解(oracle)对照。七款模型全部表现出可测量的规划差距。
智能体的上下文瓶颈,本质是一场 token 成本危机
这篇论文出现的时机并非偶然。智能体式 AI 的 token 成本已成为企业部署中最紧迫的运营问题之一。一个执行多步任务的智能体,在每一步都会把累积的上下文——系统提示、历史记录、检索到的文档、工具输出——重新发给模型。跑到循环的第 20 步时,同一段系统提示已经被付费约 20 次。在 AI 采用度最高的那批企业中,Ramp 的企业支出数据显示,token 消耗量从 2025 年 1 月到 2026 年 4 月增长了 1001%。
在这场成本爆炸中,「是否获取上下文」这个决策既是最关键的,也是最缺乏原则依据的。一个被动的智能体不问就做,风险是输出错误和昂贵的重试循环;一个过于积极的智能体则会为那些答案根本不会改变结果的问题白烧 token。这两种失败模式之间存在一个可量化的最佳区间,而此前没有任何框架用数学精度定义过它。这正是 OQA 这篇论文要填补的空白。
主动推断的形式化:一条双层决策规则
论文用主动推断把上下文获取形式化——这是一种概率理论,其中智能体的行动目标是最小化期望自由能,而不是最大化奖励。在大语言模型的场景下,智能体维护着一个关于潜在任务状态的信念分布:用户的真实意图、缺失的规格约束、表现最好的那条提示词的身份,或检索任务中的目标实体。
这套形式化是双层的。内层模拟每个候选动作执行后智能体的后验会变成什么样:如果它问了问题 A、用户回答「是」,这会把关于隐状态的信念收窄多少?外层则用期望自由能给每个候选动作打分——即任务风险的降低量与信念精度的提升量之和。在确定性观测和均匀偏好先验下,外层目标可以干净地简化为:最大化潜在任务状态与可观测答案之间的互信息,再减去一个 token 成本惩罚项。
这个分解有一个自然的解读。期望信息增益,就是观测到该动作输出后的后验与当前先验之间的期望 KL 散度——也就是一次上下文获取动作平均能把智能体的信念锐化多少。再除以该动作的 token 成本,就得到「单位成本的信息量」,而停止规则也随之坍缩成一句话:按「每 token 能换多少比特」给动作排序,只执行超过阈值 λ 的那些。
由此得到的停止规则,即论文中的命题 3.3,是精确的:当且仅当 I(x; o | a) > λ · c(a) 时,一次上下文获取动作才值得做——其中 I 是互信息,c(a) 是动作 a 的 token 成本,λ 是成本敏感度参数。在所有值得做的动作中,最优的那个使单位成本信息量最大。若没有任何动作越过阈值,智能体就不再索取上下文,直接执行任务。
这与那些「模型觉得不确定就发问」的做法在结构上截然不同。这套框架明确规定了在什么情况下,消解不确定性值得付出额外 token 的代价,并让这个判据变得可审计。
OQA 基准,以及与最优解之间的规划差距
为了给框架提供实证依托,研究者把它实例化为 OQA 基准:一个基于结构化属性表的确定性「二十个问题」游戏。隐藏目标从一个有限候选集中均匀抽取,智能体每轮询问一个属性,答案通过查表得到、没有噪声,因此后验是精确且可计算的。每一轮的不确定性等于剩余一致集合规模的以 2 为底的对数。
二元任务在地点、汽车、动物三个领域使用 25 和 100 个候选项;多路分类任务使用 100、200 和 300 个候选项。对每种配置,作者都用动态规划计算出一个精确的最优解——即使识别出目标所需期望提问数最少的全局最优提问策略——并测量每个模型的「规划差距」:相比最优解平均多用了几个问题。
在作者进行的实验中,七款前沿模型的规划差距全部为正,意味着没有任何受测系统能以最优解的质量原生实现信息高效的上下文获取。这个基准的价值不在于最优解本身可以实际部署——在大候选集上做完整动态规划需要指数级的预计算——而在于它提供了一个精确、与模型无关的测量方式,量化当前大模型的提问行为与最优信息搜寻之间的差距。这样的测量此前在文献中并不存在。
两个部署案例:写作前的澄清,以及提示词选择
论文把主动推断的这套核算方式,扩展到了两个接近真实生产流程的场景。
第一个是提示词自动补全:在生成长文输出之前,模型可以花几轮澄清去询问风格、受众或约束条件,每一轮交互都消耗 token。单位成本信息量的判据可直接套用:只有当最终输出的期望改善超过 token 成本时,才进行一轮澄清。第二个是自动化提示词优化:在给定评测预算下,模型必须把测试次数分配到各个提示词变体上,以找出最好的那个。这里主动推断判据支配的是实验选择——每次评测都应让「每花一个 token 换来的、关于哪条提示词最好的信息」最大化。
这两个案例与 OQA 共享同一套底层结构:一个有限的潜在状态、一个测量模型、一份成本。主动推断的形式化把它们与「二十个问题」的设定统一起来,同时把框架的适用范围扩展到与已部署的智能体系统直接相关的任务上。
OQA 与既有澄清研究的区别在哪
关于大模型澄清提问的文献自 2024 年以来增长很快。Hu 等人的 Uncertainty of Thoughts 框架用信息增益驱动的奖励来选择追问,但没有自由能分解,也没有最优解基线。BED-LLM(2025)把贝叶斯实验设计用于大模型的信息收集;Active Task Disambiguation(2025)以类似方式刻画了任务澄清。CaRT(2025)研究的则是智能体何时该停止收集上下文、开始行动——一个互补的问题。
OQA 有三点是既有工作没有同时具备的:其一,它把所有类型的上下文获取——提问、检索、工具调用、提示词试验——统一到单一的期望自由能判据之下,使它们能在成本调整后的信息量维度上直接互相比较。其二,它通过动态规划给出了精确最优解,从而能够直接测量规划差距,而不只是让模型之间互相比较。其三,它测试了七款当前的前沿模型,让这个框架对那些正在为智能体部署做选型的从业者具有即时的参考价值。
论文还在形式上把该表述与主动推断、期望自由能的文献联系起来,并且重要的是,与双层强化学习建立了联系——附录中给出了结构上的对应与差异。作者谨慎地指出,主动推断并非在范畴上优于强化学习;信息论式的分解是一种设计词汇上的优势,适用于智能体必须在行动前明确选择「购买哪些证据」的场景,而不是在断言最小化自由能在所有环境下都胜过最大化奖励。
这个框架尚未触及的地方
当前工作还受到几项重要约束。OQA 使用的是无噪声、完全可观测的属性表和精确后验——这些条件比真实智能体任务所处的部分信息环境干净得多。贪心的期望信息增益(前沿模型有可能大致做到这一点)并非全局最优;动态规划最优解恰好揭示了这个差距有多大,但它并没有为开放域场景提供一个实际可部署的近似——在那些场景中候选集是开放式的,属性表也并不预先存在。把主动推断的形式化扩展到那种情形,仍是论文并未声称已解决的开放研究问题。
所有基准结果均由论文作者自行运行,尚未经过独立复现;该论文是预印本,还未经同行评审。文中针对特定模型报告的规划差距,在外部复现之前应被视为作者自报结果。
与最优解的差距,指向一个务实的架构变更
最有意义的结论不是哪款前沿模型表现最好,而是七款全都存在正的规划差距。没有任何受测系统把信息高效的上下文获取作为一等决策策略原生实现。模型做出澄清和检索决策的方式是隐式的,依靠在人类文本上训练出的机制,而不是在每一轮做一次显式的「信息增益对比成本」的计算。
这指向一个具体的架构方向:与其指望前沿模型自我调节信息搜寻行为,不如让智能体编排层把 OQA 的停止规则实现为一个独立的控制策略。在每次可能的上下文获取动作触发之前,编排器先评估期望信息增益是否越过 token 成本阈值;若没有,就跳过该动作、直接执行。这一层是与模型无关的——无论底层模型是 GPT-5、Gemini 2.5 Pro 还是某个更小的推理优化系统,同一套期望自由能判据都适用于编排层。
对于大规模运行智能体负载的企业而言,在当前已被报道的用量水平上,启发式澄清策略与有原则的「单位成本信息量」策略之间的差别,可能意味着可观的效率收益。这些基准确立了规划差距是真实且可测量的,而框架的存在正是为了消除它。接下来的事情是工程层面的实现,以及在开放域部署中的验证——而 OQA 的形式化,如今已让这项工作的边界清晰到足以着手。