LLM 的「思考惯性」：不思考提示挡不住可见推理

来自斯坦福大学、牛津大学和清华大学的研究团队发表了实证证据，证明一种他们称为「思考惯性」的现象：经过扩展推理训练的大语言模型，即使被明确指示跳过推理步骤，仍会继续生成可见的推理步骤。这些发现于 10 月 13 日以arXiv 预印本形式发布，挑战了工程师部署具备推理能力的 AI 模型时内嵌的一个核心假设 —— 告诉模型不要思考，是让它停止思考的可靠办法。

这项研究对用「不思考」模式控制推理成本的团队、依赖推理模型延迟保证的产品团队，以及把可见推理轨迹当作模型实际行为代理指标的对齐研究者，都有直接影响。

推理模型有一个压制问题

过去两年，推理模型 —— 被设计成在生成最终答案之前先产出扩展的、逐步的内部独白的系统 —— 已从研究上的新奇事物变成生产级产品。DeepSeek V4、阿里的 Qwen3 系列、OpenAI 的 o 系列，以及 Anthropic 带扩展思考的 Claude，都会在给出回复之前生成专门的「思考」输出。这些思考 token 按与常规输出 token 相同的费率计费，往往让一次推理模型 API 调用比标准调用贵好几倍。

为了管理这个成本，每家主要提供商现在都暴露了一个压制控制项。DeepSeek V4 提供 Non-think、Think High 和 Think Max 三档；Qwen3 暴露一个 enable_thinking 参数；OpenAI 提供推理强度等级；Anthropic 的扩展思考 API 接受一个 budget_tokens 参数。普遍的假设是，把模型切换到非思考模式就实际上关掉了推理流水线 —— 省 token、降延迟、简化行为。

斯坦福—牛津—清华的这篇论文直接检验了这个假设。在六个广泛使用的开源和商业模型 —— 包括 DeepSeek-V4-Flash 和 Qwen3-235B-A22B —— 以及六种不同的提示干预策略上，研究者找不到一种提示级控制能可靠地消除他们在模型输出中测得的「可见显式推理」。即使在测试过的最严格条件 —— 要求只给答案、不带任何中间文本的提示干预 —— 下，这种行为模式依然存在。完整细节和基准材料见论文的项目配套网站。

研究如何测量「不思考」到底意味着什么

此前这一领域的研究依赖两个代理指标：模型的思考模式是否被关闭，或者输出是否很短。论文认为两者都不可靠。关闭的思考模式仍可能在最终答案之前吐出类似推理的文本。短输出也可能包含浓缩的推理。两个指标都无法告诉你模型到底有没有在产出可见推理。

研究团队转而把每条模型回复规范化为两个部分：答案前轨迹 —— 最终回复之前生成的一切 —— 和最终答案本身。然后用三个指标刻画残留思考的程度：

空思考比率（ETR）衡量严格的只答不想合规度：有多大比例的回复答案前轨迹完全为空。ETR 为 1.0 意味着模型从不生成任何答案前文本；实践中，即便在最严格的提示条件下，ETR 也低于 1.0。

问题—答案前相关度（QRel.）是一个感知指令的相似度分数，衡量答案前文本与问题的关联有多紧密。研究者提醒，这个指标检测的是相关性而非推理 —— 非空的答案前文本不自动等于推理，论文也不把它当作推理。该指标捕捉的是文本是否实质上与问题相关。

显式推理率（EIR）用一个语言模型裁判 —— 稳健性测试中用的是 Claude Opus 4.8，并辅以 600 条输出的人工验证 —— 来判定答案前轨迹是否包含可见的、显式的逐步推理。EIR 是思考惯性最清晰的直接度量。

在三个指标上，研究者都发现一致的梯度：布尔题（是/否）的只答合规度最高、可见推理最少。多选题居中。开放题的思考惯性最高、答案前相关度最高、EIR 也最高。从原生的关闭思考模式（M2）换到严格的只答提示（M5），能在各题型上降低但不能消除 EIR。

训练为何制造出指令无法覆盖的惯性

这种模式不是随机的。在推理数据集上大量训练的模型，会在问题输入与推理式输出之间形成强烈的习得关联。训练期间奖励详细、逐步作答的强化学习过程，塑造出一种在推理时依然存在的生成先验 —— 模型的下一 token 预测机制实际上学会了在给出最终答案之前先去推理，而一条提示指令是在与这个先验竞争，而不是取代它。

要从结构上理解这为何发生，不妨看看现代推理模型是怎么造出来的。后训练 —— 在大型文本语料上预训练之后的阶段 —— 通常采用某种形式的可验证奖励强化学习（RLVR）或基于人类反馈的强化学习（RLHF）。在以推理为重点的后训练中，模型会因为包含详细、逐步推理并导向正确答案的回复而获得正向奖励信号。经过数千个训练步，模型学到问答情境是「先产出推理文本再给最终答案」的强信号。这个先验不存储在任何单个权重里，而是分布在模型整个习得的参数空间中。像「不要解释你的推理」这样的提示指令作用于上下文窗口的层面，而不是权重分布的层面。在每一个自回归生成步上，训练出的先验与提示指令都在朝相反方向拉扯。

这在结构上不同于比方说让模型换一种语言或避开某些词。那些情况下，指令覆盖的是表层的风格模式。思考惯性描述的是指令与训练目标本身塑造的深层行为偏好相冲突的情形。模型可以在不同程度上遵从指令，但训练出的推理倾向在文本生成层面并不会消失。

答案空间的梯度从另一个角度揭示了这一机制的逻辑。在布尔任务中，最优答案在结构上受限：模型可以不带推理轨迹地给出「是」或「否」并仍然准确，因为答案不依赖输出中可见的证据链。当输出空间被最大程度约束时，偏向推理的训练先验没有空间施展。相比之下，在开放式生成中，模型面对的是真实的计算情境：产出高质量答案往往需要走过中间推理步骤。在开放式场景下强制压制时，准确率会下降。这种惯性并非不理性 —— 从某种意义上说，模型是对的：在开放任务中压制推理是有代价的。这种行为先验是由一个本身就正确的训练信号塑造的：推理有助于复杂的生成任务。指令遵从与性能处于张力之中，而模型的生成过程反映的正是这种张力，而不是干脆地按指令解决它。

让压制变复杂的准确率—合规度权衡

研究中更有分量的发现之一是，思考惯性不纯粹是合规失败 —— 它部分是能力信号。在布尔和多选任务上，即便模型遵从严格的只答指令，准确率仍保持稳定。但在开放任务上，强制压制会带来可测量的准确率下降。这意味着工程团队面对的是一个真实的权衡，而不只是可靠性问题：对开放式工作负载套用最严格的不思考控制，降低的不只是输出长度，还有输出质量。

研究者提供了一个部分缓解办法：把开放式提示改写为包含候选答案 —— 实际上把生成任务转成选择任务 —— 能显著提高 ETR 并减小准确率—合规度权衡。拿到选项列表的模型可以不必出声推理就做出选择，接近多选基准上的合规水平。这对结构化用例是实用的变通办法，但需要有意的提示工程，而且不适用于真正需要开放式生成的工作负载。

六种干预覆盖了什么 —— 以及没有一种修好了什么

论文在六个模型上测试了六种提示干预设置，从原生模式开关（M2，使用模型内置的关闭思考控制，例如 DeepSeek 的 /think 开关或 Qwen3 的 enable_thinking: false 参数）到严格的只答提示（M5，明确指示模型只产出最终答案、前面不带任何文本）。论文在公开材料中没有逐一点名全部六种干预，但 M2 到 M5 这条轴代表了从最自然、最轻量的压制（依赖模型内置控制）到最激进的提示式做法的一个光谱。

M5 在所有任务类型上降低但不能消除 EIR 这一发现，对从业者如何构建系统有直接影响。现成的最严格提示干预 —— 明确禁止答案前文本的指令 —— 并不是一个能完全强制执行压制的上限。在开放式一端，M2 与 M5 之间的差距大到足以让人从默认模式控制换成明确的提示指令，但 M5 与零惯性之间的差距同样大到足以说明，对开放式生成而言两种做法都不能被当作可靠的压制机制。

论文提出的缓解办法 —— 注入候选答案 —— 之所以有效，是因为它绕开了压制问题而不是解决它。把开放式生成任务转成多选式选择任务，改变了答案空间，也就改变了模型训练先验的动力学。模型不再需要出声推理来产出高质量回复；它只需要匹配所给候选之一。对允许这么做的用例，这是正当的工程变通，但它需要可观的提示工程投入，而且无法用于那些输出开放恰恰是重点的任务。

生产基础设施早已撞上这个问题

思考惯性论文描述的行为，生产工程师已经独立遇到过。SGLang 推理框架 GitHub 跟踪器上的一份现行 bug 报告记录了一个 Qwen3 模型在 thinking_budget 设为 200 的回复上生成了约 1400 个推理 token。模型的 content 字段返回 null —— 没有答案 —— 而推理轨迹吃掉了整个 token 预算。多个工程团队报告了同样的行为，--enable-strict-thinking 不起作用，而且在启用推测解码时，草稿模型会在主模型能介入之前就生成推理 token。

SGLang 这个 issue 与论文测量的是不同的现象 —— 它是预算执行失败，而不是行为偏好 —— 但它展示了思考惯性所处的实际环境。在成本敏感的流水线里部署 Qwen3 或 DeepSeek V4 的企业要担心多个失效点：论文记录的模型层面行为偏好，以及独立团队在生产中发现的基础设施层面执行缺口。

一篇2026 年的 TowardsAI 分析把这一更广泛的模式描述为「隐藏的运维问题」—— 为高吞吐分类任务配置推理模型却不审计思考 token 是否真被压制的团队，将面临系统性错误的成本预测。在规模化场景下，数百万次 API 调用中哪怕是不高比例的非空答案前轨迹，也代表着可观的未计入开支。

延伸阅读：DeepSeek V4.1 Flash：CED 架构压低 KV 缓存，智能体反超 V4 Pro

思考轨迹作为对齐信号：一个更深的问题

论文明确把发现限定在可见行为 —— 出现在模型答案前轨迹中的文本 —— 而不是内部激活状态或隐藏计算。这个范围边界很重要，但它指向了一个研究没有解决的更深层问题。

对齐研究者和 AI 安全从业者越来越多地把可见推理轨迹当作观察模型认知的窗口。直觉很直接：如果模型展示了它的工作过程，这个过程就可以被审计，看有没有错误、被操纵的推理或意料之外的推断模式。主要 AI 实验室的安全团队已把思维链检查纳入评测流水线。一些可解释性研究试图理解推理轨迹是否准确反映模型的底层计算，或者轨迹与最终答案是否会脱钩 —— 这种现象有时被称为「不忠实」的思维链。

思考惯性论文揭示了这个假设在另一个方向上是错的 —— 被告知不要思考的模型在许多条件下仍会生成类似推理的文本。但它同时也揭示，QRel. 和 EIR 指标依赖一个 LLM 裁判来判定什么算「推理」，而非空的答案前文本并不自动等于推理。论文特别提醒不要把 QRel. 当作推理检测器；它衡量的是相关性。与问题相关的非空答案前文本，不等于显式的逐步推断。如果轨迹可靠性的正向方向不确定 —— 可见轨迹是模型推理的可靠指标吗？—— 那么反向方向同样不确定：轨迹存在不能证明模型以轨迹所示的方式推理了，轨迹缺失也不能证明在内部计算层面没有发生推理。

这不是论文明确提出的主张，也是研究范围的一个实质性局限。研究者测量的是输出中出现了什么，而不是模型内部处理中发生了什么。但意义在于，论文让轨迹可靠性假设变成了一个可观察的生产工程问题，而不只是理论上的顾虑。一个被告知不要思考却生成了推理轨迹的模型引出了这样的问题：当它应该生成一条准确代表其推理的轨迹时，它什么时候会做不到？

此前有几篇论文考察过相关的动态。那项加州大学伯克利分校的研究发现，推理模型可以在不用任何思考 token 的情况下，用一个把思考块填成空白的「NoThinking」前缀，在结构化数学基准上达到有竞争力的准确率。在 AMC 2023 的低 token 预算下，他们的不思考方法以一小部分 token 成本追平了完整思考的准确率。这项工作表明，在结构良好的任务上思考轨迹并非总是准确率所必需 —— 这与当前论文「压制带来的准确率损失集中在开放任务而非受限任务」的发现一致。伯克利的发现还从一个平行方向让对齐图景更复杂：如果模型能在没有任何思考轨迹的情况下在结构化任务上给出正确答案，那么轨迹的有无就不决定正确性 —— 在那种场景下轨迹是伴生现象，而不是原因。

综合起来，这些结果描绘出一幅图景：推理轨迹处在一个模棱两可的位置 —— 有时是准确率所必需，有时不是；有时能被指令压制，有时不能；它由一个独立于当前提示运作的训练出的行为先验所生成。可审计性和对齐验证的影响，两篇论文都没有解决，它们代表着可解释性研究使用推理轨迹的方式与实证证据实际支持的内容之间一道越来越宽的鸿沟。

模型提供商和工程师需要解决什么

论文没有点名在压制合规度上表现最好或最差的具体模型，DeepSeek-V4-Flash 和 Qwen3-235B-A22B 之外的四个模型在公开材料中仍未披露。这限制了研究对模型选型的即时用处，不过这一发现在多个模型上的一致性表明，思考惯性不是任何单一架构或训练流水线的产物。

对企业团队来说，论文最可操作的指导是结构性的：在把推理模型配置为不思考模式之前，先按答案空间类型给工作负载分类。布尔分类和固定选项选择任务 —— 文档归类、情感标注、路由决策 —— 在压制控制下 ETR 高、准确率稳定。在这些工作负载上，「不思考」模式很可能接近其预期行为运作。开放式生成任务 —— 摘要、起草、分析、自由问答 —— ETR 低，且存在实质性的准确率—合规度权衡。对这些任务，团队面临三个选项：把推理 token 当作必要的生产成本接受下来（并据此做预算），在任务允许时用候选答案注入把提示转成选择格式，或者套用不思考模式并接受回复质量会比开启推理时明显更低。

成本核算的影响是即时的。许多规模化运行推理模型的企业团队，其成本模型建立在「非思考模式会可靠地路由到更便宜的无推理回复」这一假设之上。如果模型层面的 ETR 在其工作负载组合上远低于 1.0 —— 对任何有大量开放式生成的流水线来说这很可能 —— 那些成本模型就是错的。低估的程度取决于各查询类型上实际的 ETR 分布，而论文确立的是：这不能从模式设置推定，必须实证测量。

对模型开发者和推理框架工程师来说，论文凸显了 API 契约与运行时行为之间一道单靠提示指令无法弥合的缺口。宣传非思考模式可节省成本的提供商，隐含地表示推理 token 被压制了；研究的证据 —— 以及 SGLang 等开源框架中已记录的独立生产失败 —— 表明这种表示需要更谨慎的限定。可用的三条主要解决路径并不互斥：训练层面的改变（通过额外的、以压制推理的示范为基础的 RL，强化在开放任务上的不思考合规度）、基础设施层面的强制执行（在服务层设硬性 token 预算截断，在答案前轨迹膨胀之前截掉它），以及 API 层面的透明度（按任务类型和干预设置公布 ETR 分布，让买家做出知情决定）。每条路径都有代价和局限：额外的 RL 后训练有可能损害推理真正有益的任务上的性能；硬性基础设施截断可能把合理的推理连同惯性驱动的轨迹一起截掉；API 层面的透明度要求提供商自己做实验并公布可能对竞争不利的结果。

商业压力只朝一个方向推：用户为自以为已被压制的推理 token 付费，提供商从中获益。如果没有监管或市场压力去测量并披露 ETR，默认的激励结构并不利于修复这个问题。

此前的研究与自适应思考的缺口

思考惯性的发现，嵌在 2025–2026 年一股更广泛的研究潮流中，这股潮流考察推理模型何时、如何以及是否真的需要推理。AdaptThink（EMNLP 2025）表明模型可以学会根据任务难度选择性地投入推理精力。《When to Continue Thinking》（arXiv 2505.15400）提出自适应模式切换，作为在推理时优化成本—质量权衡、又无需单独模型版本的办法。关于思考预算和 token 高效推理的另一项工作（arXiv 2507.09662）综述了降低扩展推理计算成本的各种方法。这些方法共享一个前提：推理是一种边际价值可变的资源，而不是要么常开要么常关的固定行为，目标是更聪明的分配而不是粗暴的压制。

思考惯性从另一个方向让这幅图景复杂化。自适应思考研究假设模型能在推理与非推理模式之间可靠切换；当前这篇论文表明，在多个模型和提示策略上这个假设在实证上是错的。如果模型在被指示时无法可靠地关掉推理，那么依赖提示级模式切换 —— 而非训练级行为修改 —— 的自适应思考系统就继承了惯性问题。如果模型训练出的先验在相当比例的情况下会覆盖决定，你就造不出一个能聪明地决定何时不思考的系统。

论文还隐含地与提供商目前营销思考控制的方式相冲突。DeepSeek、Anthropic、OpenAI 和 Google 都把自己的思考控制呈现为有意义的行为开关。思考惯性研究是第一项系统性地检验这些开关是否真的起作用的评估，所用指标专为检测单靠模式开关会漏掉的失效模式而设计。六种测试干预没有一种在所有任务类型上实现完全压制，这不是小的校准问题；这是证据，说明提示级控制对它们被用来解决的问题在结构上是不够的。

这就是论文留给这个领域的开放技术问题：不是「模型能否在不思考的情况下有效」—— 对结构化任务这已有部分答案 —— 而是「能否可靠地指示模型不产出可见推理，如果不能，为什么？」答案要么需要对在压制下生成类推理文本的训练行为先验做更深的可解释性研究，要么需要更根本地重新思考推理能力在后训练中是如何被嵌入的。论文引入的思考惯性基准框架 —— 跨任务类型的 ETR、QRel. 和 EIR —— 为随着领域发展解决方案而追踪这个问题上的进展提供了测量基础设施。