InternLM 开源多模态决策模型，90% 准确率超 Jev

上海 AI 实验室的 InternLM 团队于 10 月 15 日以未经评审预印本的形式在 arXiv 上发表了 Intern-Decision v1 的技术报告，发布了首个原生训练的多模态架构的开放权重决策模型家族，能从文本和图像返回结构化选择和逐候选概率。该家族 —— 提供 0.8B、2B 和 4B 参数版本，采用 Apache-2.0 许可证 —— 到来之时，决策模型这一类别正在凝结为 AI 基础设施中一个公认的细分，TypeSafe AI 的 Jev 和微软的 Decision-1 在同一个两周窗口内相继发布。4B 模型在七个评测套件上的未加权平均准确率为 90.02%，在相同基准上胜过 Jev v1.13.0 的 88.74%，同时在单张 RTX 4090 上的平均推理延迟为 44 毫秒 —— 相比之下，在等价测试条件下 Jev 的 API 端点为 109 毫秒。

对 AI 工程师的实际意义是：一个可自托管、无按次调用费、原生训练支持多模态输入、延迟低到可以嵌入实时智能体循环而无需专用推理集群的决策模型。

什么是决策模型，为什么它不是生成式 LLM

标准大语言模型逐 token 生成自由文本。决策模型返回一个带类型的结构化输出 —— 一个具名选项、一个数值分数或一个二元是/否 —— 并附每个候选的概率估计。这种差别不是表面的。在一个高频路由调用、分类输入或批准动作的智能体流水线中，通用 LLM 要生成随后在下游被解析的散文，带来不必要的延迟和 token 开销。决策模型跳过生成步骤，直接产出概率。

Intern-Decision 通过一种称为自回归掩码语言建模（AMLM）的方法实现这一点。训练时，模型接收一个完整的助手回复骨架 —— 一个已经包含决策字段的 JSON 结构 —— 其中每个答案被替换为 <decision> 占位 token。真实答案符号只出现在监督标签中，不出现在输入上下文中。每个字段都在一次因果前向传播中用骨干自带的语言模型头评估，没有单独的解码循环。结果是模型在一次推理步骤中评估所有决策选项，而不是顺序生成它们，正如 Intern-Decision v1 技术报告所描述。

支持的三种问题类型 —— 用于具名选项的 choice、用于数值范围的 score，以及用于是/否二元判断的 noul —— 覆盖了结构化智能体工作流中最常出现的决策类别。

Intern-Decision 与 Jev 和 Microsoft-Decision-1 的比较

决策模型类别在两周内从 TypeSafe AI 的小众产品变成了三家厂商的角逐。TypeSafe 的 Jev v1.13.0 是既有的商业领先者，围绕公司称为校准决策强化学习（RLCD）的训练方法构建，定价为每百万输入 token 0.042 美元、输出免费，通过等候名单向企业客户提供。Microsoft-Decision-1 于 10 月 9 日在 Microsoft Foundry 上正式可用，在 Qwen3.5-9B 骨干上后训练，定价与 Jev 相同，每百万输入 token 0.042 美元。它只处理文本，上下文窗口 32K，微软尚未发布其准确率基准分数。

在 InternLM 自己的测试中，Intern-Decision-4B 在相同的七个基准上平均准确率 90.02%，Jev 为 88.74% —— 领先主要来自 Typed Decision 套件（80.55% 对 73.35%）和 ToolACE（96.45% 对 91.29%）。在三个 Jevbench 划分中区分度最高的 Jevbench-Hard 上，Intern-Decision-4B 达到 73.87%，Jev 为 72.07%。Jev 在对抗鲁棒性套件 WildJailBreak 上保持明显领先：96.29% 对 Intern-Decision-4B 的 89.86%，对于看重提示注入抵抗力的部署，这一差距值得注意。完整基准结果见 Intern-Decision GitHub 仓库。

延迟对比更为悬殊。在单张消费级 RTX 4090 上平均 44 毫秒，4B 模型在等价的 289 token、三字段请求下，耗时约为 Jev API 平均 109 毫秒的 40%。0.8B 和 2B 模型各约 33 到 34 毫秒。InternLM 是对着 Jev 自己的 API 端点测的延迟；Jev 尚未独立确认这些数字。

Intern-Decision 是该类别中首个拥有原生训练、生产稳定的多模态架构的决策模型。微调冻结了从 Qwen3.5 视觉语言架构继承的视觉塔和投影器，只更新语言骨干 —— 这一设计选择在保留多模态能力的同时限制了训练开销。Microsoft-Decision-1 仍然只支持文本。10 月 14 日发布的 Jev v1.14.0 —— 比 Intern-Decision 技术报告早一天 —— 在 TypeSafe-Danger-Zone-Images: true 选择加入请求头下增加了实验性图像输入，TypeSafe 称其尚未达到生产质量标准；本文中的基准对比的是评估期间可用的版本 Jev v1.13.0。

延伸阅读：TypeSafe Jev 1.14 推出 Box 类型做目标定位，并试验性开放图像输入

校准与基于置信度的路由

报告校准概率 —— 声明的 80% 置信度确实对应 80% 的经验准确率 —— 的决策模型，在智能体流水线中比准确但过度自信的模型更有用，因为校准过的置信分可以用来把关是否升级到更大的模型。

InternLM 在训练后应用温度缩放：在留出的校准集上通过最小化负对数似然拟合一个标量 T，然后应用于此前保存的候选 logit，无需任何重训。这个过程不改变任何 argmax 决策 —— 模型的实际选择保持相同 —— 但把过度自信的概率分布压缩到更接近经验准确率曲线。在一个单独的 96 例已知分布试点上，温度缩放把 4B 模型的期望校准误差从 0.213 降到 0.089，Brier 分数从 0.628 降到 0.550。在完整的 Jevbench-Hard 基准上，校准后的 Intern-Decision-4B 的 ECE 为 0.065，低于 Jev v1.13.0 在同一套件上的 0.095。

这份技术报告在 111 个 Jevbench-Hard 条目上的路由研究中验证了这种校准。把 Intern-Decision-4B 置信度低于阈值的 42 个条目路由到更大的模型（Atria-Dawn-Preview），使该子集的总体准确率从 73.87% 提高到 87.39%。其含义是架构性的：紧凑的决策模型不是作为有能力的通用 LLM 的独立替代品，而是作为高效的第一道过滤器，把不确定的案例升级处理。在 44 毫秒的平均延迟下，这第一道过滤的成本低到几乎可以插入任何智能体循环而不产生用户可察觉的延迟。

基准无法确认的事

几项注意事项限制了这些数字的解读力度。所有基准结果都来自 InternLM 自己的评估流水线。Jevbench 由 TypeSafe AI 设计 —— 正是 Intern-Decision 在其上击败的那家商业竞争者 —— 这造成了一种结构性的利益冲突，需要独立复现来化解。自 9 月 26 日模型悄然上传到 HuggingFace 以来的三周里，没有出现对 Intern-Decision 的第三方评估。技术报告在权重可用三周后才提交到 arXiv，模型在这段时间里只积累了少量 GitHub star，表明实验室之外的早期测试有限。

对着 Jev API 端点测得的延迟数字反映的是 InternLM 的测试条件，而不是联合受控的基准。API 延迟随服务器负载、地理路由和批处理行为而变，单次测量无法捕捉这些变化。

开放权重、多模态输入与成本算术

Intern-Decision 的经济性与其商业竞争者有类别上的不同。在 Apache-2.0 下，模型可以免费运行。在单张 RTX 4090 —— 消费市场上不到 2000 美元或云上以适中的竞价价格可得的 GPU —— 上，4B 模型每个决策请求约 44 毫秒，意味着在批处理优化之前每张卡每秒大约 20 到 25 个请求。按 Jev 每百万输入 token 0.042 美元，一个 289 token 的请求每次约 0.000012 美元；持续每秒 20 个请求，每天约 21 美元 API 费用。对持续的工作负载，自托管设置几天就能摊平硬件成本。

多模态输入能力打开了生产稳定的纯文本替代品尚无法匹配的用例：视觉质量评估、基于图像的路由、从扫描输入做文档分类，以及任何包含截图或图表的智能体上下文。Microsoft-Decision-1 仍然只支持文本。Jev 同一周在危险区选择加入下引入的实验性图像支持尚未获准用于生产 —— TypeSafe 把其多模态推理评为比纯文本路径更不稳定，并不提供通常的稳定性保证。Intern-Decision 的多模态能力作为一等输出交付，原生训练进模型架构，没有实验性的限定。

延伸阅读：vLLM-SR 开源 Decision 3.0 决策模型，文本和视觉都超 Jev

决策模型类别接下来会怎样

Jev、Microsoft-Decision-1 和 Intern-Decision 在同一个两周窗口内迅速汇聚，是迄今最清晰的信号：结构化决策推理正在成为标准 AI 基础设施，而不是实验性的小众。悬而未决的问题是独立基准能否确认 InternLM 的准确率和延迟说法，以及 WildJailBreak 上的差距 —— Jev 的 96.29% 对 Intern-Decision-4B 的 89.86% 暗示着明显更好的对抗鲁棒性 —— 反映的是安全相关微调上的持久差异，还是更多数据就能弥合的差距。

对今天评估选项的开发者而言，Apache-2.0 权重、多模态输入、商品硬件上低于 50 毫秒的延迟和可比基准的准确率这一组合，使 Intern-Decision 成为商业决策模型 API 的首个可行自托管替代品 —— 前提是这些基准在独立评估下成立。