Google 推出 Gemini Decision 1:对比 OpenAI 和 TypeSafe,9 项基准中 7 项领先
Decisions API 一次调用即可对文本、音频、视频和 PDF 打分,每百万 token 0.10 美元

Google 于周三推出 Gemini Decision 1,这是它首款专用决策模型,进入了 TypeSafe AI 仅在 57 天前开创的这一类别。该模型即日起可通过 Google AI Studio 和Gemini Decisions API使用,它返回的是结构化的分类结果而不是生成的文本——在一次 API 调用中,对文本、音频、视频和 PDF 输入做出二元判断、为多项选择排序,或按评分细则打分。在独立的 JevBench 评测中,Gemini Decision 1 在 9 个测试类别中的 7 个位列第一,并在所有受测系统中取得最低的预期校准误差,这一特性对该模型所服务的智能体应用至关重要。
这次发布标志着一个由创业公司率先开辟的类别,变成了超大规模云厂商的基础设施。TypeSafe AI 于 2026 年 9 月 15 日推出最初的 Jev 模型,创造了「决策模型」这一说法,并把这个类别定位为与生成式模型相对的「系统一」。OpenAI 于 9 月 29 日跟进推出 GPT-6 Luna Decisions,Cloudflare 于 10 月 1 日推出 Clef,如今轮到 Google。短短八周内,全球三家最大的 AI 平台提供商都推出了相互竞争的实现,而这种架构在 9 月中旬之前还不是一个有名字的产品类别。
围绕类型化输出构建的新模型类别
要理解 Gemini Decision 1 的独特之处,需要先弄清楚决策模型究竟是什么——以及它与大多数开发者如今使用的生成式模型有多么根本的不同。
GPT-6 或 Gemini 3.5 Flash 这类传统大语言模型以自回归方式运行:一次采样一个 token,把每个输出 token 作为输入送回去生成下一个。对于结构化分类任务——这段内容是否符合政策?智能体下一步该采取这四个动作中的哪一个?评审员会按 1 到 5 分的细则给这个回答打几分?——这个生成循环就是额外的计算开销。模型必须生成一串 token 才能得出决定,而不是直接给决定本身打分。
决策模型在分类任务上去掉了自回归循环。正如Google 的公告所详述,Gemini Decision 1 在一次预填充(prefill)中处理所有候选答案,同时为每个选项打分,而不是逐个 token 生成文本。这种架构在概念上更接近 BERT 式的编码器模型,而不是 GPT 式的解码器模型,不过 Gemini Decision 1 构建在 Gemini 原生的多模态编码器—解码器架构之上,而不是纯编码器堆栈。
该模型通过Gemini Decisions API提供三种决策类型。第一种叫noul——由「no」和「ul」拼合而成——返回带校准概率分数的「是/否」二元判断。第二种是choice,接受 2 到 255 个带标签的选项,返回所有选项的归一化概率分数,总和为 1.0。第三种是score,按有序评分细则(例如五级质量量表)打分,同时返回各级别的概率,以及由这些概率推算出的连续加权分数。
每个请求可以针对单个输入文档或媒体文件提出最多 1000 个问题,开发者因此可以用一次 API 调用完成整套内容审核,而不必为每个政策维度分别发送请求。按其宣称的 50 到 100 毫秒中位计算延迟,该模型定位于对延迟敏感的路由和分流应用——在这些场景中,生成式模型的典型响应时间会造成无法接受的瓶颈。
规模化之后的经济影响相当可观。生成式模型在分类任务上推理时,必须执行完整的自回归流程——对整个上下文做注意力计算、采样 token、跑生成循环——才能得出一个原则上一次打分就能给出的标签。对于每天处理数百万次路由或审核决策的生产系统,这部分计算开销直接转化为基础设施成本和延迟。决策模型以生成的灵活性换取分类的效率:它们无法生成开放式文本,但在 AI 任务中需要结构化输出的那一部分上,它们省掉了生成式模型一直在以不必要的成本做的工作。
为什么校准比单纯的准确率更重要
围绕决策模型的基准讨论越来越集中在一个叫预期校准误差(ECE)的指标上,Gemini Decision 1 在这一指标上的核心说法值得仔细拆解。
ECE 衡量的是模型声称的置信度与实际准确率的吻合程度。一个完美校准的模型,如果说自己对某个答案有 80% 的把握,那么在这类答案上大约 80% 的时候应当是对的。ECE 越低越好:ECE 为 0.03 的模型比 0.12 的校准得更好。对于用决策模型来决定是否转人工审核的智能体流水线——比如只在置信度低于 0.85 时升级——校准不佳的模型会系统性地产生错误的升级比例,要么把常规决策过度标记,要么对真正不确定的决策标记不足。流水线是否可靠,直接取决于声称的概率是否反映真实的概率。
Google 报告的 Gemini Decision 1 ECE 为 0.0250。作为比较,各公司提交到JevBench 排行榜的成绩显示,OpenAI GPT-6 Luna Decisions 为 0.0721,TypeSafe Jev 1.14 为 0.0494。与用作基线的领先生成式模型 Gemini 3.5 Flash-Lite 相比,差距要大得多:后者的 ECE 为 0.2104,也就是说,生成式基线的校准偏差大约是排行榜榜首决策模型的八倍。
所有这些数字都需要一个重要的限定:JevBench 是由研究者 Florian Standhartinger 在 Benchmark Heaven 运营的独立基准,但排行榜上的成绩由各公司自行提交,而不是由中立第三方独立运行。该基准的方法把 300 道公开测试题与 1200 道封存评测题分开,以降低数据污染风险,但截至发稿时,这些 ECE 数字尚未得到独立复现。为生产用途评估决策模型的开发者,在把排行榜成绩当作自己工作负载上表现的可靠预测之前,应先针对自己的领域做校准测试。
在更大范围的 JevBench 准确率排行榜上,Gemini Decision 1 由公司提交的 92.2% 成绩让它在 9 个测试类别中的 7 个位列第一。剩下的一个类别由 TypeSafe Jev 1.14 领先;而在该基准的工具调用时机测试 When2Call——一项由英伟达发布的评测,衡量模型能否正确判断何时调用外部工具、何时直接作答——中,TypeSafe 的 Jev 1.14 以 82.0% 胜过 Gemini Decision 1 的 79.9%。
类别诞生八周后的竞争格局
三家主要的决策模型提供商如今在不同开发者用例真正关心的维度上各有差异,而且差异大到足以影响架构选择。
TypeSafe Jev 1.14于 2026 年 10 月 14 日发布,收费为每百万输入 token 0.042 美元——比 Google 和 OpenAI 的每百万 0.10 美元便宜约 2.4 倍。对于每天处理数亿次查询的大批量分类流水线,这一价差是一笔可观的基础设施成本。Jev 1.14 支持 25.6 万 token 的上下文窗口,并在 When2Call 工具选择基准上领先——对于决策模型必须判断是调用工具还是直接返回答案的智能体系统,这一点很重要。TypeSafe 由前 OpenAI 员工 Diogo Almeida 与 Erik Gafni、Sasha Sheng 共同创立,完成了由 DCVC 领投的 4000 万美元种子轮,随后于 2026 年 10 月以 75 亿美元估值完成 8.7 亿美元 A 轮融资。Vercel 的早期采用数据表明这一类别正在迅速升温:Vercel 报告称,Jev 发布 24 小时内,13% 的付费 AI Gateway 团队已采用该模型,两周内升至 35%——是 Vercel AI Gateway 历史上采用最快的模型,不过这一数字由 Vercel 发布,未经独立证实。
OpenAI 在 DevDay 上宣布,于 2026 年 9 月 29 日推出 GPT-6 Luna Decisions,该模型基于 9 月 22 日发布的 GPT-6 Luna 基础模型。它与 Google 一样定价每百万 token 0.10 美元,但上下文窗口大得多,达 105 万 token,而 Google 和 TypeSafe 都是 25.6 万 token。这一上下文优势对需要评估超长文档的用例很重要——完整的法律合同、长篇转录稿,或在一次调用中交给分类器的冗长多轮对话历史。不过,OpenAI 的决策模型目前只支持文本和图像输入,尚未宣布支持音频或视频。
Google 的差异化体现在三个方面。多模态输入支持最为突出:Gemini Decision 1 原生支持音频和视频,而 TypeSafe 和 OpenAI 目前在决策模型这一层级都不提供。这打开了视频内容审核、音频通话分流,以及混合 PDF、图像和文本的文档分类流水线等路由与分类用例。Google 在 ECE 校准指标上也领先,这对生产环境中的智能体部署尤其相关。其架构押注——把决策模型构建在 Gemini 原生多模态堆栈上,而不是专门打造的编码器——似乎换来了更好的校准,代价是每 token 价格高于 TypeSafe。
Cloudflare Clef是该类别的第四位入局者,于 2026 年 10 月 1 日推出,定位不同:它运行在边缘,而不是集中式云数据中心,瞄准可以在请求客户端附近执行的、对延迟敏感的分类任务。截至发稿时,Clef 尚未出现在 JevBench 上,因此无法直接比较准确率。它的边缘部署模式在架构上与三家集中式产品截然不同,瞄准的也是另一个细分市场——对这些应用来说,到中心推理端点的网络往返时间本身就是瓶颈。
Google 没有回应的是价格差距。按每百万 token 0.042 美元计算,TypeSafe 仍以明显优势保持低价选项的地位;对于用不上多模态能力的纯文本决策任务,规模化之后这一成本差异是实实在在需要考虑的因素。
Google 内部已在运行的四项部署
Google 没有等外部开发者采用,就已在内部部署了 Gemini Decision 1。公司在发布时披露了四个生产用例,每一个都展示了该模型的一种不同部署模式。
最能说明经济逻辑的是 Gemini Notebook:Google 使用决策模型按复杂度对传入的查询进行路由,再分发给生成式模型。公司称,这让日常查询——不需要完整生成式回答的那些——延迟降低了 40%,因为较简单的请求在到达完整的大模型推理步骤之前,就已被分流并通过成本更低的路径处理。分类步骤本身又快又便宜,节省下来的成本会在每天数百万次查询中不断累积。
第二项部署在 Google 最近推出的设计系统工具 Stitch 中,Gemini Decision 1 为其 Rapid Canvas 功能提供支持。该模型对设计意图进行分类,并将其路由到相应的生成流程,让产品能够区分哪些用户请求需要完整生成布局,哪些只需替换组件或调整属性。
第三个用例是 Google Meet 的隐藏式字幕功能:决策模型根据音频和转录上下文对候选表情回应进行分类,而不是把完整信号交给生成式模型去开放式地生成回应。分类步骤降低了实时表情渲染的延迟,同时把决策限制在一个固定的选项空间内。
第四项是 Google 搜索 MCP 连接层中的安全应用:在传入的工具调用请求到达执行层之前,决策模型会对其进行分类,识别提示注入企图和违反政策的行为。用决策模型而不是生成式分类器来把守这道关口,能让安全检查点保持快速且确定——输出带校准置信度的「是/否」结构化结果,而不是一段自由格式的安全理由。
综合来看,这四项部署说明了这一类别的核心经济论点:在任何由生成式模型处理本可表述为结构化分类的任务的系统中,决策模型都能以一小部分成本和延迟替代这一分类步骤,同时把生成式模型的容量腾出来,用于真正需要生成文本的任务。
局限与悬而未决的问题
Gemini Decision 1 以及整个决策模型类别都存在几项重要局限。
目前大多数报道所依据的基准数字,是各公司提交给独立基准的成绩,而不是经过独立复现的结果。与完全公开的基准相比,JevBench 的封存评测集降低了刷榜风险,但不能替代中立第三方的复现。开发者应把公布的 ECE 和准确率数字视为方向性指标,而不是生产环境中的保证。
该模型 25.6 万 token 的上下文窗口按以往标准已经很大,但对于需要分类超长文档的应用,仍低于 OpenAI 的 105 万 token 上限。Google 尚未宣布扩大上下文上限的计划。
多模态优势是真实的,但取决于用例。对于纯文本决策流水线——目前的主流——TypeSafe 约 2.4 倍的价格优势,是对 Google 校准领先的有力反驳。在纯文本任务上选择 Gemini Decision 1 而非 Jev 1.14 的理由,目前取决于校准质量,而这需要在每个团队自己的任务分布上验证后,才能成为生产环境中的论据。
决策模型也还很新,生产环境中的失效模式尚未得到充分记录。决策模型的输出在对抗性输入下会如何退化——即专门设计来改变校准概率、而不是骗过分类器的文本——在这一代模型上还没有得到广泛研究。Google 在搜索 MCP 层部署安全应用,表明公司认为该模型足以应对对抗性场景,但这一判断尚未得到向社区公开的独立红队测试的支持。
这一类别接下来会是什么样
超大规模云厂商进入决策模型类别的速度本身就是一个值得注意的信号。从 TypeSafe 开创类别到 Google 发布只有 57 天,按历史标准,一个真正全新的 API 类别吸引到超大规模厂商竞争,这样的时间窗口异常短暂。这说明平台团队立刻看懂了其中的经济逻辑:任何大规模运行生成式模型的组织,其流水线中都嵌着分类任务,一个更快、更便宜、校准更好的替代方案解决的是一笔真实的开支。
2027 年的现实问题是,决策模型能否从路由和分流扩展到更广泛的 AI 辅助评估任务——自动评分、面试筛选、文档合规审查、信贷决策——这些任务目前用生成式模型来打分。这些应用具有同样的结构特征:输出空间受限,不需要生成文本。校准问题在这里尤其重要,因为对人有重大影响的决策,需要的是可以审计的概率估计,而不是难以衡量的叙述性输出。
TypeSafe 在 When2Call 工具选择准确率上仍保持领先——这是与智能体编排最相关的基准——再加上价格低得多,即便在 Google 入局之后,它也拥有一个稳固的细分市场。类别的开创者并没有被第一个到来的超大规模厂商取代,但格局正从一家创业公司定义赛道,转向多供应商市场,差异化也变得更加具体。如今评估这些系统的开发者,比较的是校准曲线、多模态支持矩阵、上下文窗口上限和 token 价格,而不再只是问决策模型是否存在。这说明这一类别已经真正成形。