ScaleDown 新模型跳过 token 生成,大幅压低分类成本
CDM 架构避开自回归解码,结构化预测每百万 token 只要 0.05 美元

ScaleDown 于 2026 年 10 月 13 日发布了三个生产级 AI 模型 —— Classify、Extract 和 Summarize —— 建立在公司所称的约束解码模型(CDM)架构之上,刻意避开了定义大语言模型的逐 token 生成循环。此次发布经由与 LangChain 的集成得到确认,同时集成的还有 OpenRouter、Vercel 和 LiteLLM,标志着迄今为有边界的企业 NLP 任务提供通用 LLM API 结构性替代方案的最清晰尝试之一 —— 与此同时,另一家公司 TypeSafe AI 也对自家的非自回归决策模型 Jev 发布了平行更新,为同一类约束输出 AI 增加了实验性的视觉输入和目标定位。
合起来看,这些进展表明应用 AI 内部正在出现一种走向成熟的分化:一条路继续把通用模型扩展到更广的推理和多模态能力,另一条路则构建更窄、更快、更便宜的系统,针对构成企业 AI 大部分流量的结构化预测任务优化 —— 规模化的分类、抽取和摘要。
为什么自回归生成是有边界任务的错误工具
要理解 ScaleDown 在卖什么,先要理解它要取代什么。标准大语言模型一次生成一个 token。每一步,模型给大约 10 万个可能 token 的词表里每一项打分,从该分布中采样,再把结果喂回下一步。对开放式写作、代码生成或复杂的多步推理,这种迭代过程是必要的 —— 模型在生成前文之前无法知道下一个词该是什么。
对于把一条客服消息归入六个类别之一这样的任务,这种机制是严重的错配。答案本就被限定在一个短列表里。模型仍在每一步穿过完整词表生成,仍要经过同样数量的、穿越数十亿参数的前向传播,仍返回一个应用随后必须解析回结构化标签的文本字符串。开销是真实的:延迟随输出长度增长,多数 LLM API 的定价同时按输入和输出 token 计量。
按 ScaleDown 的描述,CDM 架构读取一次输入上下文,然后用一个任务专属的输出头 —— 而不是自回归解码器 —— 从一个有边界的结果空间中选择。技术分析指出,对分类和抽取,输出头读取模型对输入的内部表示,选择一个标签或片段,为每个候选产出校准过的概率,而无需遍历完整词表。对抽取,它在源文本中识别片段,而不是把内容作为新 token 重新生成。这一架构选择有直接的定价后果:ScaleDown 按每百万输入 token 0.05 美元收费(官方标价;包括 OpenRouter 在内的一些聚合平台目前显示每百万 0.04 美元的折扣价),输出不收费 —— 这种定价模式只有在输出不作为生成文本计量时才在结构上说得通。
这使 CDM 在架构上更接近带分类头的 BERT 时代编码器模型,而不是现代的指令跟随解码器。与「GPT-4o mini 加 JSON 模式」的关键区别不在模型大小,而在生成机制:无论是微调过的小型 LLM 还是大型前沿模型,仍然是逐 token 自回归地生成输出。按描述,CDM 不是。
三个模型及其返回内容
ScaleDown 在 CDM 架构下推出了三个模型,各自针对一种不同的结构化预测任务。LangChain 的集成博客文章在发布当天确认了全部三个模型,外加一个此前已有的第四个模型 Compress。
Classify 接受开发者定义的标签集,为每个标签返回一个校准过的概率分数,并附一条人类可读的分类理由。校准过的概率 —— 0.8 的置信分在经验上对应相似样本中 80% 的准确率 —— 是生产中很重要的一项具体工程属性:标准 LLM 未校准的置信分对下游决策是不可靠的信号。ScaleDown 宣称提供校准输出在架构上是合理的,因为任务专属输出头可以通过温度缩放或 Platt 缩放做事后校准,不过公司没有说明其校准方法。Classify 面向客服路由、意图识别和智能体分派决策。
Extract 接受一段关于要查找信息的自然语言描述,返回带置信分数和来源位置 —— 被抽取片段在原文档中的字符或 token 偏移 —— 的结构化 JSON。来源位置是一项可靠性特性:它让应用能对照原文核验抽取结果,而不是信任模型准确复述了内容。预期应用包括跨文档的命名实体识别、合同条款抽取,以及用于数据脱敏流水线的 PII 识别。
Summarize 接受最多 100 万 token 的文本、图像或 PDF,返回限定在 1000 token 以内的摘要。ScaleDown 估计,每天生成 1 万份摘要用其模型约花 7.20 美元,而用 GPT-4.1 Mini 约 58 美元 —— 8 倍的成本差异,归因于定价和模型效率两方面。公司称在人工评估中摘要质量与 GPT-4.1 Mini 的输出相当,不过评估方法没有公开细节。
Summarize 模型值得在架构上多一分谨慎。为一份复杂文档生成连贯的 1000 token 摘要,与从 N 个标签中选一个或从既有文本中抽取片段不是同一种操作。独立技术分析指出,Summarize 是生成式地产出文本,这意味着它并不共享 Classify 和 Extract 那种严格的非自回归架构。ScaleDown 的定价(输出免费)对三个模型都成立,但具体到 Summarize 在技术上如何做到,现有文档没有说明。
ScaleDown 的第四个模型 Compress —— 设计用来裁剪智能体上下文窗口而非生成摘要 —— 不属于 10 月 13 日的发布,另行描述。
免费输出 token 背后的定价结构
ScaleDown 每百万输入 token 0.05 美元、输出免费的定价,作为商业模式和技术声明都值得审视。多数 LLM API 按输入/输出合并计价,因为输出 token 代表真实算力:每个生成的 token 都需要一次穿过模型的完整前向传播。GPT-4.1 Mini 每百万输出 token 0.40 美元,中档 Claude 模型约每百万 3.00 美元,对任何产出实质文本的任务,输出成本都占大头。
一个从受约束输出空间中选择的非自回归架构 —— 返回一个标签、一个固定模式的 JSON 对象,或一个指向既有文本位置的片段指针 —— 并不在传统意义上生成新 token。输出计算根本不同:模型读取输入,产出一个表示,输出头对一个固定大小的结果应用一个学到的映射。没有对输出位置的迭代前向传播,没有从词表分布中采样,因此没有经济上有意义的每输出 token 成本。免费输出是架构的自然结果,而不是促销定价策略。
这显著改变了高流量应用的经济性。设想一条每月分类 500 万条客服工单的文档处理流水线。按每百万输出 token 0.40 美元(假设每次分类平均输出五个 token),GPT-4.1 Mini 仅输出成本就约为每百万次分类 2 美元 —— 即每月 1 万美元的输出费用,还没算更大的输入成本。在 ScaleDown CDM 上,按每百万输入 token 0.05 美元(假设每条工单平均 200 token),有效成本约为每百万条工单 50 美元,即整个工作负载每月 250 美元。在这个比例下,即便是对现有 LLM 供应商本来满意的团队,评估也成了必做之事。定价细节可通过 OpenRouter 的 ScaleDown 列表查看。
需要注意的是,这些计算假设任务干净地落在 CDM 模型能做的范围内。一旦应用需要解释、对边缘情况进行推理,或需要既定模式之外的输出,CDM 就不再适用,LLM 的成本结构就会回来。
融入 LLM 中间件栈
10 月 13 日的发布包含了与 LangChain 的同步集成,CDM 模型通过 LangSmith 的 LLM Gateway 提供,并配有三种中间件类型:Summarization、ToolCompression 和 Extraction。ToolCompression 中间件针对长时间运行的智能体流水线中的一个具体问题:在多步任务中工具结果不断累积进上下文窗口,同时推高 token 数和成本。通过在工具输出追加到上下文之前先用 CDM Summarize 或 Extract 处理,智能体可以维持有效的工作记忆,而不必在每一步把完整工具结果传给前沿模型。
这一集成把 ScaleDown 定位为智能体系统中通用 LLM 的前处理和后处理层,而非主要替代者 —— 以更低成本处理结构化任务,而前沿模型处理需要更广泛能力的推理和决策步骤。实际部署模式是混合的:CDM 处理分类、抽取和上下文压缩;通用模型处理复杂的判断。
ScaleDown 还在发布当天增加了对 OpenRouter、Vercel 和 LiteLLM 的支持,让开发者通过标准的 OpenAI 兼容 API 接口访问,而无需新的 SDK。输入上下文支持文本、图像和 PDF,100 万 token 窗口在 Summarize 模型下对三种模态都可用。
开放权重的替代方案:微调小模型
在评估 CDM 和 Jev 之前,企业团队通常面对的是三选一而非二选一。第三个选项是用任务专属数据微调一个小型开放权重模型,部署在自己的基础设施上。Qwen 0.5B、Llama 3.2 3B 或 Gemma 2B 等模型以宽松许可证提供,推理所需 GPU 资源极少,在目标领域的标注样本上训练后能在特定任务上取得强劲表现。
这种方式相对前沿 LLM API 和 CDM 这类专门服务都有真实优势。微调的开放权重模型在最初的训练投入之后没有按次调用的 API 成本。它们可以在商品硬件甚至小规模的 CPU 上运行。它们在组织自己的防火墙之后运行,消除了把敏感文档路由到第三方 API 带来的数据驻留顾虑。而对于输出模式稳定、定义清晰且有足够标注训练数据的任务,微调小模型常常匹敌甚至超过大得多的通用模型。
劣势在运营而非技术。微调需要标注训练数据,而这很贵。它需要用于模型版本管理、部署和监控的 MLOps 基础设施。任务一变 —— 新的产品类别、新的实体类型、新的摘要长度要求 —— 模型就必须重训。而在很小的规模(每月约 100 万次调用以下),维护微调流水线的运营成本往往超过它省下的 API 成本。
ScaleDown 的 CDM 把自己定位在交叉点上:任务专属模型的成本效率,却没有自托管的运营负担。隐含的主张是,CDM 提供微调任务专属模型的大部分好处,而只需要一个模式定义,而非标注训练数据和部署流水线。这种权衡在实践中是否成立,很大程度上取决于开发者的任务是否匹配 ScaleDown 的训练分布 —— 与这个领域里多数基准相关的说法一样,这个问题有待独立评估。
ScaleDown 自己的基准数据显示,在等价的分类任务上其 CDM 准确率 91.7%,Qwen 0.5B 为 88.6%,并宣称在同样任务上表现可与 Qwen 72B —— 一个大约大 144 倍的模型 —— 相当。这些是供应商自报数字,尚未被独立复现。如果准确,它们表明 CDM 无需开发者运行微调步骤就能与微调的小型开放权重模型竞争;与 Qwen 72B 的比较若得到确认,将说明对有边界的分类任务,多 144 倍的参数没有增加任何东西,这在架构上合理,但需要独立验证。
TypeSafe AI 的 Jev 走了另一条架构路径
CDM 发布一天后,TypeSafe AI 发布了 Jev 1.14.0,把自家的非自回归决策模型扩展到视觉、目标定位和更长上下文。Jev 与 ScaleDown 的 CDM 占据相似的市场地带 —— 两者都用受约束的结构化输出取代 LLM 生成 —— 但它们的架构和设计哲学在重要方面不同。
延伸阅读:TypeSafe Jev 1.14 推出 Box 类型做目标定位,并试验性开放图像输入
TypeSafe AI 于 2026 年 9 月带着 DCVC 领投的 4000 万美元种子融资结束隐身,据报估值 2 亿美元,它把 Jev 定位为「System One 模型」—— 取自双过程理论中快速自动认知与缓慢深思推理的区分。在这一框架下,大型推理 LLM 是 System Two:它们缓慢且高成本地深思。Jev 是 System One:它被训练来做快速、可靠、有边界的决策,并带校准过的置信度。
训练机制与 CDM 不同。TypeSafe AI 使用校准决策强化学习(RLCD),训练模型不只是选对,还要产出准确反映经验准确率分布的置信分数。一个置信度 0.75 的 Jev Choice 输出被设计为对应相似样本中 75% 的经验准确率,使下游系统能基于置信阈值采取行动或升级处理。公司由 Diogo Almeida 与 Erik Gafni、Sasha Sheng 共同创立;Almeida 是 InstructGPT 的共同作者,也是 ChatGPT 的共同发明人。
Jev 1.14.0 在三个方向上扩展了模型的输出类型和输入模态,目前均为实验性。可组合的图像输入允许开发者把图像作为上下文的一部分或作为候选答案示例传入 —— 比如一个手势识别系统可以提供「竖起大拇指」和「张开手掌」的示例图像,而不是用文字描述这些类别。Box 输出类型增加了目标定位:模型返回一个以四条边坐标表示的边界框加一个置信分数。这让 Jev 无需路由到完整的视觉模型就能用于产品识别、视觉审核和货架空间分析任务。同样实验性的长上下文支持,在使用相应的 TypeSafe 实验性请求头时扩展到 26.2 万 token;模型默认上下文窗口为 6.4 万 token。TypeSafe AI 给这三项能力都标上了「Danger Zone」标识,表示它们尚不适合生产部署。
值得注意的是,TypeSafe AI 披露 Jev 1.13 已经包含底层的视觉能力 —— 只是在那个版本中没有向用户开放。先在内部发布能力、再对外启用的刻意决定,表明 TypeSafe AI 在公开图像输入之前应用了一道质量闸门,这在争相宣布多模态功能的 AI 公司中并不常见。
竞争数字的现状 —— 以及该在哪里谨慎
ScaleDown 随 CDM 发布放出了对比性能数据。在其自家的、与 Qwen 0.5B 和 Qwen 72B 在 CDM 相关任务上比较的基准中,公司报告 CDM 准确率 91.7%,Qwen 0.5B 为 88.6% —— 而大约大 144 倍的 Qwen 72B 在这些特定任务上表现相近或更低。这些数字说明了一个结构性要点:对输出空间受约束的任务,专门模型可以通过不把容量花在它不需要的能力上,胜过大得多的通用模型。但它们是供应商自报数字,没有独立复现。
行业报道提到了 DecisionBench,被描述为一个独立第三方基准,有 43 项任务、23900 行测试数据、覆盖 28 个领域,据称 ScaleDown CDM 得 77.2%,Jev 1.13 得 72%。这些数字尚未通过主要英文来源或 DecisionBench 发布方自己的站点得到独立确认,在直接核实之前应视为二手来源的说法。
延伸阅读:vLLM Decision 3.0 发布:不生成 token 的六个开放分类模型
ScaleDown 的基准数据还显示,在特定 NLP 任务上相对 Claude、GPT 和 Gemini 系列有显著的成本和准确率优势。在文本分类上,ScaleDown 供应商自报的数字显示:相对 Claude 系列模型准确率高约 8%,单次调用成本约为其 1/5250;相对 OpenAI 模型准确率高 8.72%,成本为其 1/89;相对 Gemini 准确率高 9%,成本为其 1/29。这些比较由 ScaleDown 自己在公司为其模型强项挑选的任务上进行,并把其专门构建的分类器与在零样本或少样本配置下评估的前沿模型比较。它们不衡量通用推理、代码生成或开放式文本质量。在同一任务上微调过的前沿模型表现很可能不同。
校准作为一等属性
CDM 和 Jev 共有、而多数通用 LLM API 明显缺失的一项技术属性是校准:模型声明的置信度与其实际经验准确率之间的一致。ScaleDown 的 Classify 模型宣称为每个标签返回校准过的概率;Jev 的 RLCD 训练专门设计用来产出校准过的决策输出。
校准在生产中重要,是因为未校准的置信分在运营上毫无用处。如果模型对实际只有 60% 正确的分类返回 0.9 的置信分,这个置信分就不能用来把不确定的案例路由给人工审核、为下游处理设置质量阈值,或跨任务比较可靠性。多数前沿 LLM 在被提示估计自身置信度时,产出的分数校准很差:它们在熟悉的模式上倾向过度自信、在新颖的措辞上倾向信心不足,而且声明置信度与实际准确率之间的关系随任务和输入分布而变。
BERT 时代的编码器模型通过在训练后对分类头的输出概率应用 Platt 缩放或保序回归来解决这一问题,把原始 logit 映射为校准过的概率估计。ScaleDown 很可能使用类似的事后校准方法 —— 对输出头的概率分布应用温度缩放 —— 不过公司在现有来源中没有说明其校准方法。TypeSafe AI 的 RLCD 训练方法在强化学习期间把校准直接训练进奖励信号,这是一种不同的方法,目标是不需要单独的事后校准步骤就实现校准。
良好校准输出的商业价值对企业应用意义重大。一个信任置信分的客服路由系统可以自动处理高置信度的分类而无需人工审核,同时升级处理低置信度的案例 —— 同时降低成本和错误率。一条对抽取片段收到校准置信度的文档抽取流水线,可以把低置信度的抽取标记出来交人工核验,而不是悄悄传给下游系统。校准把模型输出从一个二元决策变成一个与业务规则逻辑自然融合的连续信号。
Fastino 的先例:商品硬件、CPU 推理
在 ScaleDown 和 TypeSafe AI 汇聚到非自回归架构之前,Fastino 已经确立了另一种任务专属 AI 路径的商业可行性:在消费级游戏 GPU 上训练小型任务专属语言模型,在生产中用 CPU 运行。
Fastino 于 2024 年 11 月从 M12(微软风投)和 Insight Partners 融得 700 万美元种子前轮资金,2025 年 5 月又从 Khosla Ventures 融得 1750 万美元种子轮 —— Khosla 是 OpenAI 的早期投资者 —— 它主张,通常由 GPU 集群开支主导的 AI 模型开发硬件成本并非有用 AI 的固有属性。据公司自述,其 TLM 的训练硬件成本低于 10 万美元,并且可以在没有 GPU 基础设施的情况下部署到 CPU 上。Fastino 的方法是自回归的,但规模极小:其模型小到延迟和成本特征在企业应用中接近专门的非自回归系统。
Fastino 的 TLM、TypeSafe AI 的 RLCD 和 ScaleDown 的 CDM 在 2025 到 2026 年间的汇聚,反映了一个共同的市场论点:相当一部分企业 AI 工作负载不需要 —— 也无法在经济上承受 —— 通用前沿模型推理。
基础设施、延迟与智能体流水线场景
ScaleDown 融入 LangChain 中间件栈,揭示了其团队瞄准的主要部署模式:不是针对孤立任务的独立 API 调用,而是嵌入多步 AI 智能体流水线内部的处理层。
一个对外部工具执行数十步操作 —— 搜索、读文档、调 API、比较结果 —— 的长时间运行智能体,会随时间生成大量上下文。到第 20 或 30 步时,累积的工具输出可能已超过 LLM 的有效工作记忆容量,既降低推理质量,又因为每次推理都重新发送完整上下文而推高单次调用成本。ScaleDown ToolCompression 中间件的 LangSmith LLM Gateway 集成给出了一个结构性答案:CDM 的 Summarize 或 Extract 模型在工具输出追加到智能体上下文之前把它们处理成紧凑表示,让前沿模型的输入窗口聚焦于与决策相关的信息,而不是此前每个工具结果的全文。
这种混合架构 —— CDM 做预处理和压缩,前沿模型做推理和编排 —— 不是对前沿 LLM 的替代,而是围绕它的一层结构性效率层。经济账取决于预处理调用与前沿 LLM 调用的比例:如果一个智能体每个任务做 30 次工具调用,并在把每个结果传给推理模型之前用 CDM 压缩,那么 30 次每百万 token 0.05 美元的 CDM 调用在总成本中只是四舍五入的误差,同时有可能把前沿模型的输入规模减少 50% 到 70%,前沿 LLM 成本按比例下降。
延迟在这一配置中同样重要。如果 CDM 一次处理输入而没有逐 token 生成循环,它应当比让前沿 LLM 摘要或分类同样内容快得多 —— 使它可以作为同步预处理步骤而不引入用户可察觉的延迟。ScaleDown 宣称相对前沿模型最高 200 倍的速度优势是供应商自报的,且适用于其自选的基准任务,但方向性的说法 —— 对有边界的任务,非自回归结构化预测比自回归生成更快 —— 在架构上是成立的。
对有严格数据驻留要求的组织,混合架构引入了一个数据流问题:CDM 的 API 接收的是完整的、未压缩的工具输出,其中可能含有敏感的企业数据。在 ScaleDown 发布清晰的数据处理协议和区域数据处理文档之前,受 GDPR、HIPAA 或行业特定数据法规约束的组织需要评估把文档内容路由经 CDM 的 API 是否符合其合规义务。这不是 ScaleDown 独有的顾虑 —— 所有第三方 API 提供商都需要同样的评估 —— 但它是企业采用的前提条件,而目前在 ScaleDown 的公开文档中并不显眼。
任务专属模型不能取代什么
「任务专属模型对 LLM」的市场叙事遮蔽了更有用的工程区分。按 ScaleDown 的描述,CDM 架构适合输出空间已知的任务:归入预定义类别的分类、预定义实体类型的抽取、把文档摘要成预定义长度。它要求开发者预先定义任务模式。它不处理新颖的推理任务、开放式问答、代码生成、多步智能体编排,或任何无法预先指定合适输出的情形。
Jev 有同样的结构性约束。TypeSafe AI 的 Choice、Score 和 Boolean 输出类型在其定义范围内是强大的校准工具,但它们要求开发者在需要答案之前就知道模型在回答什么问题。
这意味着在一般情况下 CDM 和 Jev 都不是前沿 LLM 的替代品。在智能体流水线中,它们更自然地充当围绕通用模型的预处理步骤、路由层、置信闸门和输出校验器 —— 或者只对那些在结构上等价于分类或结构化抽取的智能体任务子集作为直接替代。
脆弱性风险是真实的:一个在客服意图类别上训练的任务专属模型,面对训练分布之外的输入时会比通用 LLM 更突兀地失败。通用模型可能产生幻觉;专门模型可能自信地误分类。失败模式不同,生产团队在部署任务专属系统时需要把输入分布偏移当作头等关切。
对于约束解码模型擅长的分类和抽取任务,成本结构的论据很有力。前沿 LLM API 与每百万 token 0.05 美元的专门模型之间的成本差距,大到足以在高流量应用中起决定作用。每天运行数百万次分类调用的组织已经在构建抽象层,把更简单的查询路由到更便宜的模型;CDM 为这种路由提供了一个新的、更便宜的目的地,其成本优势是结构性的,而不只是基于规模的。
市场故事背后的架构问题
这些发布更广泛的意义不在定价 —— 而在架构。AI 行业自 2020 年以来的主流假设是,扩展通用的仅解码器 transformer 是在几乎所有任务上获得更好表现的正确路径。这一假设一直富有成效:GPT-4、Claude 3 Opus、Gemini 1.5 及其后继者在分类、抽取和摘要上确实比前代表现更好。但表现更好不等于对这些任务表现最优,而扩展通用模型的边际能力收益,如今要与任务专属设计在有边界预测问题上的结构性优势竞争。
ScaleDown 的 CDM 代表一个押注:对输出受约束的任务,无论规模多大,自回归解码器都是错误的工具 —— 不是因为小模型比大模型更聪明,而是因为让模型适合开放式生成的那些架构选择,对输出模式已知的任务来说是不必要的成本。TypeSafe AI 的 RLCD 训练方法从另一个方向做了类似的押注:如果任务是为一个有边界的决策产出校准过的置信分,用校准奖励信号训练,比提示通用模型并让它估计自身置信度产出的输出校准得更好。
这些架构在生产中能否持久 —— 还是前沿模型会便宜到通过价格竞争取代它们 —— 仍是一个开放的实证问题。Google、Anthropic 和 OpenAI 在过去一年都已大幅降低了各自较小模型层级的成本。按当前轨迹,前沿模型定价与 CDM 定价之间的差距,可能比 ScaleDown 的企业客户关系加深得更快地收窄。
能厘清 CDM 究竟在哪里真正胜过替代方案 —— 尤其是在同等评估条件下对照同一任务上微调的小型开放权重模型 —— 的独立基准,尚未出现在公开来源中。DecisionBench 可能提供这种清晰度,但它对这些系统的数字仍是二手来源。在独立评估者对 CDM、Jev、微调 Qwen 和前沿基线配置进行受控比较之前,这些性能说法仍是有商业动机且技术上合理的,而非经验上确定的。
已经清楚的是,在每百万输入 token 0.05 美元、输出免费的条件下,在分类和抽取工作负载上评估 CDM 的成本论据足够有力,多数工程团队不必等独立基准就可以跑一个试点。这个架构押注 —— 输出受约束的任务不需要自回归生成 —— 有足够清晰的技术理由和足够具体的定价优势,配得上在评估栈中占一席之地。
下一个值得关注的里程碑不是又一次模型发布,而是一个独立基准 —— 具体说是一个在同等评估条件下、披露任务分布地比较 CDM、Jev、微调开放权重模型和前沿 LLM API 的基准。DecisionBench 的 43 任务、23900 行评估正是为这种比较设计的,但它对 CDM 和 Jev 的数字在当前报道中仍是二手来源。当一项受控条件下的独立评估确认或修正约束解码架构与自回归基线之间的性能差距时,它要么验证 ScaleDown 和 TypeSafe AI 已经押下的设计选择,要么划出其优势成立的边界。在一个变化如此之快的细分市场里,这种证据比任何一家公司的基准发布都更重要。