ServiceNow Apriel Voice 27B 把语音、推理和工具调用统一进一个开放模型
这个 270 亿参数的开放权重模型,用同一套主干同时处理语音和推理、生成工具调用

ServiceNow Research 在 11 月 2 日发表了一篇论文,介绍 Apriel Voice 27B Preview——一个 270 亿参数的开放模型,能在单一架构内接收语音音频、完成多步推理,并执行函数调用。这个模型建立在 Google DeepMind 的 Gemma 4 26B-A4B 基座之上,已在 Hugging Face 上开放,采用 MIT 许可证,使其成为这一能力级别里第一个能直接对打 OpenAI 和 xAI 专有语音模型的开放权重系统。
一套架构取代了三段式流水线——这为什么重要
目前大多数企业语音智能体部署,依次跑三个独立模型:一个自动语音识别模型把音频转成文字,一个大语言模型对这段文字做推理并决定要调用哪些工具,一个文字转语音模型再把回复转换回音频。每一次交接都带来两种失效模式——误差会累积,延迟也会叠加。
当语音识别系统输出一段错误的转写文字时,这个错误会作为一个「事实前提」传进大语言模型;当大语言模型生成一个函数调用时,任何歧义又会在文字转语音这一步再叠加一次。在三个模型串联的情况下,即便每一步的错误率都不高,端到端的失败率也会在用户听到第一个字之前就被成倍放大。
Apriel Voice 27B 去掉了这些交接点。语音词元和文本词元在同一次前向传播里,走的是同一套模型权重,理解和决策之间没有任何序列化环节。ServiceNow 的论文报告,这个模型在τ-Voice 基准上达到 65.51% 的任务完成率——这是 Sierra AI 开发的一套全双工语音智能体评测,按实际的数据库状态变化而不是模型自我评估来打分。
这个模型是怎么训练的,又没有丢掉推理能力
这套架构的基座是Gemma 4 26B-A4B,一个来自 Google DeepMind 的混合专家模型,总参数量为 252 亿,但每个词元只激活约 38 亿参数。它每层有 128 个专精专家模块,每次前向传播会把词元路由到其中 8 个活跃专家——这让模型在相对较低的推理算力下拥有较大的有效容量。25.6 万词元的上下文窗口,是为长语音任务会话挑选架构时的一项关键考量。
训练分两个阶段进行。第一阶段冻结 Gemma 主干,只训练一个 Whisper large-v3-turbo 语音编码器和一个把音频表征映射进大语言模型嵌入空间的投影层。这一步建立起语音接口,同时不打扰基座模型已有的推理能力。
第二阶段是 Apriel Voice 真正偏离标准微调做法的地方。投影层和整套主干被同时联合调整,用了四个并行目标:在语音相关任务上做监督微调;做文本重放,防止主干原有的文本能力被灾难性遗忘;按来源区分交叉熵权重,对语音输入和文本输入施加不同的监督信号;以及正向 KL 散度对齐,持续把语音模型的输出分布拉向作为在线教师的原始文本模型。
这套在线蒸馏方案的实现是为了效率:教师模型就在同一硬件上本地运行,它的推理过程与学生模型的梯度更新重叠进行,以缩短实际训练耗时,KL 散度的计算覆盖完整词表,并使用融合损失函数。最终得到的模型,在加入语音理解能力的同时,没有退化到一个更小或能力更弱的基线模型的语言水平。
基准表现,以及这些数字真正说明了什么
Apriel Voice 27B Preview 在四项评测上报告了公司自测分数。在Big Bench Audio——一个涵盖 12 项任务(包括情绪识别、口头算术和事实问答)的音频推理基准上,这个模型在思考模式下得分 98.90,高于 OpenAI 的 GPT-Realtime-2 在同一基准上报告的 96.6%,不过两个结果都尚未经过独立复现。
在Speech-BFCL——由 Salesforce AI Research 和加州大学伯克利分校联合开发的伯克利函数调用排行榜的音频版本,包含 6200 个经专家验证的函数调用任务——上,Apriel Voice 27B 得分 81.13。在 278 个客服语音任务上,τ-Voice 65.51% 的得分,与 xAI 的 Grok Voice Think Fast 1.0 在同一基准上约 67% 的得分,相差大约 1.8 个百分点。
在 τ-Voice 任务上 1.91 秒的平均端到端延迟是公司自报数字,需要一些背景信息来理解。对于企业场景——排期、服务请求、数据库查询——两秒左右的响应延迟通常是可以接受的。但对于用户期待的那种像打电话一样的对话体验,这可能还不够。「Preview」这个标签说明这是一次研究发布,不是一个经过硬化的生产系统,延迟优化通常正是研究预览版走向生产部署之间要重点解决的问题。
开放权重对阵闭源竞品
竞争格局在很大程度上取决于授权方式。GPT-Realtime-2 是一个闭源 API,定价为每百万输入词元 32 美元、每百万输出词元 64 美元——每天处理成千上万对话的企业语音智能体,在这样的价格下,单次对话的算力成本相当可观。Grok Voice Think Fast 1.0 按每分钟 0.05 美元计费,这种定价模式更贴近电信基础设施的习惯,但依然完全闭源。
Apriel Voice 27B 的 MIT 许可证允许企业在自己的基础设施上运行推理,不产生按词元计费的成本,客户语音数据也留在企业自己掌控的硬件上——对受监管行业里的企业来说,这是一个实质性的区别。宽松的 MIT 条款对商业再分发或衍生产品不设任何限制,让企业和技术厂商在如何基于这个模型构建或打包产品上有很大自由度。
这个模型延续了 ServiceNow 与 NVIDIA 的合作,这一合作在 2025 年年中已经产出过 Apriel Nemotron 15B。Apriel 系列最早是在 2025 年 4 月以一个 50 亿参数的企业推理模型起步的;这次 270 亿参数的语音版本,是它第一次向语音能力的延伸。
局限性,以及通向生产环境的路
论文里的「Preview」标签不是装饰性的。目前还没有任何独立评估发布过对这些基准分数的复现结果。读者在看待这些结果时,在第三方研究者复现之前,应当把它们当作公司自报数据来看待。
ServiceNow 目前在语音方向的生产流水线——把 Ink-Whisper 用于语音识别、Cartesia Sonic-2 用于合成——并没有被 Apriel Voice 27B Preview 取代。这篇论文是一项研究贡献,从一次研究预览走向平台集成的生产系统,通常还需要额外的安全评估、延迟优化,以及企业级硬化,而这些都不是这篇论文所涉及的内容。
这篇论文真正确立的,是这种架构前提在这个规模、用这种训练方法是可行的。剩下的问题是:一旦端到端的准确率和延迟表现得到独立验证,这些指标能否证明,在企业内部自行运行一个 270 亿参数的混合专家模型所带来的运维复杂度是值得的,而不是直接调用一个专有 API。开放的 MIT 许可证意味着,一旦这些基准结果得到独立确认,决定胜负的将是这些结果本身,而不是定价谈判。