新加坡国立大学开源 Jeva:候选重排序零翻转的决策原生模型
形式化保证:空值感知、置换不变、选项可扩展、可缓存

新加坡国立大学的研究者发布了 Jeva,一个开放权重的决策原生架构,在候选项重新排序时实现了零决策翻转 —— 这是一个影响竞品系统 17% 到 26% 查询的结构性失效模式。这篇论文 arXiv:2610.18773 于 2026 年 10 月 13 日提交,次日就以 273 票以上登上 HuggingFace Papers 第一。
这次发布距 TypeSafe AI 推出其商业 Jev 模型一个月 —— 那是一个由 4000 万美元种子融资支撑的闭源 System One 服务。Jev 以托管 API 的形式进入市场,而 NUS 的论文给了研究社区第一份经同行评审、关于决策模型必须在结构上保证什么的架构论述,并附带开放权重供工程师检视和部署。
什么是 System One 决策模型,排序偏差为什么要紧
System One 模型 —— 以 Kahneman 所说的快速、自动的认知命名 —— 在单次前向传播中返回一个类型化决策(一个候选选择、一个校准过的分数,或一次弃答),而不是生成自由文本。标准 LLM 可以通过把候选标签放进提示来充当分类器,但骨干网络预训练分布中烙下的位置编码会渗入候选表示,意味着一个候选所处的位置会改变它的概率。论文用翻转率衡量这一点 —— 重新排序候选项后模型 top-1 答案发生变化的测试查询占比。在被评估的模型中,翻转率从 InternDecision-4B 的 17% 到 ReFlex-4B 的 26% 不等。Jeva 的实测翻转率为零。
强制实现这一保证的架构
Jeva 的设计把请求和每个候选选项分别独立送入 Qwen3.5-4B 骨干网络,为每一个产出池化表示。这些向量进入一个紧凑的决策栈:单个 transformer 块,8 个注意力头,模型维度 768,前馈宽度 3072。
结构性约束在于这个块的运作方式。请求状态关注选项向量,但选项向量不会反过来关注查询。选项表示在决策栈内部是不可变的。由于没有任何依赖查询的信息能流入选项一侧,模型无法学到候选项的位置依赖模式 —— 排序偏差进入的通道由此被移除。置换不变性在下游由一个对候选分数的对称聚合函数来保证。
一个独立的 sigmoid 门以候选最高分为输入,估计候选集中是否存在任何有效答案 —— 独立于对候选项的 softmax。把「是否存在有效答案」与「哪个答案最好」分开,就是论文所称的空值感知。它允许显式弃答(输出 Noul),而不必把概率质量硬塞给最不错的那个选项 —— 这是所有被考察的竞品模型都缺失或只部分实现的能力。
训练在冻结的 Qwen3.5-4B 骨干上使用秩 64 的 LoRA 适配器,配合分阶段课程,把覆盖门的 BCEWithLogits 损失与候选选择的交叉熵结合起来。适配器在服务时合并,消除推理开销。
基准成绩与缓存优势
Jeva 在 BANKING77(银行意图分类)、MASSIVE(多语言 NLU,18 种语言)、Mind2Web(从 HTML 候选中选择网页智能体动作)以及类型化决策路由任务的八个全覆盖准确率切片中领先七个。所有数字均为实验室自报;尚无独立复现得到确认。
经济性论证由缓存驱动。由于选项表示与查询无关且不可变,它们可以预先计算一次,供之后针对同一候选集的每次查询复用。论文报告请求内评分的中位延迟降低超过两倍,跨请求复用超过二十倍。TypeSafe 的 Jev 对 API 访问按每百万输入 token 0.042 美元定价;在高吞吐下,Jeva 的缓存倍数直接转化为同等吞吐下的成本降低。
Jeva 在决策模型生态中打开的缺口
更广泛的 System One 生态来得很快:Kev(Jared Palmer,Apache-2.0,0.8B 到 9B)、InternDecision、JevK5 和 ReFlex-4B 都在 Jeva 之前作为开放权重入场者出现。这些模型缺的是对任何决策模型必须满足的结构性要求的形式化推导。Jeva 的论文确立了四项:空值感知、置换不变、选项可扩展到 2048 个以上候选,以及跨请求可缓存。按论文的框架,不满足其中任何一项的模型,对决策问题而言在结构上都是规格不足的 —— 不论其基准准确率如何。
对构建智能体流水线和路由系统的团队来说,这一结果有实际意义:读取 LLM logit 做分类带有无法靠训练消除、只能靠架构移除的翻转率风险。Jeva 的独立编码器设计与任何产出池化嵌入的骨干兼容,所以该架构并不永久绑定在 Qwen3.5-4B 上。
Xinchao Wang 的 NUS 团队 —— 以 MetaFormer、LLM-Pruner 和 DeepCache 闻名 —— 做出了一个商业和开源决策模型开发者现在都必须面对的基线。TypeSafe 的 4000 万美元种子轮隐含的假设是:不存在一个带形式化保证的可信开放权重替代品。Jeva 没有复制 Jev 的生产基础设施,但它把问题的架构核心置于可审视、可扩展的开放状态。
延伸阅读:vLLM-SR 开源 Decision 3.0 决策模型,文本和视觉都超 Jev
下一个里程碑是在标准基准划分上独立复现 Jeva 的零翻转率。一旦得到确认,它将正式把排序偏差确立为 logit 读取式分类器的结构性缺陷 —— 其影响远超当前的 System One 小众领域。