百度发布 2800 亿参数的 ERNIE 5.5 Flash Base:限制性许可排除欧盟和英国
这个 2800 亿参数的稀疏检查点在基座模型基准上领先,但在欧盟或英国不能商用

百度在 11 月 5 日发布了 ERNIE-5.5-Flash-Base,这是自 2025 年 6 月 ERNIE 4.5 系列以来,公司首个大规模开放权重模型。这个检查点把 2800 亿总参数塞进了一个稀疏混合专家架构里,推理时每个词元只激活大约 140 亿参数——以一小部分单词元算力成本,实现了全模型级别的表达能力。这次发布瞄准的是研究者和企业,他们需要的是一个用于领域适配的大型预训练基座,而不是一个开箱即用的助手。
然而,这次发布与 ERNIE 4.5 真正的区别,不在架构,而在许可协议。覆盖 ERNIE 4.5 的 Apache 2.0 授权已经没有了。取而代之的是《ERNIE 5.5 Flash Base 模型许可协议 v1.0》——一份定制文件,禁止在欧盟、英国和韩国运营的组织将其用于商业用途,设立了一套按营收分级的审批制度,并明确禁止用这些权重去改进不相关的 AI 系统,这一条款针对的是模型蒸馏。
一份定制许可协议,收窄了这个模型的商业触达范围
地域限制,是与 ERNIE 4.5 条款最大的背离。按新协议规定,任何主要商业运营位于欧盟、英国或韩国的公司,无论其推理基础设施位于哪里,都不得将该模型用于商业部署。对年营收低于 5000 万美元的组织,商业使用只需向百度一次性报备,并标注「Powered by ERNIE」的署名标识。年营收超过 5000 万美元的,则需要百度事先的书面授权——这一条款,让公司对高营收部署具备了知情权,以及实质上的否决权。
百度没有公开解释这些地域排除条款的理由。这些限制,与中国科技公司普遍考量的监管风险相符:欧盟《AI 法案》的义务、英国的数据保护法,以及韩国的《个人信息保护法》,各自都带来了一份单边模型许可协议无法应对的合规负担。这些限制,也可能反映出在不断演变的出口管制框架下,对高参数量模型权重的敏感性考量。
架构:43 层,512 个专家,两套不同的注意力系统
ERNIE-5.5-Flash-Base运行在一个 43 层的 Transformer 上,第一层是一个稠密前馈层,后面跟着 42 层多路由器潜在混合专家层。每个 MoE 层包含 512 个被路由的专家,其中每个词元激活 10 个,再加上一个始终触发的共享专家。专家在一个 2048 维的潜在空间里运作——是模型 4096 维隐藏维度的一半——这让专家分发的计算成本,比全宽度设计降低了大约一半。
这个模型使用两套不同的注意力机制。37 层使用「重度压缩注意力」,每 128 个词元的区块只存一条 KV 缓存记录,再加一个简短的近期窗口,大幅削减长序列的 KV 显存消耗。剩下的 6 层使用多头潜在注意力,把键和值压缩成一个低秩表示,并用一个学习到的索引器,去检索得分较高的更早位置。这两者结合,让这个模型能处理 12.8 万词元的训练上下文——微调时可扩展到一百万词元——而不需要按比例扩大缓存需求。
训练用的是Muon 优化器,一种基于动量的 AdamW 替代方案,为分布式 MoE 训练做了适配调整。权重以 FP8 精度发布(约 288 GB),同时也提供 BF16 版本。
基准测试结果:百度自测,对比基座模型同行
百度的内部评测显示,ERNIE-5.5-Flash-Base 在 30 项基准测试中的 24 项上,领先于同类基座模型。在 MMLU(5-shot)上得分 93.3,相比 DeepSeek-V4-Flash-Base 的 89.4 和混元 3 的 87.5。HumanEval+(1-shot Pass@1)达到 82.3,相比同类对比对象的 69.5 和 78.0。MMLU-Pro 得分 78.4,GPQA 得分 60.2。
这次评测并不是全面领先。DeepSeek-V4-Flash-Base 在 InfiniteBench 上领先(48.0 对 46.5),混元 3 在 FullStackBench 上领先(56.7 对 54.6)。截至本文撰写时,还没有发布任何独立评测。所有数字都是公司自报的,由百度在自己选定的条件下,针对基座模型同行跑出来的。
部署需要数据中心级硬件;目前还不支持本地推理
加载 ERNIE-5.5-Flash-Base 做推理,FP8 检查点至少需要 288 GB 的 GPU 显存。支持的框架是 SGLang 和 vLLM,配合百度的FlashMask注意力内核,目标硬件是英伟达的 Hopper 和 Blackwell GPU。百度推荐的微调配置,要求 16 个节点,每个节点配 4 块 GB300 GPU。截至发稿,llama.cpp 和 mlx-lm 都还不支持这个架构,这意味着桌面端或消费级硬件上的推理目前还无法实现。
中国的开放权重模型,在许可开放程度上走向了分歧
ERNIE-5.5-Flash-Base 发布的前一天,月之暗面刚发布了 Kimi K3.1 Pro 的权重;三天前,美团刚通过 API 提供了 LongCat-2.5。架构上最接近的同行 DeepSeek-V4-Flash-Base,在 2026 年 4 月以 MIT 许可证发布——这是限制最少的选项——总参数量 2840 亿,每个词元激活 130 亿。
DeepSeek 几乎移除了下游的所有限制,而百度则在重新收紧对高营收商业应用的控制权,并设立了让三大主要市场的采用变得复杂的地域排除条款。那些把 ERNIE 5.5 Flash Base 当作微调基座来评估的组织,在存在参数量相近、却采用 MIT 许可证的替代方案的情况下,必须权衡它的技术水平与这份定制许可协议之间的取舍。
预计还会有一个经过后训练的 ERNIE 5.5 Flash 版本发布。那次发布是否带有同样的地域限制,将决定这个模型在中国以外的生产级 AI 技术栈里,能被采用到多广的范围。