百度把一个大模型的“毛坯房”直接摆上了台面。

发生了什么

据 MarkTechPost 报道,百度发布了 ERNIE 5.5 Flash Base。这是一个稀疏 MoE 架构的基座模型:总参数 280B,推理时激活参数约 14B,训练数据规模为 33.5T token。

更值得注意的发布方式是时间点——该模型在任何中训练(mid-training)与后训练(post-training)之前就被公开。也就是说,外界拿到的是一个尚未经过指令微调、对齐或偏好优化的原始基座,而非打磨过的对话产品模型。

为什么重要

基座模型先发、成品模型后发,这在过去两年并不常见。多数厂商对外只交付“能用的模型”,基座权重往往留在内部,因为基座是后续所有微调、蒸馏和产品化的起点,也是最能体现训练配方与数据工程的资产。

百度选择把 280B/14B 的稀疏 MoE 基座提前放出,至少传递了两层信息。其一是工程自信:33.5T token 的训练规模意味着数据管线与训练稳定性已经跑通,敢于让外部检验。其二是生态取向:基座对研究者和企业微调团队的价值,远高于一个封闭的对话接口——他们需要的是可继续训练的起点,而不是一个黑盒。

稀疏 MoE 本身也是当下大模型的主流路线之一。280B 总参数保证容量,14B 激活参数控制单次推理的算力开销,这种“大而稀疏”的结构在效果与成本之间取平衡,对部署方尤其有吸引力。

影响与看点

对开发者而言,最有价值的不是跑分,而是可微调性。一个未经后训练的基座,意味着团队可以按自己的领域数据做继续预训练或 SFT,而不必先“洗掉”厂商预设的对话风格与安全对齐痕迹。这对垂直行业模型、企业内部私有化部署是实质性利好。

对行业而言,这延续了国内厂商在开源权重上的竞争节奏:比拼的不只是模型能力,还有发布策略——谁更愿意把中间产物交出来,谁就更容易聚拢开发者。

需要克制看待的是,目前公开信息集中在架构与训练规模,缺少基准测试结果和具体许可条款。基座能力如何、商用限制多严、推理成本落在什么区间,都还需等权重与评测放出后才能判断。

一个独立判断:基座先行的发布方式,正在把竞争从“谁的模型更能聊”转向“谁的模型更好改”。对真正做产品的团队来说,后者才是长期变量。