百度发布 2800 亿参数开源基础模型 ERNIE 5.5 Flash Base
Baidu releases ERNIE 5.5 Flash Base with 280 billion parameters as an open-source foundation model
百度发布开源基础模型 ERNIE-5.5-Flash-Base，刻意不做微调和后训练，交由开发者自行决定后续方向，后训练版本后续推出。该模型采用 MoE 架构，总参数 2800 亿、每次输入激活 140 亿，预训练使用 33.5 万亿 token，训练上下文最长 128,000 token，设计上支持微调与推理时最高 100 万 token 上下文。
同一件事，精选收录的是《百度开源文心 5.5 Flash Base 预训练基座模型》
百度的 AI 发展仍在继续，但大部分工作要由你自己完成。这家中国公司发布了 ERNIE-5.5-Flash-Base，这是一个开放的基础模型，刻意不附带微调或后训练。开发者需要自行决定将这个模型带向何方。后续预计会推出一个经过后训练的版本。
ERNIE 5.5 采用混合专家架构，拥有 2800 亿参数，其中每次输入激活 140 亿参数。该模型在 33.5 万亿 token 上进行了预训练，训练上下文最高可达 128,000 token，不过它被设计为在微调和推理时支持最高一百万 token 的上下文。
据百度称，在推理、代码和长上下文任务的基准测试中，该模型与 DeepSeek V4 Flash 或 MiMo V2.5 等规模相近的开放基础模型不相上下。权重已在 Hugging Face 上以 FP8 和 BF16 格式提供。
没有炒作的 AI 新闻——由人工精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六次独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
来源：The Decoder · the-decoder.com