百度文心 5.5 Flash Base 模型正式开源

百度在 11 月 5 日正式开源文心 5.5 Flash Base,也就是 ERNIE 5.5 Flash Base,它属于稀疏 MoE 架构的基座大模型,没有经过指令微调、RLHF 这类后训练处理,适合开发者拿来做二次开发。现在很多长文档分析、智能体开发场景,既想要大模型能力强,又不想推理成本太高,这款模型主打效率优化,在注意力、专家路由等地方做了算法改进,它总参数 2800 亿,但每次 token 只激活 140 亿参数,降低算力消耗,预训练用了 33.5 万亿 token,原生训练支持 128K 上下文,微调推理阶段最长能开到 100 万 token,在推理、代码、长文本、多语言等多项基准测试拿到同尺寸 SOTA,权重已经上传 Hugging Face,还配套 vLLM、SGLang 推理框架生态,开发者可以直接下载权重开展领域微调、智能体研究等工作。

文心 5.5 Flash Base 核心参数清单

  1. 模型架构:稀疏 MoE 混合专家架构
  2. 总参数量:2800 亿(280B)
  3. 单 Token 激活参数:140 亿(14B)
  4. 预训练数据规模:33.5 万亿 Token
  5. 预训练原生上下文:128K
  6. 微调推理支持上下文:最高 100 万 Token
  7. 权重版本:FP8、BF16 两种版本
  8. 模型定位:纯净预训练基座,无后训练

配套开源生态

  • 权重托管平台:Hugging Face
  • 适配推理框架:vLLM、SGLang
  • 配套资源:技术博客、推理插件、部署教程

适合开发场景

  • 行业领域大模型微调
  • 长文档解析、海量文本检索总结
  • AI 智能体(Agent)研发
  • 代码生成、多语言研究

【相关 FAQ】

问题 1:百度开源的文心 5.5 Flash Base 模型,是可以直接拿来给普通用户对话使用的成品模型吗?

回答 1:百度开源的文心 5.5 Flash Base 模型是纯净预训练基座模型,没有做指令微调、RLHF 后训练,不适合直接给普通用户对话使用,主要给开发者、科研人员做微调、智能体实验、领域模型二次开发。

问题 2:文心 5.5 Flash Base 模型的上下文能力怎么样?

回答 2:文心 5.5 Flash Base 模型预训练阶段原生支持 128K 上下文,在微调与推理阶段,最长可以支持 100 万 Token 上下文,适合处理超长文档、整本书籍、批量日志这类长文本任务。

问题 3:部署文心 5.5 Flash Base 模型,为什么用 MoE 稀疏设计?

回答 3:文心 5.5 Flash Base 模型采用 MoE 稀疏架构,虽然总参数达到 2800 亿,但每个 token 只激活 140 亿参数,在保障模型能力的前提下,减少推理时的算力、显存开销,兼顾模型效果和运行成本。

【参考资料】

[2026-11-05](百度开源文心 5.5 Flash Base)新华网

[2026-11-05](280B 总参数、14B 激活!百度开源文心 5.5 Flash Base,拿下同尺寸 SOTA)智东西

[2026-11-05](百度文心大模型今日发布 ERNIE-5.5-Flash-Base,开放预训练终点的权重)IT 之家

【免责声明】

本文内容仅为公开新闻信息整理,文心 5.5 Flash Base 模型的使用权限、许可协议、部署限制、性能表现以百度官方文档、开源仓库协议为准,不构成商用落地、采购选型建议。

本文来自作者[雾粒网关]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/bdt/202611/1260.html

赞 (8)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 雾粒网关
    雾粒网关 2026年11月10日

    我是乌兰科技网的签约作者“雾粒网关”!

  • 雾粒网关
    雾粒网关 2026年11月10日

    希望本篇文章《百度文心 5.5 Flash Base 模型正式开源》能对你有所帮助!

  • 雾粒网关
    雾粒网关 2026年11月10日

    本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索

  • 雾粒网关
    雾粒网关 2026年11月10日

    本文概览:百度在 11 月 5 日正式开源文心 5.5 Flash Base,也就是 ERNIE 5.5 Flash Base,它属于稀疏 MoE 架构的基座大模型,没有经过指令微调、RLHF 这类后训练处理,适合开发者拿来做二次开发。现在很多长文档分析、智能体开发场景,既想要大模型能力强,又不想推理成本太高,这款模型主打效率优化,在注意力、专家路由等地方做了算法改进,它总参数 2800 亿,但每次 token 只激活 140 亿参数,降低算力消耗,预训练用了 33.5 万亿 token,原生训练支持 128K 上下文,微调推理阶段最长能开到 100 万 token,在推理、代码、长文本、多语言等多项基准测试拿到同尺寸 SOTA,权重已经上传 Hugging Face,还配套 vLLM、SGLang 推理框架生态,开发者可以直接下载权重开展领域微调、智能体研究等工作。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们