⚡ 猫叔的AI资讯雷达
模型开源

百度开源2800亿参数文心5.5 Flash Base

百度开源文心5.5 Flash Base,采用稀疏架构与超长上下文,为中国开放权重模型竞争加入新的大规模选手。

发生了什么

百度在北京白天时段发布了开放权重模型文心5.5 Flash Base。该模型总参数量据报道达到2800亿,每个Token约激活140亿参数;预训练使用了3.35万亿Token,训练上下文长度为128K,微调和推理阶段支持最长100万Token上下文。

这次发布的关键,不只是参数规模,而是百度把新一代基础模型从托管API体系中拿出来,交给外部开发者和研究者使用。开发者可以研究权重、进行适配和微调,并将其与其他中国及海外开放模型直接比较。稀疏架构意味着总参数量不能简单等同于单次推理成本,但部署仍然需要较大的显存规模和工程投入。

为什么重要

随着开发者越来越重视可控部署、本地化运行和微调自由度,百度的动作让中国开放权重模型市场又多了一个重要来源。它也给研究界提供了一个新样本,用来检验大规模混合专家架构能否在保持实际可部署性的同时,把规模优势转化为能力优势。

需要保留的疑问是许可证和可复现性。开放权重不等于可以无条件商用,榜单成绩也需要围绕推理、代码、多语言和长上下文检索进行独立验证。它最终能否产生广泛影响,还取决于中国云平台、推理服务商和开发者社区是否能降低部署门槛。

因此,百度争夺的不只是模型分数,也是在争取让文心成为其他团队可以长期依赖的基础设施。

信源