百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

2天前发布 jovi
2 0 0

百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

2800亿参数仅激活140亿,百度开源文心5.5 Flash Base基座模型,多项基准刷新同尺寸SOTA!支持百万Token上下文,采用MoE架构与Latent-Gated稀疏注意力机制,大幅降低长文本处理算力开销。无需额外MTP模块即可提升推理与代码能力,为企业私有化部署和定制开发提供高效底座,不跟进即落后。

🔗 [工具链接]:https://huggingface.co/baidu/ERNIE-5.5-Flash-Base

来源:量子位

© 版权声明

相关文章

没有相关内容!