6月30日，百度正式开源文心大模型4.5系列模型，涵盖47B、3B激活参数的混合专家（MoE）模型，与0.3B参数的浓密型模型等10款模型，并实现预训练权沉和推理代码的齐全开源。目前，文心大模型4.5开源系列已可在飞桨星河社区、HuggingFace等平台下载部署使用，同时开源模型API服务也可在百度智能云千帆大模型平台使用。早在今年2月，百度就已预报了文心大模型4.5系列的推出打算，并明确将于6月30日起正式开源。 据介绍，文心大模型4.5开源系列针对MoE架构提出了一种创新性的多模态异构模型结构，合用于从大说话模型向多模态模型的持续预训练范式，在维持甚至提升文本工作机能的基础上，显著加强了多模态理解能力，其优越的机能重要得益于多模态混合专家模型预训练、高效训练推理框架和针对模态的后训练等关键技术点。 文心大模型4.5开源系列权沉依照Apache 2.0和谈开源，支持发展学术钻研和产业利用。此表，基于飞桨提供开源的产业级开发套件，宽泛兼容多种芯片，降低模型的后训练和部署门槛。 值得关注的是，这次文心大模型4.5系列开源后，百度实现了框架层与模型层的“双层开源”。作为国内最早投入AI研发的企业之一，百度在算力、框架、模型到利用的四层布局构建了显著的AI全栈技术优势。其中，飞桨是中国首个自主研发、职能丰硕、开源盛开的产业级深度进建平台，基于多年飞桨开源技术与生态系统堆集，这次文心大模型4.5开源系列同步升级颁布文心大模型开发套件ERNIEKit和大模型高效部署套件FastDeploy，为文心大模型4.5系列及开发者提供开箱即用的工具和全流程支持。