百度正式开源文心大模型4.5系列，并与中国算力平台模创空间合作，推动AI技术在各领域的应用。新模型采用多模态混合专家模型预训练技术，提升了文本生成、图像理解和多模态推理能力。通过异构混合并行和多层级负载均衡策略，实现了高效的训练和推理框架。文心大模型4.5针对不同模态进行了精调，满足通用语言理解、生成以及视觉语言理解等多场景需求，旨在加速AI技术的商业化进程。

💡文心大模型4.5采用了多模态混合专家模型预训练技术，结合异构混合专家结构和多维旋转位置编码，增强了不同专家间的正交性。这种技术创新显著提升了模型在文本生成、图像理解和多模态推理任务中的效能。

🚀为了支持高效训练，文心大模型4.5提出了异构混合并行和多层级负载均衡策略。在推理方面，采用了多专家并行协同量化方法和卷积编码量化算法，从而构建了高效的训练推理框架。

🖼️针对不同模态，文心大模型4.5进行了精调。大语言模型专注于通用语言理解和生成，多模态大模型则侧重于视觉语言理解，并支持思考和非思考模式，以满足实际场景中的多样化需求。

🌐中国算力平台模创空间率先上线文心大模型，该平台由中国信息通信研究院建设，汇聚“多源+多元”模型服务。通过服务网关能力，实现模型及AI应用的在线调用服务，方便开发者进行开发创作。

快科技6月30日消息，百度今天正式开源文心大模型4.5系列模型。与此同时，中国算力平台模创空间率先上线文心大模型。

中国算力平台是在工信部指导下，中国信息通信研究院建设的平台，汇聚“多源+多元”模型服务。

通过服务网关能力，实现模型及AI应用的在线调用服务。模型方可以将自有模型通过API方式发布到模型市场，开发者可以在线调用模型进行开发创作。

作为前沿人工智能成果，文心4.5创新运用多模态混合专家模型预训练技术，以异构混合专家结构结合了多维旋转位置编码，并且在损失函数计算时，增强了不同专家间的正交性，提升文本生成、图像理解以及多模态推理等任务效能。

为支持高效训练提出异构混合并行和多层级负载均衡策略，在推理方面提出多专家并行协同量化方法和卷积编码量化算法，从而实现高效训练推理框架。

对预训练模型进行了针对模态的精调，大语言模型针对通用语言理解和生成进行了优化，多模态大模型侧重于视觉语言理解，支持思考和非思考模式，满足实际场景不同需求。