百度文心大模型4.5系列模型正式开源

中国青年报客户端讯(中青报·中青网记者 贾骥业)6月30日,百度正式开源文心大模型4.5系列的10款模型,包括47B、3B激活参数的混合专家(MoE)模型,以及0.3B参数的稠密型模型等,并实现预训练权重和推理代码的完全开源。

据了解,文心大模型4.5开源系列针对MoE架构提出了一种创新性的多模态异构模型结构,能在保持甚至提升文本任务性能的基础上,显著增强多模态理解能力。百度方面介绍,在多模态模型方面,文心大模型4.5开源系列拥有卓越的视觉感知能力,在视觉常识、多模态推理、视觉感知等主流的多模态大模型评测中优于闭源模型OpenAI o1。

作为国内最早投入AI研发的企业之一,百度在算力、框架、模型到应用的四层布局构建了明显的AI全栈技术优势。此次文心大模型4.5系列开源后,百度实现框架层与模型层的“双层开源”。

早在今年2月,百度就预告文心大模型4.5系列的推出计划,并明确于6月30日起正式开源。目前,文心大模型4.5开源系列已在飞桨星河社区、HuggingFace等平台上线。同时,开源模型API服务也可在百度智能云千帆大模型平台使用。

图片

文心大模型4.5系列模型。百度供图

来源:中国青年报客户端