日前,《中国科学报》独家披露百度文心大模型3.5版本已内测应用,且在三大公开测试集上的评测中表现不俗,综合能力评测得分超过ChatGPT、部分中文能力超出GPT-4。今年3月,百度新一代知识增强大语言模型“文心一言”公开邀测。该模型基于文心大模型3.0版本打造。时隔3个多月,文心大模型3.5版本的效果、功能、性能全面提升。对此,百度首席技术官王海峰向《中国科学报》作了详细解读。
王海峰介绍说,与文心大模型3.0版本相比,3.5版本在效果、功能、性能上全面提升,这不仅表现在文心大模型的创作、问答、推理和代码的提升上,还体现在训练速度和推理速度的提升上。对比数据显示,文心大模型3.5的训练速度提升2倍、推理速度提升17倍。这将大大提高模型迭代升级效率,大幅降低训练及使用成本,进一步提升用户体验。
功能方面,文心大模型最大的一个变化是新增了插件机制。王海峰表示,下一阶段,文心一言将发布更多优质的百度官方和第三方插件,使用户能够更好地应用文心大模型。同时,文心一言将逐步开放插件生态给第三方开发者,帮助开发者基于文心大模型打造自己的应用。
王海峰透露,文心大模型3.5在基础模型训练中采用了飞桨最先进的自适应混合并行训练技术及混合精度计算策略,采用多种策略优化数据源及数据分布,大大加快了模型的迭代速度,显著提升了模型效果和安全性。同时,百度文心大模型研发团队创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术,使模型效果及场景适配能力进一步提升。
王海峰说,在此前的知识增强和检索增强的基础上,文心大模型3.5版本进一步提出了“知识点增强技术”。知识点增强技术首先是对用户输入的查询、问题等进行分析理解,并解析生成答案所需要的相关知识点,之后运用知识图谱和搜索引擎为这些知识点找到相应答案,最后用这些知识点构造输入给大模型的提示。
显然,知识点增强技术能为大模型注入更具体、更详细、更专业的知识点,显著提升大模型对世界知识的掌握和运用,使其完成各项任务的效果显著提升。有细心人士已注意到,目前面向公众邀测的文心一言自5月23日以来,已升级到文心一言2.0,最新版本为6月21日上线的文心一言V2.1.0。
该版本的更新信息有“上线官方插件ChatFile,可基于长文档进行问答和摘要”“优化了模型在数学计算和作文创作的能力”等,其背后正是文心大模型3.5提供的服务。王海峰告诉记者,已获得邀测资格的用户可以随时访问服务,体验文心大模型3.5的实际效果。他表示,文心一言有很多应用场景,例如智能办公、智能编程、智能营销、智能媒体、智能教育、智能金融等。