首页 > 热点 > 正文

百度:文心大模型大幅升级,3.5版本推理速度提升17倍

2023-06-27 20:30:54来源:贝壳财经  


(资料图片仅供参考)

据了解,与文心大模型3.0相比,3.5版本不仅在创作、问答、推理和代码能力上全面升级,安全性显著提升,训练和推理速度也大幅提升。这将大大提高模型迭代升级的效率,大幅降低训练及使用成本,进一步提升用户体验。

功能方面,文心大模型最大的一个变化是新增了插件机制。“文心大模型3.5通过插件方式扩增了大模型的能力边界。”百度首席技术官王海峰说,默认的内置插件“百度搜索”,使得文心一言具备生成实时准确信息的能力;长文本摘要和问答插件“ChatFile”支持超长文本输入等等。

王海峰表示,下一阶段,文心一言将发布更多优质的百度官方和第三方插件,让用户能够更好地应用文心大模型。同时,文心一言也将逐步开放插件生态给第三方开发者,帮助开发者基于文心大模型打造自己的应用。

王海峰还透露,文心大模型3.5在基础模型训练上采用了飞桨最先进的自适应混合并行训练技术及混合精度计算策略,并采用多种策略优化数据源及数据分布,大大加快了模型的迭代速度,显著提升了模型效果和安全性。同时,百度文心大模型研发团队创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术,使模型效果及场景适配能力进一步提升。

此外,在推理方面,百度研发团队还通过大规模逻辑数据构建、逻辑知识建模、粗粒度与细粒度语义知识组合以及符号神经网络技术,显著提升文心大模型3.5在逻辑推理、数学计算及代码生成等任务上的表现。

校对 翟永军

标签:

相关阅读

相关词

推荐阅读