汇通财经网

百度飞桨框架3.0正式版发布

  4月1日,深度学习平台飞桨宣布新一代飞桨框架3.0正式发布,以“动静统一自动并行”等五大核心技术创新为大模型训推提速。

  作为大模型时代的Infra“基础设施”,深度学习框架的重要性愈发凸显,大模型训练、推理等任务都离不开深度学习框架的优化与支撑。

  飞桨框架3.0从设计理念上实现了从底层硬件适配到顶层开发体验的全面进化,在训练效率、性能、兼容性等关键指标上建立了新标杆。其中,“动静统一自动并行”、“大模型训推一体“、“科学计算高阶微分”、“神经网络编译器”、“异构多芯适配”这五大技术新特性,系统性解决了当前大模型产业面临的训练成本高、推理效率低、硬件适配难等核心痛点。

百度飞桨框架3.0正式版发布
图片来源于网络,如有侵权,请联系删除

  飞桨提出的"动静统一自动并行"技术,大幅降低大模型开发训练成本,让算法创新回归核心价值创造;同时,"训推一体"设计理念打破了训练与推理的割裂状态,通过全方位深度优化,飞桨框架3.0能够支持众多开源大模型进行高性能推理,并在DeepSeek V3/R1上取得了突出的性能表现。

百度飞桨框架3.0正式版发布
图片来源于网络,如有侵权,请联系删除

  目前,飞桨框架3.0支持文心4.5、文心X1等多款主流大模型,DeepSeek-R1满血版单机部署吞吐提升一倍。通过技术算法创新,飞桨让低时延、高吞吐、低算力成本的推理服务成为了现实。

  同时,在科学智能领域,飞桨框架3.0锚定科学前沿探索需要,提升微分方程求解速度。通过高阶自动微分和神经网络编译器技术,加速微分方程求解,速度比PyTorch开启编译器优化后的2.6版本平均快115%。飞桨还对DeepXDE、Modulus 等主流开源科学计算工具进行了广泛适配,并成为 DeepXDE 的默认推荐后端。其展现的科学智能潜力在气象预测、生命科学、航空航天等领域具有广泛的应用价值。

  此外,在运算速度上,借助创新研制的神经网络编译器CINN,实现性能的显著提升,部分算子执行速度提升4倍,模型端到端训练速度提升27.4%。

  在硬件适配方面,飞桨框架3.0推出了多芯片统一适配方案,构建"一次开发,全栈部署"的生态体系。目前已支持60余款主流芯片,覆盖训练集群、自动驾驶、智能终端等场景,开发者只需编写一份代码即可实现跨芯片无缝迁移,硬件适配成本直降80%。  

  截至2024年10月,飞桨文心生态已凝聚1808万开发者,服务了43万家企事业单位,创建了101万个模型。

【纠错】 【责任编辑:冉晓宁】
    阅读下一篇:
      深度观察
      • 新华全媒头条丨向着高水平现代化,“未来之城”拔节生长
      • 新华全媒+丨内蒙古大兴安岭林区停伐十年绿意浓
      • 新华视点丨“网约护士”推广还需迈过几道关?
      • 经济参考报丨加码大额场景 金融“添柴”激发消费活力
      • 新华每日电讯丨湖南构建工业增长“第二曲线”
      • 港澳连线丨重返香港:城市复常与新生的交响
      • 专栏丨美国功利主义下的移民悲歌
      • 雄安新区首家落户央企采访记
      • 江海交汇处,开放千年路

              推荐阅读:

              初心不变,行稳致远,如新四十再开新局

              人保车险|被老司机们忽视的车辆损失险

              《中国商业医疗险发展蓝皮书》:一半保民会为家人投保,年轻保民满意度超70%

              人保服务|财产险三类保险的区别,你知道吗?

              腾讯游戏发布暑期限玩日历,持续落实防沉迷政策

              沉迷“抽卡”亟须纠偏,也应看到新兴行业的正向价值

              网络主播:从“乱花迷眼”走向“专业与责任”

              高通推出全新骁龙座舱至尊版平台和Snapdragon Ride至尊版平台

              高德企业用车香港上线,率先实现内地与香港全覆盖

              2024年10月23日今日现货乙二醇最新价格多少钱一吨

              相关推荐