昇思 mindspore 超大规模 ai 实践

苏腾 (昇思 mindspore 副首席专家)

浙江大学博士，目前是mindspore分布式训练负责人。加入华为9年，长期从事分布式并行计算系统研发，曾主导华为自研的分布式任务计算框架、分布式强一致性k-v存储框架、容器化资源管理与调度框架、actor模型编程框架的设计开发，并在多个产品落地应用，在大规模分布式系统方向有丰富的实践经验。

 关注

还没有添加个人简介

内容介绍

昇思 mindspore 超大规模 ai 实践-金马国际

以大模型驱动的超大规模 ai 正成为下一代人工智能的突破口，也是迈向通用强人工智能最有潜力的技术方向。昇思 mindspore 构建了多维度混合并行、多维度内存优化、图算融合等关键技术，并在 2021 年联合知名高校及科研院所协同创新，发布了鹏程盘古 nlp 大模型、中科院紫东太初图文音多模态大模型、鹏程神农蛋白质结构大模型、武大珞珈遥感大模型等。本次分享将从 mindspore 大模型实践出发，介绍 mindspore 超大规模 ai 关键技术，以及如何使用这些关键技术训练大模型，解决大模型大集群的训练难题。