新增份额达30.26% 昇思成为2024年发展最快自主创新开源框架

发稿时间: 2025-01-23 08:29 来源:人民邮电报 作者:达涌 2025-01-23
分享X

近日,国际权威数据调研机构IDC发布《中国AI开源框架市场研究报告(2024)》。报告显示,昇思MindSpore AI框架在2024年新增市场份额达30.26%,位列中国框架第一,成为发展最快的自主创新开源框架。

面对当前AI浪潮的迅速兴起,昇思MindSpore迅速适应AI趋势,通过打造兼容主流生态的开发接口、原生支持大模型及AI4S能力,赋能产业及科研创新。昇思通过升级八维混合分布式并行技术,实现原生亲和超节点,从而大幅提升模型训练效率。

面对基础易用性诉求,昇思匹配开发者习惯,兼容业界主流开发接口(模型表达、算子、并行、数据格式、权重格式等),已兼容100多个Transformers接口、100多个Diffusers接口,兼容1300多个算子表达,支持流程控制类/硬件/调测;完善动态图、调优能力,支持灵活对接各种加速库,可以实现低成本的模型脚本平滑迁移替换。

面对大模型并行优化诉求,昇思原生亲和超节点在八维分布式并行技术基础上,持续升级超长序列、MoE、多模态模型等多维混合并行策略能力,例如通过RingAtt超长序列并行、3D超长序列并行和2D/3D高维张量并行,使得超长序列大模型训练性能提升20%,通过MoE通信计算并行、Router融合,使得万亿MoE模型训练性能提升40%,通过细粒度多副本、虚拟流水交织并行、序列流水线并行、负载均衡,使得千亿稠密模型训练性能提升20%;提供并行策略自动搜索和仿真执行能力,改变传统技术路径,从过去依赖专家经验制定并行策略、通过集群实测寻找最优策略、周级完成大模型调优,到现在自动搜索最优并行策略,通过Dryrun仿真分析获得最佳测录,实现天级大模型开箱性能。

面对o1、AI4S技术创新诉求,昇思打造业界首个AI融合框架,实现大模型与AI4S两大领域的原生。持续升级架构,通过支持MPMD多模型多任务调度,训推同构,可自由组合封装RL模块搭建高性能强化学习套件,在线重排训推权重任务,端到端提升吞吐,并可以自动分配切分计算资源,实现多模型多任务并行;具备函数式编程亲和架构,支持Numpy/Scipy原生、自动微分加速,提供高性能强化学习、AI4S使能套件。

自2020年3月昇思MindSpore正式开源以来,陆续创建学术奖励基金、培养原生大语言模型、举办AI框架峰会、成立社区委员会、成为Gitee重要贡献者、创立昇思生态创新中心,已经积累了大量的B端企业合作伙伴和众多企业、高校开发者,截至目前,已经有4万多名社区核心贡献者、超超1100万全球用户下载、10万多个代码合入请求、1700多个学术论文创新,全球范围内仅次于PyTorch(Papers With Code官网数据)。值得一提的是,昇思MindSpore已经孵化、适配了50多个国内外主流大模型,帮助1700多家企业、研究院所落地2000多个大模型解决方案,包括政府、交通、金融、医疗、驾驶等多个领域。(达涌)


新闻附件:

新春走基层|我们一直在路上

特别推荐

相关新闻