Release Notes

查看源文件

MindSpore 2.5.0 Release Notes

主要特性及增强

分布式启动组件msrun

  • [STABLE] msrun支持传入节点的hostname（如localhost）作为 --master_addr，提升msrun易用性。

  • [STABLE] msrun支持将训练日志打印到标准输出，用户可通过 --tail_worker_log 参数控制要打印哪些rank。

  • [STABLE] 设置 export VLOG_v=12500 后， scheduler 日志能输出集群信息，帮助用户快速统计集群数据。

  • [STABLE] msrun支持通过 --worker_log_name 参数来格式化日志文件名，帮助用户快速定位到问题节点。

详情可参考msrun启动。

Profiler

  • [STABLE] 新增mindspore.profiler.schedule和mindspore.profiler.tensor_board_trace_handler接口，支持动态图场景按step采集和呈现，提升动态图场景易用性。

  • [STABLE] 动态Profiling支持自定义for循环，提升动态图场景易用性。

  • [STABLE] Profiler初始化参数和交付件目录结构优化，降低用户迁移难度。

  • [STABLE] 新增轻量化打点接口mindspore.profiler.mstx，提供用户低开销性能数据采集方式。

  • [STABLE] Timeline支持展示硬件利用率数据，帮助用户定位降频问题。

详情可参考Ascend性能调优。

动态图

  • [BETA] 动态图支持算子的原地操作，引入可以原地操作的算子。以mindspore.mint.nn.functional.relu算子为列，如果你想使用原地更新版本的relu算子，则可以调用mindspore.mint.nn.functional.relu_算子。

  • [STABLE] 使能环境变量MS_SIMULATION_LEVEL=1开启动态图dryrun，支持不占卡模拟多卡进程，通过日志查看显存占用情况。详情可参考环境变量。

FrontEnd

API 变更

新增API

  • [DEMO] mindspore.mint API新增了大量的functional、nn接口。mint接口当前是实验性接口，在图编译模式为O0/O1和PyNative模式下性能比ops更优。当前暂不支持O2编译模式(图下沉)及CPU、GPU后端，后续会逐步完善。

    mindspore.mint

    mindspore.mint.bernoulli

    mindspore.mint.bincount

    mindspore.mint.clone

    mindspore.mint.einsum

    mindspore.mint.empty

    mindspore.mint.empty_like

    mindspore.mint.full_like

    mindspore.mint.randint

    mindspore.mint.randint_like

    mindspore.mint.randn

    mindspore.mint.randn_like

    mindspore.mint.randperm

    mindspore.mint.chunk

    mindspore.mint.concat

    mindspore.mint.count_nonzero

    mindspore.mint.scatter

    mindspore.mint.select

    mindspore.mint.squeeze

    mindspore.mint.swapaxes

    mindspore.mint.transpose

    mindspore.mint.triu

    mindspore.mint.unbind

    mindspore.mint.unique_consecutive

    mindspore.mint.multinomial

    mindspore.mint.addmv

    mindspore.mint.diff

    mindspore.mint.exp2

    mindspore.mint.float_power

    mindspore.mint.fix

    mindspore.mint.fmod

    mindspore.mint.frac

    mindspore.mint.lerp

    mindspore.mint.log2

    mindspore.mint.log10

    mindspore.mint.logaddexp

    mindspore.mint.mv

    mindspore.mint.nansum

    mindspore.mint.nan_to_num

    mindspore.mint.polar

    mindspore.mint.ravel

    mindspore.mint.outer

    mindspore.mint.softmax

    mindspore.mint.t

    mindspore.mint.cdist

    mindspore.mint.amax

    mindspore.mint.amin

    mindspore.mint.cumprod

    mindspore.mint.histc

    mindspore.mint.logsumexp

    mindspore.mint.norm

    mindspore.mint.std

    mindspore.mint.std_mean

    mindspore.mint.var

    mindspore.mint.var_mean

    mindspore.mint.allclose

    mindspore.mint.argsort

    mindspore.mint.equal

    mindspore.mint.isinf

    mindspore.mint.isneginf

    mindspore.mint.not_equal

    mindspore.mint.addbmm

    mindspore.mint.addmm

    mindspore.mint.baddbmm

    mindspore.mint.dot

    mindspore.mint.meshgrid

    mindspore.mint.mm

    mindspore.mint.nn

    mindspore.mint.nn.Conv3d

    mindspore.mint.nn.ConstantPad1d

    mindspore.mint.nn.ConvTranspose2d

    mindspore.mint.nn.ConstantPad2d

    mindspore.mint.nn.BatchNorm1d

    mindspore.mint.nn.ConstantPad3d

    mindspore.mint.nn.BatchNorm2d

    mindspore.mint.nn.ReflectionPad1d

    mindspore.mint.nn.BatchNorm3d

    mindspore.mint.nn.ReflectionPad2d

    mindspore.mint.nn.LayerNorm

    mindspore.mint.nn.ReflectionPad3d

    mindspore.mint.nn.SyncBatchNorm

    mindspore.mint.nn.ReplicationPad1d

    mindspore.mint.nn.ELU

    mindspore.mint.nn.ZeroPad1d

    mindspore.mint.nn.GELU

    mindspore.mint.nn.ZeroPad2d

    mindspore.mint.nn.LogSigmoid

    mindspore.mint.nn.ZeroPad3d

    mindspore.mint.nn.ReLU6

    mindspore.mint.nn.BCELoss

    mindspore.mint.nn.SiLU

    mindspore.mint.nn.CrossEntropyLoss

    mindspore.mint.nn.Tanh

    mindspore.mint.nn.NLLLoss

    mindspore.mint.nn.Embedding

    mindspore.mint.nn.SmoothL1Loss

    mindspore.mint.nn.Dropout2d

    mindspore.mint.nn.Upsample

    mindspore.mint.nn.AdaptiveAvgPool1d

    mindspore.mint.nn.MaxUnpool2d

    mindspore.mint.nn.AdaptiveAvgPool2d

    mindspore.mint.nn.functional

    mindspore.mint.nn.functional.adaptive_avg_pool1d

    mindspore.mint.nn.functional.adaptive_avg_pool2d

    mindspore.mint.nn.functional.avg_pool1d

    mindspore.mint.nn.functional.max_unpool2d

    mindspore.mint.nn.functional.logsigmoid

    mindspore.mint.nn.functional.relu6

    mindspore.mint.nn.functional.relu_

    mindspore.mint.nn.functional.normalize

    mindspore.mint.nn.functional.dropout2d

    mindspore.mint.nn.functional.nll_loss

    mindspore.mint.nn.functional.smooth_l1_loss

    mindspore.mint.nn.functional.interpolate

    mindspore.mint.nn.functional.conv3d

    mindspore.mint.distributed

    mindspore.mint.distributed.all_gather

    mindspore.mint.distributed.get_global_rank

    mindspore.mint.distributed.all_gather_into_tensor

    mindspore.mint.distributed.get_group_rank

    mindspore.mint.distributed.all_gather_object

    mindspore.mint.distributed.get_process_group_ranks

    mindspore.mint.distributed.all_reduce

    mindspore.mint.distributed.init_process_group

    mindspore.mint.distributed.all_to_all

    mindspore.mint.distributed.irecv

    mindspore.mint.distributed.all_to_all_single

    mindspore.mint.distributed.isend

    mindspore.mint.distributed.barrier

    mindspore.mint.distributed.new_group

    mindspore.mint.distributed.batch_isend_irecv

    mindspore.mint.distributed.P2POp

    mindspore.mint.distributed.broadcast

    mindspore.mint.distributed.recv

    mindspore.mint.distributed.broadcast_object_list

    mindspore.mint.distributed.reduce

    mindspore.mint.distributed.gather

    mindspore.mint.distributed.reduce_scatter

    mindspore.mint.distributed.gather_object

    mindspore.mint.distributed.reduce_scatter_tensor

    mindspore.mint.distributed.get_backend

    mindspore.mint.distributed.scatter

    mindspore.mint.distributed.scatter_object_list

    mindspore.mint.distributed.send

    others

    mindspore.mint.optim.Adam

    mindspore.mint.linalg.matrix_norm

    mindspore.mint.linalg.norm

    mindspore.mint.linalg.vector_norm

    mindspore.mint.special.exp2

  • [STABLE] 新增mindspore.ops.incre_flash_attention和mindspore.ops.prompt_flash_attention两个推理算子接口，当前仅支持Ascend后端。

  • [STABLE] mindspore.runtime替代原mindspore.hal接口，提供了流、显存、Event等运行时资源相关的接口。

  • [STABLE] mindspore.device_context替代原set_context接口部分参数，提供了硬件平台相关的设置接口。

  • [DEMO] mindspore.Tensor API新增了大量的Tensor方法的接口。当前仍属于实验性接口，当前暂不支持图下沉模式及CPU、GPU后端，后续会逐步完善。同时大量的存量Tensor接口，包括+=、-=、*=、/=等运算符，通过重载的方式在Ascend后端接入了Aclnn算子。详细见官网接口列表。

非兼容性接口变更

  • mindspore.Tensor.new_ones接口的size入参取消对Tensor类型的支持。

  • mindspore.Profiler删除参数timeline_limit、rank_id、analyse_only、env_enable。

  • 接口名称：mindspore.Profiler

    变更内容：废弃profile_communication参数，通过设置profiler_level=ProfilerLevel.Level1或profiler_level=ProfilerLevel.Level2采集通讯矩阵数据。

    说明：profiler_level默认值为ProfilerLevel.Level0。

    原接口 v2.5.0接口 
    Profiler(profile_communication=True)

    Profiler(profiler_level=ProfilerLevel.Level1)或Profiler(profiler_level=ProfilerLevel.Level2)

  • 接口名称：mindspore.Profiler

    变更内容：废弃op_time参数，通过设置activaties=[mindspore.profiler.ProfilerActivity.NPU]设置采集NPU侧算子性能数据。

    说明：activaties参数类型为列表，只要包含mindspore.profiler.ProfilerActivity.NPU参数就表示使能采集NPU侧算子性能数据，默认开启采集。

    原接口 v2.5.0接口 
    Profiler(op_time=True)

    Profiler(activaties=[mindspore.profiler.ProfilerActivity.NPU])

  • 接口名称：mindspore.Profiler

    变更内容：aicore_metrics的参数类型由int改为mindspore.profiler.AicoreMetrics枚举值。

    说明：aicore_metrics默认值为mindspore.profiler.AicoreMetric.AiCoreNone。

    原接口 v2.5.0接口 
    Profiler(aicore_metrics=0)

    Profiler(aicore_metrics=mindspore.profiler.AicoreMetric.AiCoreNone)

  • 接口名称：mindspore.Profiler

    变更内容：废弃profile_framework参数，通过设置activaties=[mindspore.profiler.ProfilerActivity.CPU]采集框架测数据。

    说明：activaties参数类型为列表，只要包含mindspore.profiler.ProfilerActivity.CPU参数就表示使能采集框架性能数据，默认开启采集。

    原接口 v2.5.0接口 
    Profiler(profile_framework="all")

    Profiler(activaties=[mindspore.profiler.ProfilerActivity.CPU])

贡献者

baishanyang ,bantao ,Bellatan ,biangelin ,BigSkySea ,caifubi ,candanzg ,candyhong ,Carey ,cccc1111 ,chaijinwei ,changzherui ,chengbin ,chengfeng27 ,chengxb7532 ,chujinjin ,coder2237 ,czrz ,dairenjie ,DavidFFFan ,DeshiChen ,dingjinshan ,ehaleva ,Erpim ,fary86 ,fengyixing ,ffmh ,fuchao ,fuhouyu ,gaoyong10 ,geyuhong ,guoyuzhe ,GuoZhibin ,guozhijian ,halo ,hangq ,haozhang ,hedongdong ,hehongzhe ,hhz886 ,HighCloud ,huangbingjian ,HuangLe02 ,huangziling ,huda ,Huilan Li ,hujiahui8 ,jiahaochen666 ,jiangchao_j ,jiangchenglin3 ,jiangshanfeng ,jiaorui ,jiaxueyu ,jizewei ,jjfeing ,JoeyLin ,jshawjc ,kakyo82 ,kingxian ,kisnwang ,leida ,liangchenghui ,lianghongrui ,LiangZhibo ,lichen ,limingqi107 ,LINH ,linux ,lionelchang ,lishanni ,liubuyu ,liujunzhu ,liuluobin ,liuxu ,liuyanwei ,liyan2022 ,LLLRT ,looop5 ,luochao60 ,luoxuewei ,luoyang ,lyk ,machenggui ,maoyuanpeng1 ,Margaret_wangrui ,master,mengxian ,MengXiangyu ,mengyuanli ,Mrtutu ,mylinchi ,NaCN ,Nikanuo ,niujunhao ,panzhihui ,pengqi ,PingqiLi ,pipecat ,qiuleilei ,qiuyufeng ,qiuzhongya ,r1chardf1d0 ,shaoshengqi ,shen_haochen ,shenhaojing ,shenwei41 ,shilishan ,shiro-zzz ,shuqian0 ,St.Universe ,stavewu ,superxf ,suteng ,TAJh ,tanghuikang ,tangmengcheng ,tan-wei-cheng ,tianxiaodong ,TuDouNi ,TYWZ22259 ,user_0145 ,VectorSL ,vincen45 ,wang_ziqi ,wangshaocong ,wangwensheng4 ,weiyang ,wtcheng ,wtobill ,wujiangming ,wujueying ,wuweikang ,wwwbby ,XianglongZeng ,xiaopeng ,xiaotianci ,xiaoyao ,xiedejin1 ,XinDu ,xuxinglei ,yang guodong ,yangben ,yanghaoran ,yanglong ,yanx ,Yanzhi_YI ,yao_yf ,yefeng ,Yi_zhang95 ,yide12 ,yihangchen ,YijieChen ,YingtongHu ,ylw ,yonibaehr ,yuanqi ,yuchaojie ,yuezenglin ,YuJianfeng ,yyuse ,Zhang QR ,zhangbuxue ,zhangdanyang ,zhanghaibo ,zhangminli ,zhangyinxia ,ZhangZGC ,zhangzhen ,zhengzuohe ,zhouyaqiang0 ,zhuguodong ,zichun_ye ,zlq2020 ,zong_shuai ,ZPaC ,zyli2020 ,陈一 ,程超 ,冯一航 ,胡彬 ,宦晓玲 ,黄勇 ,简云超 ,康伟 ,李栋 ,李良灿 ,李林杰 ,李寅杰,刘崇鸣 ,刘力力 ,刘思铭 ,刘涛Liu ,刘勇琪 ,刘子涵 ,吕浩宇 ,吕凯盟 ,梅飞要 ,倪轩 ,任新 ,十一雷 ,孙昊辰 ,王禹程 ,王振邦 ,熊攀 ,俞涵 ,虞良斌 ,张栩浩 ,赵文璇 ,周莉莉 ,周一航 ,邹文祥