模型性能Profiler

查看源文件

MindSpore中提供了profiler接口,可以对神经网络的性能进行采集。目前支持AICORE算子、AICPU算子、HostCPU算子、内存、设备通信、集群等数据的分析。

样例:

import numpy as np
import mindspore
from mindspore import Tensor
from mindspore.train import Model
from mindspore import Profiler

input_data = Tensor(np.random.randint(0, 255, [1, 1, 32, 32]), mindspore.float32)
# Define the network structure of LeNet5. Refer to
# https://gitee.com/mindspore/docs/blob/master/docs/mindspore/code/lenet.py
# Init Profiler
# Note that the Profiler should be initialized before model.predict
profiler = Profiler()
model = Model(LeNet5())
result = model.predict(input_data)

# Profiler end
profiler.analyse()

推理方面性能调试方式与训练基本一致,收集到性能数据后,可参考:性能调试(Ascend)进行性能分析。推理上重点关注算子性能分析、计算量性能分析、Timeline分析等。

详细接口参考:mindspore.Profiler