mindspore.train.ConvertModelUtils

class mindspore.train.ConvertModelUtils

该接口用于增加计算图，提升二阶算法THOR运行时的性能。

static convert_to_thor_model(model, network, loss_fn=None, optimizer=None, metrics=None, amp_level='O0', loss_scale_manager=None, keep_batchnorm_fp32=False)

该接口用于增加计算图，提升二阶算法THOR运行时的性能。

参数：

• model (Object) - 用于训练的高级API。

• network (Cell) - 训练网络。

• loss_fn (Cell) - 目标函数。默认值： None 。

• optimizer (Cell) - 用于更新权重的优化器。默认值： None 。

• metrics (Union[dict, set]) - 在训练期间由模型评估的词典或一组度量。例如：{'accuracy', 'recall'}。默认值： None 。

• amp_level (str) - 混合精度训练的级别。支持["O0", "O2", "O3", "auto"]。默认值： "O0" 。

  • O0 - 不改变。

  • O2 - 将网络转换为float16，使用动态loss scale保持BN在float32中运行。

  • O3 - 将网络强制转换为float16，并使用附加属性 keep_batchnorm_fp32=False 。

  • auto - 在不同设备中，将级别设置为建议级别。GPU上建议使用O2，Ascend上建议使用O3。建议级别基于专家经验，不能总是一概而论。对于特殊网络，用户需要指定对应的混合精度训练级别。

• loss_scale_manager (Union[None, LossScaleManager]) - 如果为None，则不会按比例缩放loss。否则，需设置LossScaleManager，且优化器的入参loss_scale不为None。这是一个关键参数。例如，使用 loss_scale_manager=None 设置值。默认值： None 。

• keep_batchnorm_fp32 (bool) - 保持BN在 float32 中运行。如果为True，则将覆盖之前的级别设置。默认值： False 。

返回：

model (Object)，用于训练的高级API。

支持平台：

Ascend GPU

样例：

>>> import mindspore as ms
>>> from mindspore import nn
>>> from mindspore import Tensor
>>> from mindspore.nn import thor
>>>
>>> # Define the network structure of LeNet5. Refer to
>>> # https://gitee.com/mindspore/docs/blob/r2.3.1/docs/mindspore/code/lenet.py
>>> net = LeNet5()
>>> # Create the dataset taking MNIST as an example. Refer to
>>> # https://gitee.com/mindspore/docs/blob/r2.3.1/docs/mindspore/code/mnist.py
>>> dataset = create_dataset()
>>> temp = Tensor([4e-4, 1e-4, 1e-5, 1e-5], ms.float32)
>>> opt = thor(net, learning_rate=temp, damping=temp, momentum=0.9, loss_scale=128, frequency=4)
>>> loss = nn.SoftmaxCrossEntropyWithLogits(sparse=True, reduction='mean')
>>> loss_scale = ms.amp.FixedLossScaleManager(128, drop_overflow_update=False)
>>> model = ms.train.Model(net, loss_fn=loss, optimizer=opt, loss_scale_manager=loss_scale, metrics={'acc'},
...               amp_level="O2", keep_batchnorm_fp32=False)
>>> model = ms.train.ConvertModelUtils.convert_to_thor_model(model=model, network=net, loss_fn=loss,
...                                          optimizer=opt, loss_scale_manager=loss_scale, metrics={'acc'},
...                                          amp_level="O2", keep_batchnorm_fp32=False)