mindspore.amp.custom_mixed_precision

mindspore.amp.custom_mixed_precision(network, *, white_list=None, black_list=None)[源代码]

通过配置白名单或黑名单,对Cell进行自定义混合精度处理。 当提供 white_list 时,网络中包含在 white_list 里的Primitive或Cell会进行精度转换。 当提供 black_list 时,网络中不包含在 black_list 里的Cell会进行精度转换。 需要提供 white_listblack_list 中的一个。

说明

  • 使用 custom_mixed_precision 进行精度转换后,不支持再次使用其他接口进行精度转换。 如果使用 Modelbuild_train_network 等接口来训练转换后的网络,则需要将 amp_level 配置 为 O0 以避免重复的精度转换。

  • 当使用黑名单时,Primitive类型还未支持。

参数:
  • network (Cell) - 定义网络结构。

  • white_list (list[Primitive, Cell], optional) - 自定义混合精度的白名单。默认值: None

  • black_list (list[Cell], optional) - 自定义混合精度的黑名单。默认值: None

返回:

network (Cell),支持混合精度的网络。

异常:
  • TypeError - network 的类型不是Cell。

  • ValueError - white_listblack_list 都没提供。

  • ValueError - 同时提供了 white_listblack_list

样例:

>>> from mindspore import amp, nn
>>> # Define the network structure of LeNet5. Refer to
>>> # https://gitee.com/mindspore/docs/blob/r2.1/docs/mindspore/code/lenet.py
>>> net = LeNet5()
>>> custom_white_list = amp.get_white_list()
>>> custom_white_list.append(nn.Flatten)
>>> net = amp.custom_mixed_precision(net, white_list=custom_white_list)