mindspore.load_distributed_checkpoint

mindspore.load_distributed_checkpoint(network, checkpoint_filenames, predict_strategy=None, train_strategy_filename=None, strict_load=False, dec_key=None, dec_mode='AES-GCM')[源代码]

给分布式预测加载checkpoint文件到网络,用于分布式推理。关于分布式推理的细节,请参考: https://www.mindspore.cn/tutorials/experts/zh-CN/r1.8/parallel/distributed_inference.html

参数:

  • network (Cell) - 分布式预测网络。

  • checkpoint_filenames (list[str]) - checkpoint文件的名称,按rank id 顺序排列。

  • predict_strategy (dict) - 预测时参数的切分策略。

  • train_strategy_filename (str) - 训练策略proto文件名。默认值:None。

  • strict_load (bool) - 表示是否严格加载参数到网络。如果值为False,则当checkpoint文件中参数名称的后缀与网络中的参数相同时,加载参数到网络。当类型不一致时,对相同类型的参数进行类型转换,如从float32到float16。默认值:False。

  • dec_key (Union[None, bytes]) - 用于解密的字节类型key。如果value为None,则不需要解密。默认值:None。

  • dec_mode (str) - 仅当dec_key不设为None时,该参数有效。指定了解密模式,目前支持AES-GCM和AES-CBC。默认值:AES-GCM。

异常:

  • TypeError: 输入类型不符合要求。

  • ValueError: 无法加载checkpoint文件到网络。