mindspore.unified_safetensors

查看源文件
mindspore.unified_safetensors(src_dir, src_strategy_file, dst_dir, merge_with_redundancy=True, file_suffix=None)[源代码]

将多个safetensors文件合并为一系列统一的safetensors文件。

参数：

  • src_dir (str) - 源权重保存目录。

  • src_strategy_file (str) - 源权重切分策略文件。

  • dst_dir (str) - 目标保存目录。

  • merge_with_redundancy (bool, 可选) - 合并源权重文件是否是去冗余保存的safetensors文件。默认值是：True，合并的源权重文件是完整的。

  • file_suffix (str, 可选) - 指定合并safetensors的文件名后缀。默认值是：None ，合并源权重目录下所有的safetensors文件。

异常：

  • ValueError - 如果某个rank的safetensors文件丢失。

支持平台：

Ascend GPU CPU

样例：

>>> import mindspore as ms
>>> src_dir = "/usr/safetensors/llama31B/4p_safetensors/"
>>> src_strategy_file = "/usr/safetensors/llama31B/strategy_4p.ckpt"
>>> dst_dir = "/usr/safetensors/llama31B/merge_llama31B_4p/"
>>> ms.unified_safetensors(src_dir, src_strategy_file, dst_dir)