mindspore.ops.TensorDump

class mindspore.ops.TensorDump(input_output='out')[源代码]

将Tensor保存为numpy格式的npy文件。

警告

  • 如果在短时间内保存大量数据,可能会导致设备端内存溢出。可以考虑对数据进行切片,以减小数据规模。

  • 由于数据保存是异步处理的,当数据量过大或主进程退出过快时,可能出现数据丢失的问题,需要主动控制主进程销毁时间,例如使用sleep。

参数:
  • input_output (str,可选) - 控制Tensordump行为模式的参数,可选的值为 ['out', 'in', 'all'] 中的一个,默认值: out

    对于算子A –> 重排算子 –> 算子B这样的情况,由于重排算子的插入,导致算子A的输出不再等价于算子B的输入。

    假设一种情况是算子A的计算结果既作为算子B的输入,也作为Tensordump算子的输入。则在该情况下, 通过设置input_output参数可以实现不同的保存数据的需求:

    • 如果input_output参数设置为'out',保存的数据仅包含算子A的输出分片。

    • 如果input_output参数设置为'all',保存的数据将包含算子A的输出分片以及算子B的输入分片。

    • 如果input_output参数设置为'in',保存的数据将仅包含算子B的输入分片。

    当input_output参数被配置为'all'或'in'时,生成的输入分片所对应的npy文件命名格式为:id_fileName_cNodeID_dumpMode_rankID.npy。

    当input_output参数被配置为'all'或'out'时,生成的输出分片所对应的npy文件命名格式为:id_fileName.npy。

    • id:一个自增的ID。

    • fileName:参数file的值 (若该参数传入时是一个使用者指定的路径,则fileName的值为路径的最后一级)。

    • cNodeID:该Tensordump节点在step_parallel_end.ir文件中的节点编号。

    • dumpMode:input_output参数的值。

    • rankID:逻辑卡号。

输入:
  • file (str) - 要保存的文件路径。

  • input_x (Tensor) - 任意维度的Tensor。

异常:
  • TypeError - 如果 file 不是str。

  • TypeError - 如果 input_x 不是Tensor。

支持平台:

Ascend

样例:

>>> import numpy as np
>>> import mindspore as ms
>>> import time
>>> from mindspore import nn, Tensor, ops
>>> ms.set_context(mode=ms.GRAPH_MODE, device_target="Ascend")
>>> class Net(nn.Cell):
...     def __init__(self):
...         super(Net, self).__init__()
...         self.dump = ops.TensorDump()
...
...     def construct(self, x):
...         x += 1.
...         self.dump('add', x)
...         x /= 2.
...         self.dump('div', x)
...         x *= 5.
...         self.dump('mul', x)
...         return x
...
>>> x = np.array([[1, 2, 3, 4], [5, 6, 7, 8]]).astype(np.float32)
>>> input_x = Tensor(x)
>>> net = Net()
>>> out = net(input_x)
>>> time.sleep(0.5)
>>> add = np.load('0_add.npy')
>>> print(add)
[[2. 3. 4. 5.]
 [6. 7. 8. 9.]]