mindspore.dataset.Dataset.save
- mindspore.dataset.Dataset.save(file_name, num_files=1, file_type='mindrecord')[源代码]
将数据处理管道中正处理的数据保存为通用的数据集格式。数据集格式仅支持:’mindrecord’。可以使用 ‘MindDataset’类来读取保存的 ‘mindrecord’文件。
将数据保存为 ‘mindrecord’格式时存在隐式类型转换。转换表展示如何执行类型转换。
‘dataset’类型
‘mindrecord’类型
说明
bool
None
不支持
int8
int32
uint8
bytes
丢失维度信息
int16
int32
uint16
int32
int32
int32
uint32
int64
int64
int64
uint64
None
不支持
float16
float32
float32
float32
float64
float64
string
string
不支持多维字符串
说明
如需按顺序保存数据,将数据集的 shuffle 设置为False,将 num_files 设置为1。
在执行保存操作之前,不要使用batch操作、repeat操作或具有随机属性的数据增强的map操作。
当数据的维度可变时,只支持一维数组或者在第零维变化的多维数组。
不支持UINT64类型、多维的UINT8类型、多维STRING类型。
- 参数:
file_name (str) - 数据集文件的路径。
num_files (int, 可选) - 数据集文件的数量。默认值:1。
file_type (str, 可选) - 数据集格式。默认值:’mindrecord’。
样例:
>>> import numpy as np >>> >>> def generator_1d(): ... for i in range(10): ... yield (np.array([i]),) >>> >>> >>> # apply dataset operations >>> d1 = ds.GeneratorDataset(generator_1d, ["data"], shuffle=False) >>> d1.save('/path/to/save_file')