比较与torchtext.datasets.UDPOS的差异

torchtext.datasets.UDPOS

class torchtext.datasets.UDPOS(
    root: str = '.data',
    split: Union[List[str], str] = ('train', 'valid', 'test'))

更多内容详见torchtext.datasets.UDPOS。

mindspore.dataset.UDPOSDataset

class mindspore.dataset.UDPOSDataset(
    dataset_dir,
    usage=None,
    num_samples=None,
    num_parallel_workers=None,
    shuffle=Shuffle.GLOBAL,
    num_shards=None,
    shard_id=None,
    cache=None)

更多内容详见mindspore.dataset.UDPOSDataset。

差异对比

PyTorch：读取UDPOS数据集。

MindSpore：读取UDPOS数据集，不支持下载。

分类	子类	PyTorch	MindSpore	差异
参数	参数1	root	dataset_dir	-
	参数2	split	usage	-
	参数3	-	num_samples	指定从数据集中读取的样本数
	参数4	-	num_parallel_workers	指定读取数据的工作线程数
	参数5	-	shuffle	指定是否混洗数据集
	参数6	-	num_shards	指定分布式训练时将数据集进行划分的分片数
	参数7	-	shard_id	指定分布式训练时使用的分片ID号
	参数8	-	cache	指定单节点数据缓存服务

代码示例

# PyTorch
import torchtext.datasets as datasets
from torch.utils.data import DataLoader

root = "/path/to/dataset_directory/"
dataset = datasets.UDPOS(root, split=('train', 'valid', 'test'))
dataloader = DataLoader(dataset)

# MindSpore
import mindspore.dataset as ds

# Download UDPOS dataset files, unzip into the following structure
# .
# └── /path/to/dataset_directory/
#      ├── en-ud-tag.v2.dev.txt
#      ├── en-ud-tag.v2.test.txt
#      ├── en-ud-tag.v2.train.txt
root = "/path/to/dataset_directory/"
ms_dataloader = ds.UDPOSDataset(root, usage='all')