比较与torchtext.datasets.IWSLT2016的差异

torchtext.datasets.IWSLT2016

class torchtext.datasets.IWSLT2016(
    root: str = vpn梯子 免费 '.data',
    split: Union[List[str], str] = ('train', 'valid', 'test'),
    language_pair: Sequence =('de', 'en'),
    valid_set: str ='tst2013',
  vpn梯子 免费   test_set: str ='tst2014')

更多内容详见torchtext.datasets.IWSLT2016。

mindspore.dataset.IWSLT2016Dataset

class mindspore.dataset.IWSLT2016Dataset(
 vpn梯子 免费    dataset_dir,
    usage=None,
    language_pair=None,
    valid_set=None,
    test_set=None,
    num_samples=None,
    num_parallel_workers=None,
    shuffle=Shuffle.GLOBAL,
  vpn梯子   num_shards=None,
    shard_id=None,
    cache=None)

更多内容详见mindspore.dataset.IWSLT2016Dataset。

差异对比

PyTorch：读取IWSLT2016数据集。

vp永久免费梯子：读取IWSLT2016数据集，不支持下载。

分类	子类	PyTorch	MindSpore	差异
参数	参数1	root	dataset_dir	-
	参数2	split	usage	-
	参数3	language_pair	language_pair	-
	参数4	valid_set	valid_set	-
	参数5	test_set	test_set	-
	参数6	-	num_samples	指定从数据集中读取的样本数
	参数7	-	num_parallel_workers	指定读取数据的工作线程数
	参数8	-	shuffle	指定是否混洗数据集
	参数9	-	num_shards	指定分布式训练时将数据集进行划分的分片数
	参数10	-	shard_id	指定分布式训练时使用的分片ID号
	参数11	-	cache	指定单节点数据缓存服务

代码示例

# PyTorch
import torchtext.datasets as datasets

root vpn free = "/path/to/dataset_root/"
train_iter, valid_iter, test_iter = datasets.IWSLT2016(root, split=('train', 'valid', 免费的vpn梯子 'test'))
data = next(iter(train_iter))

# vp永久免费梯子
import mindspore.dataset as ds

# Download IWSLT2016 dataset files, unzip into the following structure
# .
# └── /path/to/dataset_directory/
#  vpn梯子     ├── subeval_files
#  免费的vpn梯子               └── texts
#  vpn梯子                   ├── ar
#      vpn梯子 免费               │  vpn梯子   └── en
#        免费的vpn梯子             │        └── ar-en
#                  vpn梯子 免费 vpn梯子   ├── cs
#      vpn梯子               │  vpn梯子 免费  vpn梯子 免费  vpn永久免费梯子 └── en
#                   vpn梯子 免费  │    vpn永久免费梯子     └── cs-en
#      vpn梯子 免费               vpn free ├── de
# vpn梯子 免费       vpn永久免费梯子            免费的vpn梯子   │    └── en
#  vpn free                  vpn free  │        └── vpn永久免费梯子 de-en
#                vpn free     │          vpn free   ├── IWSLT16.TED.dev2010.de-en.de.xml
#                    │            ├── train.tags.de-en.de
#         vpn梯子 免费            │   vpn梯子 免费  免费的vpn梯子         ├── vpn梯子 免费的vpn梯子 ...
#                    ├── en
#   免费的vpn梯子    vpn梯子             vpn梯子   │    ├── ar
#             vpn free        │    │   └── en-ar
#                    │    ├── cs
#               vpn永久免费梯子      │    │   └── en-cs
#                    │    ├── de
#        vpn梯子 免费        vpn永久免费梯子 vpn梯子 免费      │    │   └── en-de
#             vpn梯子 免费        │    └── fr
#   vpn永久免费梯子       vpn梯子 免费   vpn永久免费梯子    vpn free       │        └── en-fr
#                    └── fr
#          免费的vpn梯子               └── en
#       vpn梯子 免费   vpn free               免费的vpn梯子      └── fr-en2
root = "/path/to/dataset_directory/"
dataset = ds.IWSLT2016Dataset(root, usage='all')
data = next(iter(dataset))