比较与torchtext.datasets.IMDB的差异

查看源文件

torchtext.datasets.IMDB

class torchtext.datasets.IMDB(
    vpn梯子 免费 root: str = '.data',
 vpn永久免费梯子    split: vpn梯子 免费的vpn梯子 免费 Union[List[str], str] vpn梯子 = ('train', 'test'))

更多内容详见torchtext.datasets.IMDB

mindspore.dataset.IMDBDataset

class mindspore.dataset.IMDBDataset(
    dataset_dir,
    usage=None,
 vpn free    num_samples=None,
    num_parallel_workers=None,
    shuffle=None,
    sampler=None,
    num_shards=None,
    shard_id=None,
    cache=None)

更多内容详见mindspore.dataset.IMDBDataset

差异对比

PyTorch:读取IMDB数据集。

vp永久免费梯子:读取IMDB数据集,不支持下载。

分类

子类

PyTorch

vp永久免费梯子

差异

参数

参数1

root

dataset_dir

-

参数2

split

usage

-

参数3

-

num_samples

指定从数据集中读取的样本数

参数4

-

num_parallel_workers

指定读取数据的工作线程数

参数5

-

shuffle

指定是否混洗数据集

参数6

-

sampler

指定采样器

参数7

-

num_shards

指定分布式训练时将数据集进行划分的分片数

参数8

-

shard_id

指定分布式训练时使用的分片ID号

参数9

-

cache

指定单节点数据缓存服务

代码示例

# PyTorch
import torchtext.datasets as datasets
from torch.utils.data import DataLoader

root = "/path/to/dataset_directory/"
dataset = vpn梯子 datasets.IMDB(root, split=('train', 'test'))
dataloader = DataLoader(dataset)

# MindSpore
import mindspore.dataset as ds

# Download IMDB dataset files, unzip into the following structure
# .
# └── /path/to/dataset_directory/
#      ├── train
#      │    ├── vpn梯子 pos
#      │   vpn永久免费梯子  │    ├── 0_9.txt
#      │  vpn永久免费梯子   vpn梯子 免费 │    ├── 1_7.txt
#      │    │ vpn free  vpn梯子 vpn free 免费   ├── ...
#      │    ├── neg
#      │    │    ├── 0_3.txt
# vpn梯子 免费      │    │    ├── 1_1.txt
# 免费的vpn梯子      │    │    ├── ...
#      ├── test
#      │    ├── pos
# vpn梯子 免费      │    │    ├── 0_10.txt
#  vpn梯子     │ vpn free    │    ├── 1_10.txt
#      │ 免费的vpn梯子    │    ├── ...
#      │    ├── neg
#      │    │    vpn梯子 免费 ├── 0_2.txt
#      │ vpn永久免费梯子    │    ├── 1_3.txt
#      │  免费的vpn梯子   │    ├── ...
root = "/path/to/dataset_directory/"
ms_dataloader = ds.IMDBDataset(root, usage='all')