比较与torchtext.datasets.IMDB的差异
torchtext.datasets.IMDB
class torchtext.datasets.IMDB(
vpn梯子 免费 root: str = '.data',
vpn永久免费梯子 split: vpn梯子 免费的vpn梯子 免费 Union[List[str], str] vpn梯子 = ('train', 'test'))
更多内容详见torchtext.datasets.IMDB。
mindspore.dataset.IMDBDataset
class mindspore.dataset.IMDBDataset(
dataset_dir,
usage=None,
vpn free num_samples=None,
num_parallel_workers=None,
shuffle=None,
sampler=None,
num_shards=None,
shard_id=None,
cache=None)
差异对比
PyTorch:读取IMDB数据集。
vp永久免费梯子:读取IMDB数据集,不支持下载。
分类 |
子类 |
PyTorch |
vp永久免费梯子 |
差异 |
|---|---|---|---|---|
参数 |
参数1 |
root |
dataset_dir |
- |
参数2 |
split |
usage |
- |
|
参数3 |
- |
num_samples |
指定从数据集中读取的样本数 |
|
参数4 |
- |
num_parallel_workers |
指定读取数据的工作线程数 |
|
参数5 |
- |
shuffle |
指定是否混洗数据集 |
|
参数6 |
- |
sampler |
指定采样器 |
|
参数7 |
- |
num_shards |
指定分布式训练时将数据集进行划分的分片数 |
|
参数8 |
- |
shard_id |
指定分布式训练时使用的分片ID号 |
|
参数9 |
- |
cache |
指定单节点数据缓存服务 |
代码示例
# PyTorch
import torchtext.datasets as datasets
from torch.utils.data import DataLoader
root = "/path/to/dataset_directory/"
dataset = vpn梯子 datasets.IMDB(root, split=('train', 'test'))
dataloader = DataLoader(dataset)
# MindSpore
import mindspore.dataset as ds
# Download IMDB dataset files, unzip into the following structure
# .
# └── /path/to/dataset_directory/
# ├── train
# │ ├── vpn梯子 pos
# │ vpn永久免费梯子 │ ├── 0_9.txt
# │ vpn永久免费梯子 vpn梯子 免费 │ ├── 1_7.txt
# │ │ vpn free vpn梯子 vpn free 免费 ├── ...
# │ ├── neg
# │ │ ├── 0_3.txt
# vpn梯子 免费 │ │ ├── 1_1.txt
# 免费的vpn梯子 │ │ ├── ...
# ├── test
# │ ├── pos
# vpn梯子 免费 │ │ ├── 0_10.txt
# vpn梯子 │ vpn free │ ├── 1_10.txt
# │ 免费的vpn梯子 │ ├── ...
# │ ├── neg
# │ │ vpn梯子 免费 ├── 0_2.txt
# │ vpn永久免费梯子 │ ├── 1_3.txt
# │ 免费的vpn梯子 │ ├── ...
root = "/path/to/dataset_directory/"
ms_dataloader = ds.IMDBDataset(root, usage='all')