Pytorch中如何使用DataLoader对数据集进行批训练

Posted 算法与编程之美

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Pytorch中如何使用DataLoader对数据集进行批训练相关的知识,希望对你有一定的参考价值。

  1. 为什么使用dataloader进行批训练
    我们的训练模型在进行批训练的时候,就涉及到每一批应该选择什么数据的问题,而pytorch的dataloader就能够帮助我们包装数据,还能够有效的进行数据迭代,以达到批训练的目的。
  2. 如何使用pytorch数据加载到模型

Pytorch的数据加载到模型是有一个操作顺序,如下:

  1. 创建一个dataset对象
  2. 创建一个DataLoader对象
  3. 循环这个DataLoader对象,将标签等加载到模型中进行训练

  1. 关于DataLoader
    DataLoader将自定义的Dataset根据batch size大小、是否shuffle等封装成一个Batch Size大小的Tensor,用于后面的训练
  2. 使用DataLoader进行批训练的例子

    打印结果如下:
  3. 结语

Dataloader作为pytorch中用来处理模型输入数据的一个工具类,组合了数据集和采样器,并在数据集上提供了单线程或多线程的可迭代对象,另外我们在设置shuffle=TRUE时,每下一次读取数据时,数据的顺序都会被打乱,然后再进行下一次,从而两次数据读取到的顺序都是不同的,而如果设置shuffle=False,那么在下一次数据读取时,不会打乱数据的顺序,也因此两次读取到的数据顺序是相同的,并且我们通过借助tensor展示各种参数的功能,能为后续神经网络的训练奠定基础,同时也能更好的理解pytorch。

以上是关于Pytorch中如何使用DataLoader对数据集进行批训练的主要内容,如果未能解决你的问题,请参考以下文章

如何使用 PyTorch DataLoader 进行强化学习?

PyTorch DataLoader 可以从空数据集开始吗?

PyTorch DataLoader 对并行运行的批次使用相同的随机种子

小白学习PyTorch教程五在 PyTorch 中使用 Datasets 和 DataLoader 自定义数据

Pytorch的Dataset与Dataloader之间的关系

pytorch初学笔记:DataLoader的使用