NJU1healer的个人博客分享 http://blog.sciencenet.cn/u/NJU1healer

博文

DataLoader使用完整流程及数据格式

已有 587 次阅读 2020-10-27 19:55 |个人分类:Pytorch|系统分类:科研笔记

通过一个小案例,反映出DataLoader使用完整流程!!

import torch

import torch.utils.data as Data


BATCH_SIZE = 3 #批训练数据个数


x = torch.linspace(1,10,10)  #x data (torch tensor)

y = torch.linspace(10,1,10)  #y data (torch tensor)


#随后我们需要把X和Y组成一个完整的数据集,并转化为pytorch能识别的数据集类型:


torch_dataset = Data.TensorDataset(x,y)

#可以看出我们把X和Y通过Data.TensorDataset() 这个函数拼装成了一个数据集,数据集的类型是【TensorDataset】。


# 把 dataset 放入 DataLoader

loader = Data.DataLoader(

        dataset = torch_dataset,

        batch_size = BATCH_SIZE,

        shuffle = True,

        num_workers = 0,

        )


for epoch in range(5): #训练所有数据5次

    i = 0

    for batch_x, batch_y in loader:

        i = i + 1

        print('Epoch:{} | num:{} | batch_x:{} | batch_y:{}'

              .format(epoch,i,batch_x,batch_y))


#for epoch in range(3): #训练所有!整套!数据3次

#    i=0

#    #,每一步 loader 释放一小批数据用来学习

#    for step,(batch_x, batch_y) in enumerate(loader):

#        i = i+1

#        #打出来一些数据

#        print('Epoch:{} | num:{} | batch_x:{} | batch_y:{}'

#              .format(epoch,i,batch_x,batch_y))

【参考】

https://www.jb51.net/article/167009.htm

点滴分享,福泽你我!Add oil!



http://blog.sciencenet.cn/blog-3428464-1256003.html

上一篇:python特殊函数__len__(self)
下一篇:Pytorch中DataLoader与DataSet联合使用

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-11-24 12:39

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部