pytorch下大型数据集(大型图片)的导入方式
更新时间：2020年01月08日 15:00:51 作者：牙疼_LG
今天小编就为大家分享一篇pytorch下大型数据集(大型图片)的导入方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
使用torch.utils.data.Dataset类 处理图片数据时，
1. 我们需要定义三个基本的函数，以下是基本流程
class our_datasets(Data.Dataset):
def __init__(self,root,is_resize=False,is_transfrom=False):
#这里只是个参考。按自己需求写。
self.root=root
self.is_resize=is_resize
self.is_transfrom=is_transfrom
self.imgs_list=...#这里建议保存的是 图片的路径 而不是 图片的数据
self.labs_list=...
def __getitem__(self, index):
img_path,lab=self.imgs_list[index],self.labs_list[index]
#这里使用PIL库读取图片数据.
img_data = Image.open(img_path).convert('RGB')
#这里看自己需要，可以不要
if self.is_resize:
img_data = img_data.resize((self.is_resize[0], self.is_resize[1]), Image.ANTIALIAS)
#但是数据转换建议加上，很多时候都会用到
if self.is_transfrom:
img_data=self.is_transfrom(img_data)
return img_data,lab
def __len__(self):
return len(self.imgs_list)
这里，我将 读取图片 的步骤 放到 __getitem__ ，是因为 这样放的话，对内存的要求会降低很多，我们只是将数据的路径导入了内存中，当需要读取这个图片数据时，再读取，这样更像是随用随取。如果将这部分放到 __init__ 里面，会一次将 图片数据都加载到 内存中，如果数据量太大，会直接卡死。
2.Dataset 类 返回的数据 类型 是与你读取时的类型一致的。但是在 pytorch使用时，会提示
TypeError: batch must contain tensors, numbers, dicts or lists; found <class 'PIL.Image.Image'>
通常，在数据了不大时，我一般都是在 读取数据后 加一句，转换成 numpy.array类型。
但是，在处理较大型的数据时，这样会很慢。
这时候，我建议 直接使用 torchvision来进行数据转换。
is_transfrom=torchvision.transforms.ToTensor()
将 上例代码 加入 Dataset类中，这样就会快很多。
以上这篇pytorch下大型数据集(大型图片)的导入方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python按照多个字符对字符串进行分割的方法,涉及Python中正则表达式匹配的技巧,非常具有实用价值,需要的朋友可以参考下2015-03-03
这篇文章主要介绍了如何在pycharm中配置pyqt5设计GUI的操作教程，有需要的朋友可以借鉴参考下，希望大家可以多多交流，讨论相关问题共同提升2021-08-08
这篇文章主要介绍了Python中利用函数装饰器实现备忘功能,同时还降到了利用装饰器来检查函数的递归、确保参数传递的正确，需要的朋友可以参考下2015-03-03
本篇文章主要介绍了python数据解析之xpath的基本使用详解，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2021-09-09
今天小编就为大家分享一篇给 TensorFlow 变量进行赋值的方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
这篇文章主要介绍了Python自动化测试工具Splinter简介和使用实例,Splinter可以非常棒的模拟浏览器的行为，Splinter提供了丰富的API，可以获取页面的信息判断当前的行为所产生的结果2014-05-05
这篇文章主要为大家介绍了NCCL深度学习Bootstrap网络连接建立源码解析，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2023-04-04
map函数的原型是map(function, iterable, …)，它的返回结果是一个列表。下面这篇文章主要给大家介绍了关于python中map的基本用法，文中通过示例代码介绍的非常详细，需要的朋友可以参考下2018-09-09
这篇文章主要介绍了Keras 使用 Lambda层详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
这篇文章主要介绍了Python中BeautifuSoup库的用法使用详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-11-11
最新评论