Tensorflow 实现分批量读取数据

 更新时间:2020年01月04日 15:44:17   作者:freedom098  
今天小编就为大家分享一篇Tensorflow 实现分批量读取数据,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

之前的博客里使用tf读取数据都是每次fetch一条记录,实际上大部分时候需要fetch到一个batch的小批量数据,在tf中这一操作的明显变化就是tensor的rank发生了变化,我目前使用的人脸数据集是灰度图像,因此大小是92*112的,所以最开始fetch拿到的图像数据集经过reshape之后就是一个rank为2的tensor,大小是92*112的(如果考虑通道,也可以reshape为rank为3的,即92*112*1)。

如果加入batch,比如batch大小为5,那么拿到的tensor的rank就变成了3,大小为5*92*112。

下面规则化的写一下读取数据的一般流程,按照官网的实例,一般把读取数据拆分成两个大部分,一个是函数专门负责读取数据和解码数据,一个函数则负责生产batch。

import tensorflow as tf

def read_data(fileNameQue):

 reader = tf.TFRecordReader()
 key, value = reader.read(fileNameQue)
 features = tf.parse_single_example(value, features={'label': tf.FixedLenFeature([], tf.int64),
              'img': tf.FixedLenFeature([], tf.string),})
 img = tf.decode_raw(features["img"], tf.uint8)
 img = tf.reshape(img, [92,112]) # 恢复图像原始大小
 label = tf.cast(features["label"], tf.int32)

 return img, label

def batch_input(filename, batchSize):

 fileNameQue = tf.train.string_input_producer([filename], shuffle=True)
 img, label = read_data(fileNameQue) # fetch图像和label
 min_after_dequeue = 1000
 capacity = min_after_dequeue+3*batchSize
 # 预取图像和label并随机打乱,组成batch,此时tensor rank发生了变化,多了一个batch大小的维度
 exampleBatch,labelBatch = tf.train.shuffle_batch([img, label],batch_size=batchSize, capacity=capacity,
              min_after_dequeue=min_after_dequeue)
 return exampleBatch,labelBatch

if __name__ == "__main__":

 init = tf.initialize_all_variables()
 exampleBatch, labelBatch = batch_input("./data/faceTF.tfrecords", batchSize=10)

 with tf.Session() as sess:

  sess.run(init)
  coord = tf.train.Coordinator()
  threads = tf.train.start_queue_runners(coord=coord)

  for i in range(100):
   example, label = sess.run([exampleBatch, labelBatch])
   print(example.shape)

  coord.request_stop()
  coord.join(threads)

读取数据和解码数据与之前基本相同,针对不同格式数据集使用不同阅读器和解码器即可,后面是产生batch,核心是tf.train.shuffle_batch这个函数,它相当于一个蓄水池的功能,第一个参数代表蓄水池的入水口,也就是逐个读取到的记录,batch_size自然就是batch的大小了,capacity是蓄水池的容量,表示能容纳多少个样本,min_after_dequeue是指出队操作后还可以供随机采样出批量数据的样本池大小,显然,capacity要大于min_after_dequeue,官网推荐:min_after_dequeue + (num_threads + a small safety margin) * batch_size,还有一个参数就是num_threads,表示所用线程数目。

min_after_dequeue这个值越大,随机采样的效果越好,但是消耗的内存也越大。

以上这篇Tensorflow 实现分批量读取数据就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • python的类变量和成员变量用法实例教程

    python的类变量和成员变量用法实例教程

    这篇文章主要介绍了python的类变量和成员变量用法,是学习Python程序设计所必须牢固掌握的,需要的朋友可以参考下
    2014-08-08
  • python连接access数据库两种方式总结

    python连接access数据库两种方式总结

    这篇文章主要介绍了python连接access数据库两种方式的相关资料,SQLAlchemy使用access方言进行连接,而pyodbc则通过pyodbc模块实现连接,文章还提供了连接代码示例,需要的朋友可以参考下
    2025-02-02
  • python使用reportlab生成pdf实例

    python使用reportlab生成pdf实例

    大家好,本篇文章主要讲的是python使用reportlab生成pdf实例,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下
    2022-02-02
  • 使用Python编写一个简单的tic-tac-toe游戏的教程

    使用Python编写一个简单的tic-tac-toe游戏的教程

    这篇文章主要介绍了使用Python编写一个简单的tic-tac-toe游戏的教程,有利于Python初学者进行上手实践,需要的朋友可以参考下
    2015-04-04
  • 用Python和WordCloud绘制词云的实现方法(内附让字体清晰的秘笈)

    用Python和WordCloud绘制词云的实现方法(内附让字体清晰的秘笈)

    这篇文章主要介绍了用Python和WordCloud绘制词云的实现方法(内附让字体清晰的秘笈),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-01-01
  • pandas交换行的具体实现

    pandas交换行的具体实现

    Pandas 是专注于表格数据处理的 Python 第三方库,能帮助我们完成各种各样的表格数据操作,本文主要介绍了pandas交换行的具体实现,具有一定的参考价值,感兴趣的可以了解一下
    2024-04-04
  • Python使用当前时间、随机数产生一个唯一数字的方法

    Python使用当前时间、随机数产生一个唯一数字的方法

    这篇文章主要介绍了Python使用当前时间、随机数产生一个唯一数字的方法,涉及Python时间与随机数相关操作技巧,需要的朋友可以参考下
    2017-09-09
  • python神经网络使用Keras构建RNN训练

    python神经网络使用Keras构建RNN训练

    这篇文章主要为大家介绍了python神经网络使用Keras构建RNN网络训练,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪<BR>
    2022-05-05
  • Python读取分割压缩TXT文本文件实例

    Python读取分割压缩TXT文本文件实例

    今天小编就为大家分享一篇Python读取分割压缩TXT文本文件实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • Python使用LDAP做用户认证的方法

    Python使用LDAP做用户认证的方法

    这篇文章主要介绍了Python使用LDAP做用户认证的方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-06-06

最新评论