解决TensorFlow训练内存不断增长,进程被杀死问题
更新时间：2020年02月05日 09:50:00 作者：诗人的情人
今天小编就为大家分享一篇解决TensorFlow训练内存不断增长,进程被杀死问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
TensorFlow训练时，遇到内存不断增长，最终导致内存不足，进程被杀死。
在这里我不准备对造成这一现象的所有原因进行探讨，只是记录一下我在项目中遇到的这一问题，下面将对我遇到的内存不断增长的原因进行分析。
在TensorFlow中构造图，是将一些op作为节点加入图中，在run之前，是需要构造好一个图的，所以在run的时候，如果run图中不存在的节点，TensorFlow就会将节点加入图中，随着不断的迭代，造成内存不断的增长，从而导致内存不足。
下面举一个很容易发现这个问题的例子：
import tensorflow as tf x = tf.Variable(tf.constant(1)) y = tf.constant(2) sess = tf.Session() sess.run(tf.global_variables_initializer()) while True: print(sess.run(x+y))
在上面的例子中，x,y是图中的两个节点，在while循环中run(x)或者run(y)都是不存在问题的，但是上例中我们使用的时run(x+y)，而在TensorFlow的图中是不存在x+y这个节点的，所以在run的时候，图中会不断的创建该节点，最终导致了内存不足。这个例子很容易理解，这样的问题也很容易发现。
下面，将举一个不是那么容易发现的问题：
import tensorflow as tf
test = tf.get_variable('test', shape=[4, 1], initializer=tf.random_normal_initializer(stddev=0.1))
init_op = tf.global_variables_initializer()
with tf.Session() as sess:
sess.run(init_op)
print(sess.run(test[0]))
这个例子是创建一个shape为[4,1]的变量对象，test为图中的一个节点，但是在我们实际使用时，我们可能并不需要test里的所有数据，加入只需要一个数据test[0]，当我们使用run(test[0])时，test[0]并不是图中的节点，该节点就会在图中创建。上面的例子并没有使用循环，所以增加了节点，但是也不会造成内存的不足，当使用了循环时，就需要注意了。
解决办法：run图中存在的节点，对返回的结果进行处理，得到想要的结果，不要在run里面对节点处理（处理后的节点可能不是图中的节点）。
以上这篇解决TensorFlow训练内存不断增长,进程被杀死问题就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
在本篇文章里小编给读者们整理了关于python输入错误后删除的方法以及相关知识点，有兴趣的朋友们学习下。2019-10-10
这篇文章主要介绍了python如何发送带有附件、正文为HTML的邮件，帮助大家更好的理解和学习使用python，感兴趣的朋友可以了解下2021-02-02
这篇文章主要介绍了python 利用 PIL 将数组值转成图片的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-04-04
本文将介绍如何在M1机器上本地安装和运行PyTorch。你使用的M1机型(Air、Pro、Mini或iMac)没有区别。感兴趣的可以了解一下2021-08-08
这篇文章主要介绍了Django 多环境配置详解,小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2019-05-05
这篇文章主要介绍了Python连接数据库使用matplotlib画柱形图，文章通过实例展开对主题的相关介绍。具有一定的知识参考价值性，感兴趣的小伙伴可以参考一下2022-06-06
这篇文章主要介绍了Flask如何接收前端ajax传来的表单(包含文件)，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-01-01
在本文里小编给大家整理了关于python替换字符串中的子串的相关知识点以及实际操作步骤，有需要的朋友们学习下。2019-06-06
这篇文章主要介绍了Python实现3行代码解简单的一元一次方程,很适合Python初学者学习借鉴,需要的朋友可以参考下2014-08-08
这篇文章主要为大家详细介绍了Python pygame实现球球大作战，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-11-11
最新评论