TensorFlow 显存使用机制详解
更新时间：2020年02月03日 10:37:52 作者：冬日and暖阳
今天小编就为大家分享一篇TensorFlow 显存使用机制详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
默认情况下，TensorFlow 会映射进程可见的所有 GPU 的几乎所有 GPU 内存（取决于 CUDA_VISIBLE_DEVICES）。通过减少内存碎片，可以更有效地使用设备上相对宝贵的 GPU 内存资源。
在某些情况下，最理想的是进程只分配可用内存的一个子集，或者仅根据进程需要增加内存使用量。 TensorFlow 在 Session 上提供两个 Config 选项来进行控制。
(1) : 自主申请所用的内存空间
第一个是 allow_growth 选项，它试图根据运行时的需要来分配 GPU 内存：它刚开始分配很少的内存，随着 Session 开始运行并需要更多 GPU 内存，我们会扩展 TensorFlow 进程所需的 GPU 内存区域。请注意，我们不会释放内存，因为这可能导致出现更严重的内存碎片情况。要开启此选项，请通过以下方式在 ConfigProto 中设置选项：
config = tf.ConfigProto() config.gpu_options.allow_growth = True session = tf.Session(config=config, ...)
(2) 规定 可用最大内存占单个GPU的总内存比例
第二个是 per_process_gpu_memory_fraction 选项，它可以决定每个可见 GPU 应分配到的内存占总内存量的比例。例如，您可以通过以下方式指定 TensorFlow 仅分配每个 GPU 总内存的 40%：
config = tf.ConfigProto() config.gpu_options.per_process_gpu_memory_fraction = 0.4 session = tf.Session(config=config, ...)
如要真正限制 TensorFlow 进程可使用的 GPU 内存量，这非常实用。
以上这篇TensorFlow 显存使用机制详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
Python中表达式x += y和x = x+y 的区别详解
这篇文章主要跟大家介绍了关于Python中x += y和x = x+y 的区别的相关资料，文中通过示例代码介绍的非常详细，对大家具有一定的参考学习价值，需要的朋友们下面来一起看看吧。2017-06-06
这篇文章主要介绍了python进阶教程之异常处理,在项目开发中,异常处理是不可或缺的,需要的朋友可以参考下2014-08-08
这篇文章主要介绍了python过滤字符串中不属于指定集合中字符的类,涉及Python针对字符串与集合的相关操作技巧,需要的朋友可以参考下2015-06-06
这篇文章主要介绍了python通过matplotlib生成复合饼图，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Python中类变量和实例变量的区别，文章针对Python类变量和实例变量的问题，给出了具体说明和演示，需要的小伙伴可以参考一下2022-02-02
Python 中的 Counter 模块及使用详解(搞定重复计数)
Counter 是一个简单的计数器，用于统计某些可哈希对象的数量。它以字典的形式存储元素和它们的计数，这篇文章主要介绍了Python 中的 Counter 模块及使用详解(搞定重复计数),需要的朋友可以参考下2023-04-04
我在七夕佳节用Python制作的表白神器,程序员也应该拥有爱情!建议收藏
这篇文章主要介绍了我在七夕佳节用Python制作的表白神器,建议收藏,程序员也该拥有爱情,感兴趣的小伙伴快来看看吧2021-08-08
今天小编就为大家分享一篇python 匹配url中是否存在IP地址的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-06-06
这篇文章将详细讲解图像灰度非线性变换。图像灰度非线性变换主要包括对数变换、幂次变换、指数变换、分段函数变换，通过非线性关系对图像进行灰度处理，本文主要讲解三种常见类型的灰度非线性变换，感兴趣的可以了解一下2022-03-03
今天小编就为大家分享一篇修改默认的pip版本为对应python2.7的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-11-11
最新评论