pytorch使用指定GPU训练的实例
更新时间：2019年08月19日 15:21:52 作者：ax7399
今天小编就为大家分享一篇pytorch使用指定GPU训练的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
本文适合多GPU的机器，并且每个用户需要单独使用GPU训练。
虽然pytorch提供了指定gpu的几种方式，但是使用不当的话会遇到out of memory的问题，主要是因为pytorch会在第0块gpu上初始化，并且会占用一定空间的显存。这种情况下，经常会出现指定的gpu明明是空闲的，但是因为第0块gpu被占满而无法运行，一直报out of memory错误。
解决方案如下：
指定环境变量，屏蔽第0块gpu
CUDA_VISIBLE_DEVICES = 1 main.py
这句话表示只有第1块gpu可见，其他gpu不可用，此时要注意第1块gpu已经变成第0块，因此代码里应该使用编号0来指定gpu。如果依然使用cuda:1会报invalid device ordinal。
当然也可以在代码里使用os模块达到同样效果：
import os #多块使用逗号隔开 os.environ['CUDA_VISIBLE_DEVICES'] = '1'
使用torch.cuda.device with torch.cuda.device(1): ...
注意这种情况下gpu编号也会改变
关于这个问题的讨论，感兴趣的也可以去这里查看cuda out of memory error when GPU0 memory is fully utilized
以上这篇pytorch使用指定GPU训练的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
解决遇到:PytorchStreamReader failed reading zip&n
本文针对"PytorchStreamReaderfailedreadingziparchive:failedfindingcentral"错误提出解决方案,包括检查文件完整性、文件路径,尝试更新PyTorch版本,检查压缩文件格式,代码问题,或寻求技术支持等,希望这些经验能给遇到同样问题的人一个参考2024-09-09
Django使用Celery加redis执行异步任务的实例内容
在本篇文章里小编给大家整理的是关于Django使用Celery加redis执行异步任务，需要的朋友们可以学习下。2020-02-02
Python中用pyinstaller打包时的图标问题及解决方法
这篇文章主要介绍了python中用pyinstaller打包时的图标问题及解决方法，本文从两方面给大家分析原因所在，通过截图实例代码给大家介绍的非常详细,需要的朋友可以参考下2020-02-02
本文主要介绍了Pandas提取数据的三种方式，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2023-01-01
这篇文章主要介绍了python疲劳驾驶困倦低头检测,该系统可以检测一个人在开车时是否困倦，及时提醒，做到安全隐患排查，对实现代码感兴趣的朋友一起看看吧2022-04-04
DBSCAN,即Density-Based Spatial Clustering of Applications with Noise,基于密度的噪声应用空间聚类,本文将详细介绍DBSCAN算法的原理及其Python实现,需要的可以参考下2023-12-12
这篇文章主要介绍了python实现类的静态变量用法,实例分析了Python中基于数组实现静态队列的相关使用技巧,需要的朋友可以参考下2015-05-05
这篇文章主要为大家详细介绍了python实现京东秒杀功能，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-07-07
这篇文章主要介绍了python如何实现小程序 无限求和平均,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Python中的hashlib模块解析,hashlib是一个提供字符加密功能的模块,包含MD5和SHA的加密算法,具体支持md5,sha1, sha224, sha256, sha384, sha512等算法, 该模块在用户登录认证方面应用广泛,对文本加密也很常见,需要的朋友可以参考下2023-09-09
最新评论