Pytorch如何切换 cpu和gpu的使用详解

更新时间：2021年03月01日 16:42:09 作者：遇到好事了

这篇文章主要介绍了Pytorch如何切换 cpu和gpu的使用详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧

前言，在pytorch中，当服务器上的gpu被占用时，很多时候我们想先用cpu调试下代码，那么就需要进行gpu和cpu的切换。

方法1：x.to(device)

把 device 作为一个可变参数，推荐使用argparse进行加载：

使用gpu时：

device='cuda'
x.to(device) # x是一个tensor，传到cuda上去

使用cpu时：

device='cpu'
x.to(device)

方法2：使用x.cuda()+CUDA_VISIBLE_DEVICES

很多贴子中说，使用x.cuda() 和x.to('cuda') 虽然是等效的，但是x.cuda() 的缺点是无法动态切换cpu。然而，其实配合命令行参数CUDA_VISIBLE_DEVICES 是可以进行切换的。

在服务器上创建一个python脚本 t.py：

import torch
print(torch.cuda.device_count()) # 可用gpu数量
print(torch.cuda.is_available()) # 是否可用gpu

首先先看一下，正常运行的情况：

执行命令：python t.py
输出结果：因为服务器上有两个gpu，所以是我们想要的结果。

2
True

如果想要只使用某一块gpu，只需要在执行前加一个参数：

CUDA_VISIBLE_DEVICES=0 python t.py，例如，我们要使用gpu 0
接下来看看输出什么：是的！程序中确实只可见了一块gpu~

1
True

下面，如果我们想使用cpu呢？

CUDA_VISIBLE_DEVICES="" python t.py
输出结果：可以看到，虽然服务器上有2块cpu，通过我们设置执行参数，程序中也成功看不到了！

0
False

因此，回归正题，当我们使用x.cuda()进行分配gpu时，只需要使用torch.cuda.is_available()加一个判断即可，当想使用cpu的时候在执行程序的命令行参数进行控制：

if torch.cuda.is_available():
  x= x.cuda()

到此这篇关于Pytorch如何切换 cpu和gpu的使用详解的文章就介绍到这了,更多相关Pytorch切换cpu和gpu内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

Python中对数据库的操作详解
今天简单说说MySQL，我们存储数据，直接用本地文件即可，但是，本地文件不利于存放海量数据，也不利于用程序对文件的数据进行查询与管理，我们可以使用数据库
2023-02-02
Python中的递归函数使用详解
这篇文章主要介绍了Python中的递归函数使用详解,递归函数是指某个函数调用自己或者调用其他函数后再次调用自己,由于不能无限嵌套调用,所以某个递归函数一定存在至少两个分支,一个是退出嵌套,不再直接或者间接调用自己；另外一个则是继续嵌套,需要的朋友可以参考下
2023-12-12
Python+PyQt5实现自动点击神器
这篇文章主要为大家详细介绍了如何利用Python和PyQt5实现自动点击神器,旨在解决重复性的点击工作,解放双手,具有及时性和准确性,需要的可以参考下
2024-01-01
python tkinter实现学生信息管理系统
这篇文章主要为大家详细介绍了python tkinter实现学生信息管理系统，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2022-02-02
Pycharm打开.py文件和项目的几种实现方式
这篇文章主要介绍了Pycharm打开.py文件和项目的几种实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2025-04-04
selenium鼠标操作实战案例详解
在实际场景中,会有单击、长时间单击、双击、右键、拖拽等鼠标操作,selenium提供了名为ActionChains的类来处理这些操作,下面这篇文章主要给大家介绍了关于selenium鼠标操作实战案例的相关资料,需要的朋友可以参考下
2023-05-05
基于Python实现人工智能算法的方法详解
Python已经成为了机器学习领域最受欢迎的编程语言之一，Python的简洁性和易用性使其成为了开发人员和数据科学家的首选语言，在本文中，我们将探讨如何使用Python实现人工智能算法，感兴趣的小伙伴跟着小编一起来探讨吧
2023-06-06
用Python实现2024年春晚刘谦魔术
昨晚春晚上刘谦的两个魔术表演都非常精彩,忍不住用编程去模拟一下这个过程,所以本文给大家用Python实现2024年春晚刘谦魔术,文中通过代码示例给大家介绍的非常详细,需要的朋友可以参考下
2024-02-02
PyQt中使用QtSql连接MySql数据库的方法
这篇文章主要介绍了PyQt中使用QtSql连接MySql数据库的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2020-07-07
利用Python封装MySQLHelper类实现数据库的增删改查功能
Python 连接 MySQL 的方法有很多，常用的有 pymysql 和 mysql-connector-python 两种库，本文主要介绍了如何封装一个MySQLHelper类，实现对数据库的增删改查功能，感兴趣的可以了解一下
2023-06-06