Pytorch中实现CPU和GPU之间的切换的两种方法

 更新时间:2023年01月28日 10:44:50   作者:三个刺客  
本文主要介绍了Pytorch中实现CPU和GPU之间的切换的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

如何在pytorch中指定CPU和GPU进行训练,以及cpu和gpu之间切换

由CPU切换到GPU,要修改的几个地方:

网络模型、损失函数、数据(输入,标注)

# 创建网络模型
tudui = Tudui()
if torch.cuda.is_available():
   tudui = tudui.cuda()
 
# 损失函数
loss_fn = nn.CrossEntropyLoss()
if torch.cuda.is_available():
    loss_fn = loss_fn.cuda()
 
# 数据输入   包括训练和测试的代码,二者都需要添加此代码
if torch.cuda.is_available():
   imgs = imgs.cuda()
   targets = targets.cuda()

方法一:.to(device)

1.不知道电脑GPU可不可用时:

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu' )
a.to(device)

第一行代码的意思是判断电脑GPU可不可用,如果可用的话device就采用cuda()即调用GPU,不可用的话就采用cpu()即调用CPU。

第二行代码的意思就是把变量放到对应的device上(当然如果你用的是CPU的话就不用这一步了,因为变量默认是存在CPU上的,调用GPU的话要先把变量放到GPU上跑,跑完之后再调回CPU上)

2.指定GPU时

# 定义训练的设备
device = torch.device("cuda:0")
 
# 网络模型创建
tudui = Tudui()
tudui = tudui.to(device)
 
# 损失函数
loss_fn = nn.CrossEntropyLoss()
loss_fn = loss_fn.to(device)
 
# 训练步骤开始
    tudui.train()
    for data in train_dataloader:
        imgs, targets=data
        imgs = imgs.to(device)
        targets = targets.to(device)
        outputs = tudui(imgs)
        loss = loss_fn(outputs, targets)
 
# 测试步骤开始
    tudui.eval()
    total_test_loss = 0
    total_accuracy = 0
    with torch.no_grad():
        for data in test_dataloader:
            imgs, targets=data
            imgs = imgs.to(device)
            targets = targets.to(device)
            outputs = tudui(imgs)
            loss = loss_fn(outputs, targets)
            total_test_loss = total_test_loss + loss.item()
            accuracy = (outputs.argmax(1)==targets).sum()
            total_accuracy = total_accuracy + accuracy

3.指定cpu时:

device = torch.device('cpu')

方法二:

1、需要修改的

# 三种常见的写法
device = torch.device('cuda')
device = torch.device('cuda: 0')
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

2、代码

# 创建模型
tudui = Tudui()
if torch.cuda.is_available():
   tudui = tudui.cuda()
 
# 损失函数
loss_fn = nn.CrossEntropyLoss()
if torch.cuda.is_available():
    loss_fn = loss_fn.cuda()
 
# 训练步骤开始
    tudui.train()
    for data in train_dataloader:
        imgs, targets=data
        if torch.cuda.is_available():
            imgs = imgs.cuda()
            targets = targets.cuda()
        outputs = tudui(imgs)
        loss = loss_fn(outputs, targets)
 
 # 测试步骤开始
    tudui.eval()
    total_test_loss = 0
    total_accuracy = 0
    with torch.no_grad():
        for data in test_dataloader:
            imgs, targets=data
            if torch.cuda.is_available():
                imgs = imgs.cuda()
                targets = targets.cuda()
            outputs = tudui(imgs)
            loss = loss_fn(outputs, targets)
            total_test_loss = total_test_loss + loss.item()
            accuracy = (outputs.argmax(1)==targets).sum()
            total_accuracy = total_accuracy + accuracy

总结:

推荐方法一,如果自己电脑是只有CPU,可以推荐使用云端服务器,比如PaddlePaddle,Google colab,这些服务器由每周免费八个小时的使用时间,可供我们基本的需求。

到此这篇关于Pytorch中实现CPU和GPU之间的切换的两种方法的文章就介绍到这了,更多相关Pytorch CPU和GPU切换内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • python函数局部变量、全局变量、递归知识点总结

    python函数局部变量、全局变量、递归知识点总结

    在本篇文章里小编给大家整理了关于python函数局部变量、全局变量、递归知识点,有兴趣的朋友们学习参考下。
    2019-11-11
  • Python连接PostgreSQL数据库并查询数据的详细指南

    Python连接PostgreSQL数据库并查询数据的详细指南

    在现代软件开发中,数据库是存储和检索数据的核心组件,PostgreSQ是一个功能强大的开源对象关系数据库系统,它以其稳定性、强大的功能和灵活性而闻名,Python作为一种流行的编程语言,与PostgreSQL的结合使用非常广泛,本文介绍了Python连接PostgreSQL数据库并查询数据
    2024-12-12
  • Python3实现zip分卷压缩过程解析

    Python3实现zip分卷压缩过程解析

    这篇文章主要介绍了Python3实现zip分卷压缩过程解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-10-10
  • 浅析pip安装第三方库及pycharm中导入第三方库的问题

    浅析pip安装第三方库及pycharm中导入第三方库的问题

    这篇文章主要介绍了浅析pip安装第三方库及pycharm中导入第三方库的问题,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-03-03
  • 一文详解如何创建自己的Python装饰器

    一文详解如何创建自己的Python装饰器

    python装饰器在平常的python编程中用到的还是很多的,本篇文章中我们将来介绍一下python中最常使用的@staticmethod装饰器的使用,感兴趣的可以了解一下
    2022-09-09
  • python regex库实例用法总结

    python regex库实例用法总结

    在本篇内容里小编给大家整理了关于python regex库实例用法总结内容,有需要的朋友们参考学习下。
    2021-01-01
  • 基于python 开立方的注意事项说明

    基于python 开立方的注意事项说明

    这篇文章主要介绍了基于python 开立方的注意事项说明,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-03-03
  • 浅谈Python numpy创建空数组的问题

    浅谈Python numpy创建空数组的问题

    今天遇到一个小小的问题,是关于numpy创建空数组,今天特地整理了这篇文章,文中作出了非常详细的介绍,对正在学习python的小伙伴们有很好的帮助,需要的朋友可以参考下
    2021-05-05
  • 学习Python能用来做什么的问题

    学习Python能用来做什么的问题

    这篇文章主要介绍了关于Python能用来做什么的问题,如果你想学Python,或者你刚开始学习Python,那么你可能会问:我能用Python做什么?下面就让我们一起来看看吧
    2023-04-04
  • Python一行代码实现快速排序的方法

    Python一行代码实现快速排序的方法

    排序算法是在高考或中考中出现频率最多的点,所以大家要掌握,今天小编给大家带来了通过Python一行代码实现快速排序的方法,感兴趣的朋友跟随小编一起看看吧
    2019-04-04

最新评论