将pytorch的网络等转移到cuda

 更新时间:2021年06月01日 11:07:59   作者:aleien1  
这篇文章主要介绍了将pytorch的网络等转移到cuda的实现,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

神经网络一般用GPU来跑,我们的神经网络框架一般也都安装的GPU版本,本文就简单记录一下GPU使用的编写。

GPU的设置不在model,而是在Train的初始化上。

第一步是查看是否可以使用GPU

self.GPU_IN_USE = torch.cuda.is_available()

就是返回这个可不可以用GPU的函数,当你的pytorch是cpu版本的时候,他就会返回False。

然后是:

self.device = torch.device('cuda' if self.GPU_IN_USE else 'cpu')

torch.device是代表将torch.tensor分配到哪个设备的函数

接着是,我看到了一篇文章,原来就是将网络啊、数据啊、随机种子啊、损失函数啊、等等等等直接转移到CUDA上就好了!

于是下面就好理解多了:

转移模型:

self.model = Net(num_channels=1, upscale_factor=self.upscale_factor, base_channel=64, num_residuals=4).to(self.device)

设置cuda的随机种子:

torch.cuda.manual_seed(self.seed)

转移损失函数:

self.criterion.cuda()

转移数据:

data, target = data.to(self.device), target.to(self.device)

pytorch 网络定义参数的后面无法加.cuda()

pytorch定义网络__init__()的时候,参数不能加“cuda()", 不然参数不包含在state_dict()中,比如下面这种写法是错误的

self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True).cuda()

应该去掉".cuda()"

self.W1 = nn.Parameter(torch.FloatTensor(3,3), requires_grad=True)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 详解Django+Uwsgi+Nginx 实现生产环境部署

    详解Django+Uwsgi+Nginx 实现生产环境部署

    这篇文章主要介绍了详解Django+Uwsgi+Nginx 实现生产环境部署,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-11-11
  • 在python中使用pyspark读写Hive数据操作

    在python中使用pyspark读写Hive数据操作

    这篇文章主要介绍了在python中使用pyspark读写Hive数据操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-06-06
  • 零基础写python爬虫之爬虫编写全记录

    零基础写python爬虫之爬虫编写全记录

    前面九篇文章从基础到编写都做了详细的介绍了,第十篇么讲究个十全十美,那么我们就来详细记录一下一个爬虫程序如何一步步编写出来的,各位看官可要看仔细了
    2014-11-11
  • 使用Python合并PDF文件并添加自定义目录及页脚的全过程

    使用Python合并PDF文件并添加自定义目录及页脚的全过程

    在处理文档时,我们经常遇到需要合并多个PDF文件并添加目录及页脚的情况,本文将介绍如何使用Python,特别是PyPDF2和reportlab库来实现这一功能我们将通过一个实用的示例来演示整个过程,需要的朋友可以参考下
    2024-03-03
  • Python Panda中索引和选择 series 的数据

    Python Panda中索引和选择 series 的数据

    这篇文章主要介绍了Python Panda中索引和选择series的数据,文章通过围绕主题展开详细的内容介绍,具有一定的参考价值,需要的小伙伴可以参考一下
    2022-09-09
  • 对dataframe数据之间求补集的实例详解

    对dataframe数据之间求补集的实例详解

    今天小编就为大家分享一篇对dataframe数据之间求补集的实例详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-01-01
  • python利用文件读写编写一个博客

    python利用文件读写编写一个博客

    这篇文章主要为大家详细介绍了python利用文件读写编写一个博客,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-08-08
  • Selenium chrome配置代理Python版的方法

    Selenium chrome配置代理Python版的方法

    这篇文章主要介绍了Selenium chrome配置代理Python版的方法,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-11-11
  • Python实现控制台输入密码的方法

    Python实现控制台输入密码的方法

    这篇文章主要介绍了Python实现控制台输入密码的方法,实例对比分析了几种输入密码的方法,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-05-05
  • Tortoise-orm信号实现及使用场景源码详解

    Tortoise-orm信号实现及使用场景源码详解

    这篇文章主要为大家介绍了Tortoise-orm信号实现及使用场景源码详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2023-03-03

最新评论