pytorch中Tensor.to(device)和model.to(device)的区别及说明
更新时间：2022年07月15日 15:10:21 作者：康康同学97
这篇文章主要介绍了pytorch中Tensor.to(device)和model.to(device)的区别及说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
Tensor.to(device)和model.to(device)的区别
区别所在
使用GPU训练的时候，需要将Module对象和Tensor类型的数据送入到device。通常会使用 to.(device)。但是需要注意的是：
- 对于Tensor类型的数据，使用to.(device) 之后，需要接收返回值，返回值才是正确设置了device的Tensor。
- 对于Module对象，只用调用to.(device) 就可以将模型设置为指定的device。不必接收返回值。
来自pytorch官方文档的说明：
Tensor.to(device)
Module.to(device)
举例
# Module对象设置device的写法 model.to(device) # Tensor类型的数据设置 device 的写法。 samples = samples.to(device)
pytorch学习笔记--to(device)用法
在学习深度学习的时候，我们写代码经常会见到类似的代码：
img = img.to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))
model = models.vgg16_bn(pretrained=True).to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))也可以先定义device：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = model.to(device)
img = img.to(device)这段代码到底有什么用呢？
这段代码的意思就是将所有最开始读取数据时的tensor变量copy一份到device所指定的GPU上去，之后的运算都在GPU上进行。
为什么要在GPU上做运算呢？
首先，在做高维特征运算的时候，采用GPU无疑是比用CPU效率更高，如果两个数据中一个加了.cuda()或者.to(device)，而另外一个没有加，就会造成类型不匹配而报错。
tensor和numpy都是矩阵，前者能在GPU上运行，后者只能在CPU运行，所以要注意数据类型的转换。
.cuda()和.to(device)的效果一样吗？为什么后者更好？
两个方法都可以达到同样的效果，在pytorch中，即使是有GPU的机器，它也不会自动使用GPU，而是需要在程序中显示指定。调用model.cuda()，可以将模型加载到GPU上去。这种方法不被提倡，而建议使用model.to(device)的方式，这样可以显示指定需要使用的计算资源，特别是有多个GPU的情况下。
如果你有多个GPU
那么可以参考以下代码：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = Model()
if torch.cuda.device_count() > 1:
model = nn.DataParallel(model，device_ids=[0,1,2])
model.to(device)以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
python os.listdir按文件存取时间顺序列出目录的实例
今天小编就为大家分享一篇python os.listdir按文件存取时间顺序列出目录的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-10-10
下面小编就为大家带来一篇python字符类型的一些方法小结。小编觉得挺不错的，现在分享给大家，也给大家做个参考，一起跟随小编过来看看吧2016-05-05
这篇文章主要分享的是18个Python编程技巧,文章围绕 Python的相关资料展开详细全文，对工作中的你了能具有一定的参考价值,需要的朋友可以参考一下，希望对你有所帮助2022-01-01
Python爬虫入门案例之爬取去哪儿旅游景点攻略以及可视化分析
读万卷书不如行万里路，学的扎不扎实要通过实战才能看出来，本篇文章手把手带你爬取去哪儿平台的旅游景点攻略并进行可视化分析,大家可以在过程中查缺补漏，看看自己掌握程度怎么样2021-10-10
这篇文章主要为大家详细介绍了Python中常用的8个绘图函数的使用,文中的示例代码讲解详细,具有一定的学习价值,感兴趣的小伙伴可以跟随小编一起了解一下2023-10-10
这篇文章主要介绍了pandas针对excel处理的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-01-01
在Python的列表中利用remove()方法删除元素的教程
这篇文章主要介绍了在Python的列表中利用remove()方法删除元素的教程,是Python入门中的基础知识,注意其和pop()方法的区别,需要的朋友可以参考下2015-05-05
这篇文章主要介绍了python特性语法之遍历、公共方法、引用的相关资料,需要的朋友可以参考下2018-08-08
这篇文章主要为大家介绍了python编写根据年份判断生肖实例,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2024-01-01
Windows系统下Chromedriver.exe安装及配置详细教程
ChromeDriver.exe是一款实用的chrome浏览器驱动工具,能够用于自动化测试、网络爬虫和操作浏览器,其主要作用是模拟浏览器操作,下面这篇文章主要给大家介绍了关于Windows系统下Chromedriver.exe安装及配置的相关资料,需要的朋友可以参考下2023-11-11
最新评论