pytorch中Tensor.to(device)和model.to(device)的区别及说明
更新时间：2022年07月15日 15:10:21 作者：康康同学97
这篇文章主要介绍了pytorch中Tensor.to(device)和model.to(device)的区别及说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
Tensor.to(device)和model.to(device)的区别
区别所在
使用GPU训练的时候，需要将Module对象和Tensor类型的数据送入到device。通常会使用 to.(device)。但是需要注意的是：
- 对于Tensor类型的数据，使用to.(device) 之后，需要接收返回值，返回值才是正确设置了device的Tensor。
- 对于Module对象，只用调用to.(device) 就可以将模型设置为指定的device。不必接收返回值。
来自pytorch官方文档的说明：
Tensor.to(device)
Module.to(device)
举例
# Module对象设置device的写法 model.to(device) # Tensor类型的数据设置 device 的写法。 samples = samples.to(device)
pytorch学习笔记--to(device)用法
在学习深度学习的时候，我们写代码经常会见到类似的代码：
img = img.to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))
model = models.vgg16_bn(pretrained=True).to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))也可以先定义device：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = model.to(device)
img = img.to(device)这段代码到底有什么用呢？
这段代码的意思就是将所有最开始读取数据时的tensor变量copy一份到device所指定的GPU上去，之后的运算都在GPU上进行。
为什么要在GPU上做运算呢？
首先，在做高维特征运算的时候，采用GPU无疑是比用CPU效率更高，如果两个数据中一个加了.cuda()或者.to(device)，而另外一个没有加，就会造成类型不匹配而报错。
tensor和numpy都是矩阵，前者能在GPU上运行，后者只能在CPU运行，所以要注意数据类型的转换。
.cuda()和.to(device)的效果一样吗？为什么后者更好？
两个方法都可以达到同样的效果，在pytorch中，即使是有GPU的机器，它也不会自动使用GPU，而是需要在程序中显示指定。调用model.cuda()，可以将模型加载到GPU上去。这种方法不被提倡，而建议使用model.to(device)的方式，这样可以显示指定需要使用的计算资源，特别是有多个GPU的情况下。
如果你有多个GPU
那么可以参考以下代码：
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = Model()
if torch.cuda.device_count() > 1:
model = nn.DataParallel(model，device_ids=[0,1,2])
model.to(device)以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
在日常生活中,有好听的翻唱视频或音乐视频可以将其音频分离保存到网易云或QQ音乐中随时听,然而大部分的音频分离软件需要下载和安装,所以本文就来分享一种提取音频的简便方法吧2023-09-09
这里没有使用队列只是采用多线程分发对代理量不大的网页还行但是几百几千性能就很差了，感兴趣的朋友可以了解下，希望对你有所帮助2013-05-05
这篇文章主要介绍了matlab图像灰度调整及imadjust函数的用法详解,本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值，需要的朋友可以参考下2020-02-02
今天小编就为大家分享一篇对Python获取屏幕截图的4种方法详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-08-08
python检测文件夹变化,并拷贝有更新的文件到对应目录的方法
今天小编就为大家分享一篇python检测文件夹变化,并拷贝有更新的文件到对应目录的方法。具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-10-10
这篇文章主要介绍了Python面向对象的相关内容，如果您想对Python编程的基础部分有所了解，这篇文章是值得一看的，需要的朋友可以参考下。2021-10-10
这篇文章主要介绍了Python根据站点列表绘制站坐标全球分布图,输入站点列表文件、snx全球站点坐标文件，本文通过示例代码给大家介绍的非常详细，需要的朋友可以参考下2021-12-12
在VSCode中添加Python解释器并安装Python库的方法
这篇文章主要介绍了在VSCode中添加Python解释器并安装Python库的方法，本文分步骤通过图文并茂的形式给大家介绍的非常详细，需要的朋友可以参考下2023-02-02
这篇文章主要介绍了python 换位密码算法的实例详解的相关资料,换位密码基本原理：先把明文按照固定长度进行分组，然后对每一组的字符进行换位操作，从而实现加密，需要的朋友可以参考下2017-07-07
这篇文章主要介绍了一文了解Python中的super 函数，文章围绕主题展开详细的内容介绍，具有一定的参考价值，需要的朋友可以参考一下2022-09-09
最新评论