pytorch cuda上tensor的定义 以及减少cpu的操作详解
更新时间：2020年06月23日 10:15:02 作者：枯叶蝶KYD
这篇文章主要介绍了pytorch cuda上tensor的定义 以及减少cpu的操作详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
cuda上tensor的定义
a = torch.ones(1000,1000,3).cuda()
某一gpu上定义
cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)
删除某一变量
del a
在cpu定义tensor然后转到gpu
torch.zeros().cuda()
直接在gpu上定义，这样就减少了cpu的损耗
torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)
补充知识：pytorch cuda.FloatTensor->FloatTensor
错误类型：
RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor）
定义残差块时定义在model的外面，在使用gpu进行训练的时候，残差块的参数是torch.FloatTensor类型，
虽然使用了model.cuda(),但是只对model里面的参数在gpu部分，所以把残差块对应的操作都在model的__init__(），
重新定义，即可解决问题
以上这篇pytorch cuda上tensor的定义 以及减少cpu的操作详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
Python .py生成.pyd文件并打包.exe 的注意事项说明
这篇文章主要介绍了Python .py生成.pyd文件并打包.exe 的注意事项说明，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-03-03
本文主要是解决python2.7在查询mysql时产生中文乱码的处理方法，非常的有用，亲测可行，推荐给大家2014-11-11
这篇文章主要介绍了Python的字典,结合实例形式详细分析了Python字典的概念、创建、格式化及常用操作方法与相关注意事项,需要的朋友可以参考下2021-10-10
本文主要介绍了django restframework序列化字段校验规则，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-05-05
这篇文章主要为大家介绍了Python queue模块攻略全解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2023-12-12
在音频处理领域,背景噪声是一个常见的问题,为了提高音频的质量,我们需要对音频进行降噪处理,本文将介绍如何使用 Python 实现音频降噪,文中通过代码示例讲解的非常详细,需要的朋友可以参考下2024-11-11
这篇文章主要介绍了如何实现Python 最短匹配模式，文中讲解非常细致，代码帮助大家更好的理解和学习，感兴趣的朋友可以了解下2020-07-07
本文主要介绍了Tornado Application的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2023-05-05
python双向链表和单链表类似，只不过是增加了一个指向前面一个元素的指针,下面的代码实例了python双向链表的方法2013-11-11
扑克牌是一种广泛使用的娱乐工具,通常用于各种纸牌游戏,本文给大家介绍了如何使用Python创建一个扑克牌生成器,需要的朋友可以参考下2025-04-04
最新评论