pytorch cuda上tensor的定义 以及减少cpu的操作详解
更新时间：2020年06月23日 10:15:02 作者：枯叶蝶KYD
这篇文章主要介绍了pytorch cuda上tensor的定义 以及减少cpu的操作详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
cuda上tensor的定义
a = torch.ones(1000,1000,3).cuda()
某一gpu上定义
cuda1 = torch.device('cuda:1')
b = torch.randn((1000,1000,1000),device=cuda1)
删除某一变量
del a
在cpu定义tensor然后转到gpu
torch.zeros().cuda()
直接在gpu上定义，这样就减少了cpu的损耗
torch.cuda.FloatTensor(batch_size, self.hidden_dim, self.height, self.width).fill_(0)
补充知识：pytorch cuda.FloatTensor->FloatTensor
错误类型：
RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor）
定义残差块时定义在model的外面，在使用gpu进行训练的时候，残差块的参数是torch.FloatTensor类型，
虽然使用了model.cuda(),但是只对model里面的参数在gpu部分，所以把残差块对应的操作都在model的__init__(），
重新定义，即可解决问题
以上这篇pytorch cuda上tensor的定义 以及减少cpu的操作详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
今天小编就为大家分享一篇python单线程文件传输的实例(C/S)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-02-02
这篇文章主要介绍了python drf各类组件的用法和作用，帮助大家更好的理解和学习python，感兴趣的朋友可以了解下2021-01-01
这篇文章主要介绍了Python 爬虫之超链接 url中含有中文出错及解决办法的相关资料,出现UnicodeEncodeError: 'ascii' codec can't encode characters，的错误解决办法，需要的朋友可以参考下2017-08-08
这篇文章主要为大家介绍了python抓取skywalking中超过2s的告警接口详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2023-06-06
Python中map,reduce,filter和sorted函数的使用方法
这篇文章主要介绍了Python中map,reduce,filter和sorted函数的使用方法,是Python入门学习中的基础知识,需要的朋友可以参考下2015-08-08
yolov5的特征提取网络兼顾速度与精度,将PAN与PFN深度融合,对不同尺度鲁棒性强,可以即插即用,后接不同的检测器,下面这篇文章主要给大家介绍了关于如何通过底层源码理解YOLOv5的Backbone的相关资料,需要的朋友可以参考下2022-05-05
在数据分析和处理过程中,排序是一项常见而重要的操作,本文将详细介绍如何利用pandas对数据进行特定排序,包括基本排序、多列排序、自定义排序规则等方面的内容,需要的可以了解下2024-03-03
这篇文章主要介绍了Python视频爬虫实现下载头条视频功能,涉及Python正则匹配、网络传输及文件读写等相关操作技巧,需要的朋友可以参考下2018-05-05
利用python计算均值、方差和标准差(Numpy和Pandas)
这篇文章主要给大家介绍了关于利用python计算均值、方差和标准差的相关资料,Numpy在Python中是一个通用的数组处理包,它提供了一个高性能的多维数组对象和用于处理这些数组的工具,它是使用Python进行科学计算的基础包,需要的朋友可以参考下2023-11-11
今天小编就为大家分享一篇TensorFlow Session使用的两种方法小结，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-07-07
最新评论