Pytorch获取无梯度TorchTensor中的值

 更新时间:2021年05月22日 08:59:23   作者:_Epsilon_  
这篇文章主要介绍了Pytorch获取无梯度TorchTensor中的值,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

获取无梯度Tensor

遇到的问题:

使用两个网络并行运算,一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度,即grad_fn=<XXXBackward0>.

这时候如果把反馈值扔到第二网络中更新,会出现第一个计算图丢失无法更新的错误。哎哟喂,我根本不需要第一个网络的梯度好吗?

一开始用了一个笨办法,先转numpy,然后再转回torch.Tensor。因为numpy数据是不带梯度的。

但是我的原始tensor的放在cuda上的,

cuda的张量是不能直接转Tensor,所以

t_error = td_error.cuda().data.cpu().numpy()
t_error = torch.FloatTensor(t_error).to(device)

从cuda转回了cpu,变成numpy,又转成了tensor,又回到了cuda上,坑爹呢这是,可能只有我才能写出如此低效的辣鸡代码了。

后来发现,其实直接在返回的时候添加

with torch.no_grad():
 td_error = reward + GAMMA * v_ - v

即可.

补充:在pytorch中取一个tensor的均值,然后该张量中的所有值与其对比!

Pytorch中的Tensor的shape是(B, C, W, H),

对该tensor取均值并与所有值做对比代码如下:

C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3]
for c in range(C):
 mean = torch.mean(x[0][c])
 for h in range(H):
  for w in range(W):
  if x[0][c][h][w] >= mean:
  x[0][c][h][w] = mean

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Spring Cloud Feign高级应用实例详解

    Spring Cloud Feign高级应用实例详解

    这篇文章主要介绍了Spring Cloud Feign高级应用实例详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-12-12
  • python opencv检测目标颜色的实例讲解

    python opencv检测目标颜色的实例讲解

    下面小编就为大家分享一篇python opencv检测目标颜色的实例讲解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-04-04
  • pandas重新生成索引的方法

    pandas重新生成索引的方法

    今天小编就为大家分享一篇pandas重新生成索引的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-11-11
  • 利用Python实现自动工作汇报的脚本分享

    利用Python实现自动工作汇报的脚本分享

    这篇文章主要为大家详细介绍了如何利用Python实现一个自动工作汇报的脚本,文中的示例代码讲解详细,对我们学习Python有一定帮助,需要的可以参考一下
    2022-08-08
  • Python 文件操作的详解及实例

    Python 文件操作的详解及实例

    这篇文章主要介绍了Python 文件操作的详解及实例的相关资料,希望通过本文大家能够理解掌握Python 文件操作的知识,需要的朋友可以参考下
    2017-09-09
  • python unittest单元测试的步骤分析

    python unittest单元测试的步骤分析

    在本篇文章里小编给大家整理了一篇关于python unittest单元测试的步骤,对此有兴趣的朋友们可以跟着学习下。
    2021-08-08
  • 用virtualenv建立多个Python独立虚拟开发环境

    用virtualenv建立多个Python独立虚拟开发环境

    这篇文章主要为大家详细介绍了用virtualenv建立多个Python独立虚拟开发环境,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-07-07
  • python+POP3实现批量下载邮件附件

    python+POP3实现批量下载邮件附件

    这篇文章主要为大家详细介绍了python+POP3实现批量下载邮件附件,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-06-06
  • Python 实现数据结构-循环队列的操作方法

    Python 实现数据结构-循环队列的操作方法

    这篇文章主要介绍了Python 实现数据结构-循环队列的操作方法,需要的朋友可以参考下
    2019-07-07
  • Pandas数据形状df.shape的实现

    Pandas数据形状df.shape的实现

    本文主要介绍了Pandas数据形状df.shape的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-07-07

最新评论