Pytorch获取无梯度TorchTensor中的值
更新时间：2021年05月22日 08:59:23 作者：_Epsilon_
这篇文章主要介绍了Pytorch获取无梯度TorchTensor中的值，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
获取无梯度Tensor
遇到的问题：
使用两个网络并行运算，一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度，即grad_fn=<XXXBackward0>.
这时候如果把反馈值扔到第二网络中更新，会出现第一个计算图丢失无法更新的错误。哎哟喂，我根本不需要第一个网络的梯度好吗？
一开始用了一个笨办法，先转numpy，然后再转回torch.Tensor。因为numpy数据是不带梯度的。
但是我的原始tensor的放在cuda上的，
cuda的张量是不能直接转Tensor，所以
t_error = td_error.cuda().data.cpu().numpy() t_error = torch.FloatTensor(t_error).to(device)
从cuda转回了cpu，变成numpy，又转成了tensor，又回到了cuda上，坑爹呢这是，可能只有我才能写出如此低效的辣鸡代码了。
后来发现，其实直接在返回的时候添加
with torch.no_grad(): td_error = reward + GAMMA * v_ - v
即可.
补充：在pytorch中取一个tensor的均值，然后该张量中的所有值与其对比！
Pytorch中的Tensor的shape是(B, C, W, H)，
对该tensor取均值并与所有值做对比代码如下：
C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3] for c in range(C): mean = torch.mean(x[0][c]) for h in range(H): for w in range(W): if x[0][c][h][w] >= mean: x[0][c][h][w] = mean
以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python中的os.path.join使用方法详解,os.path.join用于将多个路径拼接为一个完整路径,经常使用,但没了解过细节,直到今天遇到一个令人疑惑的问题,最后发现是os.path.join的问题,借此机会,记录下os.path.join的用法,需要的朋友可以参考下2023-11-11
这篇文章主要介绍了在SAE上部署Python的Django框架的一些问题汇总,SAE是新浪的一个在线APP部署平台,并且对Python应用提供相关支持,需要的朋友可以参考下2015-05-05
这篇文章主要介绍了python字典和JSON格式的转换方式，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-05-05
这篇文章主要介绍了selenium判断元素是否存在的两种方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-12-12
这篇文章主要介绍了python argparse模块通过后台传递参数实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-04-04
这篇文章主要介绍了如何基于python实现年会抽奖工具,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-10-10
这篇文章主要介绍了python 直接赋值和copy的区别详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-08-08
这篇文章主要为大家介绍了python机器学习逻辑回归随机梯度下降法的详细讲解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步2021-11-11
本文主要介绍了Python中Generators教程的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2023-02-02
这篇文章主要给大家介绍了pycharm远程连接docker容器的操作流程,文中通过代码示例和图文讲解介绍的非常详细,具有一定的参考价值,需要的朋友可以参考下2023-08-08
最新评论