pytorch梯度剪裁方式
更新时间：2020年02月04日 14:54:42 作者：wang xiang
今天小编就为大家分享一篇pytorch梯度剪裁方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
我就废话不多说，看例子吧！
import torch.nn as nn outputs = model(data) loss= loss_fn(outputs, target) optimizer.zero_grad() loss.backward() nn.utils.clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2) optimizer.step()
nn.utils.clip_grad_norm_ 的参数：
parameters – 一个基于变量的迭代器，会进行梯度归一化
max_norm – 梯度的最大范数
norm_type – 规定范数的类型，默认为L2
以上这篇pytorch梯度剪裁方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
实习项目要做安全帽目标检测，拿到了公司给的一些视频数据，使用Opencv读取视频并每隔1s存储一副图像，本文就详细的介绍一下使用，感兴趣的可以了解一下2021-06-06
这篇文章主要介绍了python中Event实现线程间同步，Event是python线程间同步一种常用的方法，下列内容总结需要的朋友可以参考一下2022-04-04
上篇文章我们介绍了简单的Python web程序，实现hello world，本文我们来结合一下mysql，实现对数据库的简单操作，希望对大家有所帮助2014-09-09
在Python中,使用base64模块可以解码Base64编码的图片数据,首先需要去除Base64字符串的前缀,然后使用base64.b64decode()函数进行解码,最后将解码后的数据保存为图片文件,适用于各种MIME类型的Base64编码2024-09-09
用python生成(动态彩色)二维码的方法(使用myqr库实现)
今天小编就为大家分享一篇用python生成(动态彩色)二维码的方法(使用myqr库实现)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
Windows命令行打印文件使用print 命令，具体用法可使用help print查看，下面是使用Python调用print指令执行打印文件功能的代码,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Dockerfile构建一个Python Flask 镜像，对正在学习的你有一定的参考价值，需要的小伙伴可以参考一下2022-01-01
这篇文章主要为大家详细介绍了python实现飞机大战游戏，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-04-04
这篇文章主要介绍了Tornado服务器中绑定域名、虚拟主机的方法,本人查看了Tornado才得的方法,特此分享,需要的朋友可以参考下2014-08-08
这篇文章主要介绍了在Python中使用__slots__方法的详细教程,__slots__方法是Python的一个重要内置类方法,代码基于Python2.x版本,需要的朋友可以参考下2015-04-04
最新评论