tensorflow 实现自定义梯度反向传播代码
更新时间：2020年02月10日 08:34:36 作者：青盏
今天小编就为大家分享一篇tensorflow 实现自定义梯度反向传播代码，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
以sign函数为例：
sign函数可以对数值进行二值化，但在梯度反向传播是不好处理，一般采用一个近似函数的梯度作为代替，如上图的Htanh。在[-1,1]直接梯度为1，其他为0。
#使用修饰器，建立梯度反向传播函数。其中op.input包含输入值、输出值，grad包含上层传来的梯度
@tf.RegisterGradient("QuantizeGrad")
def sign_grad(op, grad):
input = op.inputs[0]
cond = (input>=-1)&(input<=1)
zeros = tf.zeros_like(grad)
return tf.where(cond, grad, zeros)
#使用with上下文管理器覆盖原始的sign梯度函数
def binary(input):
x = input
with tf.get_default_graph().gradient_override_map({"Sign":'QuantizeGrad'}):
x = tf.sign(x)
return x
#使用
x = binary(x)
以上这篇tensorflow 实现自定义梯度反向传播代码就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
基于python的docx模块处理word和WPS的docx格式文件方式
今天小编就为大家分享一篇基于python的docx模块处理word和WPS的docx格式文件方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
今天给大家带来几个实用的python脚本工具，可以实现系统提示工具、文件夹清理工具等，这样就再也不用担心女朋友在电脑里安装垃圾软件啦2022-05-05
这篇文章主要介绍了Django数据统计功能count()的使用，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-11-11
这篇文章主要为大家介绍了Python 异步之生成器示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2023-03-03
有些时候在项目中，使用配置文件来配置一些灵活的参数是比较常见的事，因为这会使得代码的维护变得更方便，而ini配置文件是比较常用的一种，今天介绍用ConfigParser模块来解析ini配置文件，感兴趣的朋友一起看看吧2023-01-01
python的数组切片操作很强大,但有些细节老是忘,故写一点东西记录下来,下面这篇文章主要给大家介绍了关于Python中数组切片用法的相关资料,文中通过示例代码介绍的非常详细,需要的朋友可以参考下2022-12-12
Python实现自动计算Excel数据指定范围内的区间最大值
这篇文章主要为大家详细介绍了如何基于Python自动计算Excel数据指定范围内的区间最大值，文中的示例代码简洁易懂，感兴趣的小伙伴可以了解下2023-07-07
在本篇内容里小编给各位分享了关于python3的编码问题以及相关实例代码，有需要的朋友们参考一下。2019-07-07
这篇文章主要给大家介绍了关于Python将运行结果导出为CSV格式的两种常用方法,Python生成(导出)csv文件其实很简单,我们一般可以用csv模块或者pandas库来实现,需要的朋友可以参考下2023-07-07
解决Python3.7.0 SSL低版本导致Pip无法使用问题
这篇文章主要介绍了解决Python3.7.0 SSL低版本导致Pip无法使用问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-09-09
最新评论