tensorflow 实现自定义梯度反向传播代码
更新时间：2020年02月10日 08:34:36 作者：青盏
今天小编就为大家分享一篇tensorflow 实现自定义梯度反向传播代码，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
以sign函数为例：
sign函数可以对数值进行二值化，但在梯度反向传播是不好处理，一般采用一个近似函数的梯度作为代替，如上图的Htanh。在[-1,1]直接梯度为1，其他为0。
#使用修饰器，建立梯度反向传播函数。其中op.input包含输入值、输出值，grad包含上层传来的梯度
@tf.RegisterGradient("QuantizeGrad")
def sign_grad(op, grad):
input = op.inputs[0]
cond = (input>=-1)&(input<=1)
zeros = tf.zeros_like(grad)
return tf.where(cond, grad, zeros)
#使用with上下文管理器覆盖原始的sign梯度函数
def binary(input):
x = input
with tf.get_default_graph().gradient_override_map({"Sign":'QuantizeGrad'}):
x = tf.sign(x)
return x
#使用
x = binary(x)
以上这篇tensorflow 实现自定义梯度反向传播代码就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
python+selenium 脚本实现每天自动登记的思路详解
这篇文章主要介绍了python+selenium 脚本实现每天自动登记,本文你给大家分享基本的思路，通过实例代码截图的形式给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-03-03
Python是顶级编程语言之一，它具有许多程序员从未使用过的许多隐藏功能。在这篇博客中，将和大家分享一下你可能从未使用过的13个Python脚本，感兴趣的可以学习一下2023-01-01
今天,发现了一个好玩儿的库,叫做 “pypinyin ”,用于帮助我们实现汉字转拼音,文中有非常详细的代码示例,对正在学习python的小伙伴们很有帮助,需要的朋友可以参考下2021-05-05
python2.7无法使用pip的解决方法(安装easy_install)
下面小编就为大家分享一篇python2.7无法使用pip的解决方法(安装easy_install)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-04-04
Tkinter canvas的画布参数,删除组件,添加垂直滚动条详解
这篇文章主要介绍了python tkinter 画布参数,删除组件,添加垂直滚动条使用实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2021-10-10
内网穿透是一种将内部网络服务暴露到公共网络的技术,可以让外部用户访问内部网络上的服务,本文将介绍如何使用Gradio实现免费的内网穿透,需要的可以参考下2024-03-03
python2与python3的print及字符串格式化小结
最近一直在用python写程序，对于python的print一直很恼火，老是不按照预期输出。今天特来总结一样print和format，也希望能帮助大家彻底理解它们2018-11-11
这篇文章主要介绍了简单了解Python3里的一些新特性，给大家总结一下Python3一些新的更方便的特性！希望你们看完后也能高效率的编写代码,需要的朋友可以参考下2019-07-07
这篇文章主要介绍了Python函数式编程指南（三）：迭代器详解,本文讲解了迭代器(Iterator)概述、使用迭代器、生成器表达式(Generator expression)和列表解析(List Comprehension)等内容,需要的朋友可以参考下2015-06-06
这篇文章主要介绍了python wsgiref源码的相关资料，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下2021-02-02
最新评论