Tensorflow的梯度异步更新示例
更新时间：2020年01月23日 18:11:22 作者：supe_king
今天小编就为大家分享一篇Tensorflow的梯度异步更新示例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
背景：
先说一下应用吧，一般我们进行网络训练时，都有一个batchsize设置，也就是一个batch一个batch的更新梯度，能有这个batch的前提是这个batch中所有的图片的大小一致，这样才能组成一个placeholder。那么若一个网络对图片的输入没有要求，任意尺寸的都可以，但是我们又想一个batch一个batch的更新梯度怎么办呢？
操作如下：
先计算梯度：
# 模型部分
Optimizer = tf.train.GradientDescentOptimizer(1)
gradient = Optimizer.compute_gradients(loss) # 每次计算所有变量的梯度
grads_holder = [(tf.placeholder(tf.float32, shape=g.get_shape()), v) for (g, v) in gradient]# 将每次计算的梯度保存
optm = Optimizer.apply_gradients(grads_holder) # 进行梯度更新
# 初始化部分
sess = tf.Session()
init = tf.global_variables_initializer()
sess.run(init)
# 实际训练部分
grads = [] # 定义一个空的列表用于存储每次计算的梯度
for i in range(batchsize): # batchsize设置在这里
x_i = ... # 输入
y_real = ... # 标签
grad_i = sess.run(gradient, feed_dict={inputs: x_i, outputs: y_real}) #梯度计算
grads.append(grad_i) # 梯度存储
# 定义一个空的字典用于存储，batchsize中所有梯度的和
grads_sum = {}
# 将网络中每个需要更新梯度的变量都遍历一遍
for i in range(len(grads_holder)):
k = grads_holder[i][0] # 得到该变量名
# 将该变量名下的所有梯度求和，这里也可以求平均，求平均只需要除以batchsize
grads_sum[k] = sum([g[i][0] for g in grads])
# 完成梯度更新
sess.run(optm,feed_dict=grads_sum)
以上这篇Tensorflow的梯度异步更新示例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python 爬取马蜂窝景点翻页文字评论的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-01-01
这篇文章主要介绍了Python如何使用OS模块调用 cmd,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Python列表extend()函数的使用方法，文章通过代码示例介绍的非常详细，对我们学习或工作有一定的参考价值,需要的朋友可以参考下2023-07-07
今天小编跟大家分享13个有趣又好玩的Python小游戏示例代码，教你如何通过边打游戏边学编程！感兴趣的小伙伴快跟随小编一起学习起来2022-02-02
今天小编就为大家分享一篇Pycharm导入Python包,模块的图文教程，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-06-06
这篇文章主要为大家详细介绍了python实现Nao机器人的单目测距，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-09-09
这篇文章主要介绍了ppython的移位操作实现详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-08-08
这篇文章主要介绍了Python入门教程(十九)python的函数,函数是组织好的，可重复使用的，用来实现单一，或相关联功能的代码段,需要的朋友可以参考下2023-04-04
python3 tkinter实现点击一个按钮跳出另一个窗口的方法
今天小编就为大家分享一篇python3 tkinter实现点击一个按钮跳出另一个窗口的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
python导出chrome书签到markdown文件的实例代码
python导出chrome书签到markdown文件，主要就是解析chrome的bookmarks文件，然后拼接成markdown格式的字符串，最后输出到文件即可。下面给大家分享实例代码，需要的朋友参考下2017-12-12
最新评论