Tensorflow 自定义loss的情况下初始化部分变量方式

 更新时间:2020年01月06日 08:47:21   作者:I_will_____  
今天小编就为大家分享一篇Tensorflow 自定义loss的情况下初始化部分变量方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

一般情况下,tensorflow里面变量初始化过程为:

  #variables ...........
  #..................... 
  init = tf.initialize_all_variables()
  sess.run(init)

这里 tf.initialize_all_variables() 会初始化所有的变量。

实际过程中,假设有a, b, c三个变量,其中a已经被初始化了,只想单独初始化b,c,那么:

  #variables ...
  ...
  init = tf.variables_initializer([b,c])
  sess.run(init)

此外,如果自行修改了optimizer,如下代码就会报错:

  #definition of variables a, b, c ...
  ....
  my_optimizer = tf.train.RMSProp(learning_rate = 0.1).minimize(my_cost)
  init = tf.variables_initializer([b,c])
  sess.run(init)

这是因为自己定义的optimizer会生成新的variables,但是在init里面并没有初始化,所以无法访问,会报错。解决方法如下:

  a = tf.Variables(...)      #line N
  temp = set(tf.all_variables()) 
  b = tf.Variables(...)
  c = tf.Variables(...) 
  #definition of my optimizer
  optimizer = tf.train.......
  init = tf.variables_initializer(set(tf.all_varialbles())-temp) # line M
  sess.run(init)

首先,temp = set(tf.all_variables()) 将该行(line N)代码之前的所有变量保存在temp中,接下来定义变量b, c,以及自定义的optimizer,然后 set(tf.all_varialbles()存储了改行(line M)之前的所有变量(包括optimizer生成的变量以及temp中所含的变量),set(tf.all_varialbles())-temp相减得到line N~M这几行定义的变量。

以上这篇Tensorflow 自定义loss的情况下初始化部分变量方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • python文件选择对话框的操作方法

    python文件选择对话框的操作方法

    这篇文章主要介绍了python文件选择对话框的操作方法,本文通过实例代码给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-06-06
  • Python代码统计耗时的方法详解

    Python代码统计耗时的方法详解

    在现代软件开发中,性能优化是一个至关重要的环节,无论是开发大型系统还是小型工具,开发者都需要对代码的执行时间进行精确测量,以便找出瓶颈并优化性能,本文给大家介绍了Python代码统计耗时的方法,需要的朋友可以参考下
    2025-02-02
  • tensorflow基本操作小白快速构建线性回归和分类模型

    tensorflow基本操作小白快速构建线性回归和分类模型

    这篇文章主要介绍了tensorflow基本操作,快速构建线性回归和分类模型,图文代码示例非常详细,有需要的朋友可以借鉴参考下,希望可以对大家有所帮助
    2021-08-08
  • python实现简单倒计时功能

    python实现简单倒计时功能

    这篇文章主要为大家详细介绍了python实现简单倒计时功能,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-04-04
  • Python实现访问者模式详情

    Python实现访问者模式详情

    这篇文章主要介绍了Python实现访问者模式详情,访问者模式,指作用于一个对象结构体上的元素的操作。访问者可以使用户在不改变该结构体中的类的基础上定义一个新的操作,下文更多相关资料,需要的朋友可以参考下
    2022-03-03
  • Sentry的安装、配置、使用教程(Sentry日志手机系统)

    Sentry的安装、配置、使用教程(Sentry日志手机系统)

    Sentry 是一个实时事件日志记录和聚合平台,由于ExceptionLess官方提供的客户端只有.Net/.NetCore平台和js的,本文继续介绍另一个日志收集系统Sentry,感兴趣的朋友一起看看吧
    2022-07-07
  • Python-pip配置国内镜像源快速下载包的方法详解

    Python-pip配置国内镜像源快速下载包的方法详解

    pip如果不配置国内镜像源的话,下载包的速度非常慢,毕竟默认的源在国外呢,这篇文章主要介绍了Python-pip配置国内镜像源快速下载包的方法详解,需要的朋友可以参考下
    2024-01-01
  • pip安装python库时报错的问题解决

    pip安装python库时报错的问题解决

    本文主要介绍了在Windows系统上解决pip命令找不到的问题的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2025-03-03
  • python 工具类之Queue组件详解用法

    python 工具类之Queue组件详解用法

    队列(queue)是一种先进先出的(First In First Out)的线性表,简称FIFO。队列允许在一端进行插入操作,而在另一端进行删除操作。允许插入的一端为队尾,允许删除的一端为队头。队列不允许在中间部位进行操作
    2021-10-10
  • python函数存储在模块的优点及用法总结

    python函数存储在模块的优点及用法总结

    在本篇文章里小编给大家整理了一篇关于python函数存储在模块的优点及用法相关内容,有兴趣的朋友们可以跟着学习下。
    2021-10-10

最新评论