Tensorflow 合并通道及加载子模型的方法
更新时间：2018年07月26日 11:18:39 作者：pl_Dong
今天小编就为大家分享一篇Tensorflow 合并通道及加载子模型的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
最近在使用Tensorflow 实现DNN网络时，遇到一些问题。目前网上关于Tensorflow的资料还比较少，现把问题和解决方法写出来，仅供参考。
（1）将两个子模型的输出合并到一个通道，例如同时连接到一个全连接层如图
合并方法为 tf.concat()函数。此函数需要两个个参数 concat（0或1，[合并节点1，合并节点2] ）。0 或 1 代表节点合并的方式：0 代表合并后列相同，行增加；1 代表合并后行相同，列增加。
上图所示合并方法为： X_20 = tf.concat(1, [X_top, X_down]);
（2）加载预训练好模型的部分参数。例如训练完成了一个五层网络，现在需要训练好一个七层网络，使用已训练好的五层网络参数初始化七层网络的前五层。
首先，五层网络保存模型时的参数变量名要和七层网络的需要初始化的参数变量名保持一致。
然后，定义加载指定变量名的 tf.train.Saver()。
例如：
Saver在restore模型时就会只加载 W_fc1_I, W_fc2_I, b_fc1_I, b_fc2_I 这四个参数，并且初始化当前模型中变量名相同的变量。需要注意的是，其他参数也是需要初始化的，一种避免遗漏初始化变量的方法是首先使用 initialize_all_variables() 函数对所有参数进行初始化之后再调用 restore 函数初始化需要的部分参数。
此方法只是其中一种解决方法，仅供参考。
以上这篇Tensorflow 合并通道及加载子模型的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要为大家介绍了Python编程技巧之连接列表的八种操作方法，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步2021-10-10
这篇文章主要介绍了Python如何把多个PDF文件合并,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了Python3.7中安装openCV库的方法,非常不错，具有一定的参考借鉴价值，需要的朋友可以参考下2018-07-07
这篇文章主要介绍了Win10环境python3.7安装dlib模块趟过的坑，本文图文并茂给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2019-08-08
这篇文章主要介绍了python魔法方法之__setattr__()，python提供了诸多的魔法方法，其中__setattr__()方法主要用于类实例进行属性赋值，接下来请和小编一起进入文章来了解更多相关内容吧2022-03-03
本篇文章主要介绍了django静态文件加载的方法，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2018-05-05
这篇文章主要介绍了Python爬虫定时计划任务的几种常见方法,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-01-01
这篇文章主要介绍了Pandas 计算相关性系数corr()方式，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-07-07
这篇文章主要介绍了通过实例简单了解python yield使用方法,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-08-08
这篇文章主要介绍了解决pycharm中的run和debug失效无法点击运行方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
最新评论