Tensorflow 合并通道及加载子模型的方法
最近在使用Tensorflow 实现DNN网络时，遇到一些问题。目前网上关于Tensorflow的资料还比较少，现把问题和解决方法写出来，仅供参考。
（1）将两个子模型的输出合并到一个通道，例如同时连接到一个全连接层如图
合并方法为 tf.concat()函数。此函数需要两个个参数 concat（0或1，[合并节点1，合并节点2] ）。0 或 1 代表节点合并的方式：0 代表合并后列相同，行增加；1 代表合并后行相同，列增加。
上图所示合并方法为： X_20 = tf.concat(1, [X_top, X_down]);
（2）加载预训练好模型的部分参数。例如训练完成了一个五层网络，现在需要训练好一个七层网络，使用已训练好的五层网络参数初始化七层网络的前五层。
首先，五层网络保存模型时的参数变量名要和七层网络的需要初始化的参数变量名保持一致。
然后，定义加载指定变量名的 tf.train.Saver()。
例如：
Saver在restore模型时就会只加载 W_fc1_I, W_fc2_I, b_fc1_I, b_fc2_I 这四个参数，并且初始化当前模型中变量名相同的变量。需要注意的是，其他参数也是需要初始化的，一种避免遗漏初始化变量的方法是首先使用 initialize_all_variables() 函数对所有参数进行初始化之后再调用 restore 函数初始化需要的部分参数。
此方法只是其中一种解决方法，仅供参考。
以上这篇Tensorflow 合并通道及加载子模型的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要为大家介绍了使用Python脚本提取基因组指定位置序列的示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-07-07
这篇文章介绍了Python中迭代器与生成器的用法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-05-05
logging日志模块是python的一个内置模块，该模块定义了一些函数和类，为上层应用程序或库实现了一个强大而又灵活的日志记录系统，这篇文章主要介绍了Python如何在日志中隐藏明文密码 ,需要的朋友可以参考下2023-10-10
OpenCV的应用领域非常广泛,包括图像拼接、图像降噪、产品质检、人机交互、人脸识别、动作识别、动作跟踪、无人驾驶等,下面这篇文章主要给大家介绍了关于opencv实践项目之图像拼接的相关资料,需要的朋友可以参考下2023-05-05
这篇文章主要介绍了Python中正则表达式的详细教程,正则表达式是Python学习进阶当中的重要内容,需要的朋友可以参考下2015-04-04
这篇文章主要为大家详细介绍了tensorflow实现KNN识别MNIST，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-03-03
详谈python中subprocess shell=False与shell=True的区别
这篇文章主要介绍了详谈python中subprocess shell=False与shell=True的区别说明，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-04-04
os是 Python 标准库中的一个模块，提供了与操作系统交互的功能，在本节中，我们将介绍os模块的一些常用功能，并通过实例代码详细讲解每个知识点2023-06-06
python处理数据文件的途径有很多种,下面这篇文章主要给大家介绍了关于如何使用python读取Excel指定范围并转为数组的相关资料,文中通过图文以及实例代码介绍的非常详细,需要的朋友可以参考下2022-11-11
Python实现封装打包自己写的代码,被python import
这篇文章主要介绍了Python实现封装打包自己写的代码,被python import，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-07-07
最新评论