tensorflow模型继续训练 fineturn实例

更新时间：2020年01月21日 11:03:17 作者：-牧野-

今天小编就为大家分享一篇tensorflow模型继续训练 fineturn实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

解决tensoflow如何在已训练模型上继续训练fineturn的问题。

训练代码

任务描述： x = 3.0, y = 100.0，运算公式 x×W+b = y，求 W和b的最优解。

# -*- coding: utf-8 -*-)
import tensorflow as tf
 
 
# 声明占位变量x、y
x = tf.placeholder("float", shape=[None, 1])
y = tf.placeholder("float", [None, 1])
 
# 声明变量
W = tf.Variable(tf.zeros([1, 1]),name='w')
b = tf.Variable(tf.zeros([1]),name='b')
 
# 操作
result = tf.matmul(x, W) + b
 
# 损失函数
lost = tf.reduce_sum(tf.pow((result - y), 2))
 
# 优化
train_step = tf.train.GradientDescentOptimizer(0.0007).minimize(lost)
 
with tf.Session() as sess:
  # 初始化变量
  sess.run(tf.global_variables_initializer())
  saver = tf.train.Saver(max_to_keep=3)
 
  # 这里x、y给固定的值
  x_s = [[3.0]]
  y_s = [[100.0]]
 
  step = 0
  while (True):
    step += 1
    feed = {x: x_s, y: y_s}
    # 通过sess.run执行优化
    sess.run(train_step, feed_dict=feed)
 
    if step % 1000 == 0:
      print 'step: {0}, loss: {1}'.format(step, sess.run(lost, feed_dict=feed))
      if sess.run(lost, feed_dict=feed) < 1e-10 or step > 4e3:
        print ''
        # print 'final loss is: {}'.format(sess.run(lost, feed_dict=feed))
        print 'final result of {0} = {1}（目标值是100.0）'.format('x×W+b', 3.0 * sess.run(W) + sess.run(b))
        print ''
        print("模型保存的W值 : %f" % sess.run(W))
        print("模型保存的b : %f" % sess.run(b))
        break
  saver.save(sess, "./save_model/re-train", global_step=step) # 保存模型

训练完成之后生成模型文件：

训练输出：

step: 1000, loss: 4.89526428282e-08
step: 2000, loss: 4.89526428282e-08
step: 3000, loss: 4.89526428282e-08
step: 4000, loss: 4.89526428282e-08
step: 5000, loss: 4.89526428282e-08
 
 
final result of x×W+b = [[99.99978]]（目标值是100.0）
 
模型保存的W值 : 29.999931
模型保存的b : 9.999982

保存在模型中的W值是 29.999931，b是 9.999982。

以下代码从保存的模型中恢复出训练状态，继续训练

任务描述： x = 3.0, y = 200.0，运算公式 x×W+b = y，从上次训练的模型中恢复出训练参数，继续训练，求 W和b的最优解。

# -*- coding: utf-8 -*-)
import tensorflow as tf
 
 
# 声明占位变量x、y
x = tf.placeholder("float", shape=[None, 1])
y = tf.placeholder("float", [None, 1])
 
with tf.Session() as sess:
 
  # 初始化变量
  sess.run(tf.global_variables_initializer())
 
  # saver = tf.train.Saver(max_to_keep=3)
  saver = tf.train.import_meta_graph(r'./save_model/re-train-5000.meta') # 加载模型图结构
  saver.restore(sess, tf.train.latest_checkpoint(r'./save_model')) # 恢复数据
 
  # 从保存模型中恢复变量
  graph = tf.get_default_graph()
  W = graph.get_tensor_by_name("w:0")
  b = graph.get_tensor_by_name("b:0")
 
  print("从保存的模型中恢复出来的W值 : %f" % sess.run("w:0"))
  print("从保存的模型中恢复出来的b值 : %f" % sess.run("b:0"))
 
  # 操作
  result = tf.matmul(x, W) + b
  # 损失函数
  lost = tf.reduce_sum(tf.pow((result - y), 2))
  # 优化
  train_step = tf.train.GradientDescentOptimizer(0.0007).minimize(lost)
 
  # 这里x、y给固定的值
  x_s = [[3.0]]
  y_s = [[200.0]]
 
  step = 0
  while (True):
    step += 1
    feed = {x: x_s, y: y_s}
    # 通过sess.run执行优化
    sess.run(train_step, feed_dict=feed)
    if step % 1000 == 0:
      print 'step: {0}, loss: {1}'.format(step, sess.run(lost, feed_dict=feed))
      if sess.run(lost, feed_dict=feed) < 1e-10 or step > 4e3:
        print ''
        # print 'final loss is: {}'.format(sess.run(lost, feed_dict=feed))
        print 'final result of {0} = {1}（目标值是200.0）'.format('x×W+b', 3.0 * sess.run(W) + sess.run(b))
        print("模型保存的W值 : %f" % sess.run(W))
        print("模型保存的b : %f" % sess.run(b))
        break
  saver.save(sess, "./save_mode/re-train", global_step=step) # 保存模型

训练输出：

从保存的模型中恢复出来的W值 : 29.999931
从保存的模型中恢复出来的b值 : 9.999982
step: 1000, loss: 1.95810571313e-07
step: 2000, loss: 1.95810571313e-07
step: 3000, loss: 1.95810571313e-07
step: 4000, loss: 1.95810571313e-07
step: 5000, loss: 1.95810571313e-07
 
 
final result of x×W+b = [[199.99956]]（目标值是200.0）
模型保存的W值 : 59.999866
模型保存的b : 19.999958

从保存的模型中恢复出来的W值是 29.999931，b是 9.999982，跟模型保存的值一致，说明加载成功。

总结

从头开始训练一个模型，需要通过 tf.train.Saver创建一个保存器，完成之后使用save方法保存模型到本地：

saver = tf.train.Saver(max_to_keep=3)
……
saver.save(sess, "./save_model/re-train", global_step=step) # 保存模型

在训练好的模型上继续训练，fineturn一个模型，可以使用tf.train.import_meta_graph方法加载图结构，使用restore方法恢复训练数据，最后使用同样的save方法保存到本地：

saver = tf.train.import_meta_graph(r'./save_model/re-train-10050.meta') # 加载模型图结构
saver.restore(sess, tf.train.latest_checkpoint(r'./save_model')) # 恢复数据
saver.save(sess, "./save_mode/re-train", global_step=step) # 保存模型

注：特殊情况下(如本例)需要从恢复的模型中加载出数据：

# 从保存模型中恢复变量
graph = tf.get_default_graph()
W = graph.get_tensor_by_name("w:0")
b = graph.get_tensor_by_name("b:0")

以上这篇tensorflow模型继续训练 fineturn实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

Python 异常处理的实例详解
这篇文章主要介绍了Python 异常处理的实例详解的相关资料,希望通过本文能帮助到大家掌握Python 异常的知识，需要的朋友可以参考下
2017-09-09
Python小游戏实现实例之接苹果
其实利用Python编写的小游戏很简单,下面这篇文章主要给大家介绍了关于Python小游戏实现实例之接苹果的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
2022-03-03
详解Python3.6的py文件打包生成exe
这篇文章给大家分享了Python3.6的py文件打包生成exe的方法步骤以及相关知识点，有需要的朋友可以参考学习下。
2018-07-07
Python中的shape()详解
这篇文章主要介绍了Python中的shape()详解,在debug深度学习相关代码的时候,很容易出现shape()这样形式的东西,用来告知输出数据的形式,需要的朋友可以参考下
2023-08-08
对python实现模板生成脚本的方法详解
今天小编就为大家分享一篇对python实现模板生成脚本的方法详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-01-01
Python判断有效的数独算法示例
这篇文章主要介绍了Python判断有效的数独算法,结合实例形式分析了Python针对数独有效性判定的相关操作技巧,需要的朋友可以参考下
2019-02-02
Python实现使用dir获取类的方法列表
今天小编就为大家分享一篇Python实现使用dir获取类的方法列表，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-12-12
python数字图像处理之估计噪声参数
这篇文章主要介绍了python数字图像处理之估计噪声参数,图像复原与重建,想了解图像处理的同学，一定要好好看看
2021-04-04
Python获取指定网段正在使用的IP
这篇文章主要介绍了Python获取指定网段正在使用的IP的示例代码，帮助大家更好的利用python进行测试，感兴趣的朋友可以了解下
2020-12-12
python爬虫字体加密的解决
本文主要介绍了python爬虫字体加密的解决，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2023-03-03

tensorflow模型继续训练 fineturn实例

相关文章

最新评论

大家感兴趣的内容

最近更新的内容

常用在线小工具