Pytorch保存模型用于测试和用于继续训练的区别详解
更新时间：2020年01月10日 16:27:24 作者：鱼丸粗面233
今天小编就为大家分享一篇Pytorch保存模型用于测试和用于继续训练的区别详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
保存模型
保存模型仅仅是为了测试的时候，只需要
torch.save(model.state_dict, path)
path 为保存的路径
但是有时候模型及数据太多,难以一次性训练完的时候,而且用的还是 Adam优化器的时候, 一定要保存好训练的优化器参数以及epoch
state = { 'model': model.state_dict(), 'optimizer':optimizer.state_dict(), 'epoch': epoch }
torch.save(state, path)
因为这里
def adjust_learning_rate(optimizer, epoch):
lr_t = lr
lr_t = lr_t * (0.3 ** (epoch // 2))
for param_group in optimizer.param_groups:
param_group['lr'] = lr_t
学习率是根据epoch变化的, 如果不保存epoch的话,基本上每次都从epoch为0开始训练,这样学习率就相当于不变了!!
恢复模型
恢复模型只用于测试的时候,
model.load_state_dict(torch.load(path))
path为之前存储模型时的路径
但是如果是用于继续训练的话,
checkpoint = torch.load(path) model.load_state_dict(checkpoint['model']) optimizer.load_state_dict(checkpoint['optimizer']) start_epoch = checkpoint['epoch']+1
依次恢复出模型 优化器参数以及epoch
以上这篇Pytorch保存模型用于测试和用于继续训练的区别详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了Python实现的破解字符串找茬游戏算法,简单分析了找茬游戏的原理,并结合具体实例形式分析了Python实现破解找茬游戏的相关实现技巧,需要的朋友可以参考下2017-09-09
这篇文章主要介绍了Python如何使用27行代码绘制星星图,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-07-07
这篇文章主要介绍了Python开发.exe小工具的详细步骤,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-01-01
在本篇文章里小编给大家整理的是一篇关于Python中Jupyter notebook快捷键总结内容，有兴趣的朋友们可以学习下。2021-04-04
这篇文章主要为大家介绍了Python实现不同需求的排行榜功能,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2024-01-01
今天小编就为大家分享一篇PyTorch的SoftMax交叉熵损失和梯度用法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-01-01
这篇文章主要为大家详细介绍了Python实现打乒乓小游戏，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-09-09
Python 内置函数memoryview(obj)的具体用法
本篇文章主要介绍了Python 内置函数memoryview(obj)的具体用法，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-11-11
这篇文章主要介绍了Pytorch中的gather使用方法，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2021-05-05
这篇文章主要介绍了Python 统计文件夹内所有pdf页数的小工具,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-03-03
最新评论