Pytorch根据layers的name冻结训练方式
更新时间：2020年01月06日 09:27:31 作者：木有感情的机器人
今天小编就为大家分享一篇Pytorch根据layers的name冻结训练方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
使用model.named_parameters()可以轻松搞定，
model.cuda()
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 带有参数名的模型的各个层包含的参数遍历
if 'out' or 'merge' or 'before_regress' in name: # 判断参数名字符串中是否包含某些关键字
continue
param.requires_grad = False
# #############################################################################################################
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)
以上这篇Pytorch根据layers的name冻结训练方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了快速查询Python文档方法分享，具有一定借鉴价值,需要的朋友可以参考下2017-12-12
大家好，本篇文章主要讲的是python实现pptx批量向PPT中插入图片，感兴趣的同学赶快来看一看吧，对你有帮助的话记得收藏一下2022-02-02
这篇文章主要为大家详细介绍了python傅里叶变换FFT绘制频谱图，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-07-07
今天小编就为大家分享一篇pytorch 模型可视化的例子，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-08-08
这篇文章主要介绍了pytorch如何冻结某层参数的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-01-01
这篇文章主要给大家介绍了关于如何基于Python的A*算法解决八数码问题的实现步骤,文中介绍了八数码问题及其求解方法,通过启发式搜索算法,特别是A*算法,可以有效地解决八数码问题,,需要的朋友可以参考下2024-11-11
这篇文章主要介绍了Python中的XML库4Suite Server,来自于IBM官方网站,需要的朋友可以参考下2015-04-04
今天小编就为大家分享一篇python 实现批量xls文件转csv文件的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-10-10
正在学习python而且自己一直在用金山快盘，所以就写来个签到的功能，每天定时跑2013-01-01
这篇文章主要介绍了python 如何利用zmail库发送邮件，帮助大家更好的理解和学习python，感兴趣的朋友可以了解下2020-09-09
最新评论