pytorch 预训练模型读取修改相关参数的填坑问题

 更新时间:2021年06月05日 10:32:39   作者:DRACO于  
这篇文章主要介绍了pytorch 预训练模型读取修改相关参数的填坑问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

pytorch 预训练模型读取修改相关参数的填坑

修改部分层,仍然调用之前的模型参数。

resnet = resnet50(pretrained=False)
resnet.load_state_dict(torch.load(args.predir))
 
res_conv31 = Bottleneck_dilated(1024, 256,dilated_rate = 2)
print("---------------------",res_conv31)
print("---------------------",resnet.layer3[1])
 
res_conv31.load_state_dict(resnet.layer3[1].state_dict())

网络预训练模型与之前的模型对应不上,名称差个前缀

model_dict = model.state_dict()
# print(model_dict)
pretrained_dict = torch.load("/yzc/reid_testpcb/se_resnet50-ce0d4300.pth")
keys = []
for k, v in pretrained_dict.items():
       keys.append(k)
i = 0
for k, v in model_dict.items():
    if v.size() == pretrained_dict[keys[i]].size():
         model_dict[k] = pretrained_dict[keys[i]]
         #print(model_dict[k])
         i = i + 1
model.load_state_dict(model_dict)

最后是修改参数名拿来用的,

from collections import OrderedDict
pretrained_dict = torch.load('premodel')
 
new_state_dict = OrderedDict()
 
# for k, v in mgn_state_dict.items():
#     name = k[7:]  # remove `module.`
#     new_state_dict[name] = v
# self.model = self.model.load_state_dict(new_state_dict)
 
for k, v in pretrained_dict.items():
    name = "model.module."+k   # remove `module.`
    # print(name)
    new_state_dict[name] = v
self.model.load_state_dict(new_state_dict)

pytorch:加载预训练模型中的部分参数,并固定该部分参数(真实有效)

大家在学习pytorch时,可能想利用pytorch进行fine-tune,但是又烦恼于参数的加载问题。下面我将讲诉我的使用心得。

Step1: 加载预训练模型,并去除需要再次训练的层

#注意:需要重新训练的层的名字要和之前的不同。
model=resnet()#自己构建的模型,以resnet为例
model_dict = model.state_dict()
pretrained_dict = torch.load('xxx.pkl')
pretrained_dict = {k: v for k, v in pretrained_dict.items() if k in model_dict}
model_dict.update(pretrained_dict)
model.load_state_dict(model_dict)

Step2:固定部分参数

#k是可训练参数的名字,v是包含可训练参数的一个实体
#可以先print(k),找到自己想进行调整的层,并将该层的名字加入到if语句中:
for k,v in model.named_parameters():
    if k!='xxx.weight' and k!='xxx.bias' :
        v.requires_grad=False#固定参数

Step3:训练部分参数

#将要训练的参数放入优化器
optimizer2=torch.optim.Adam(params=[model.xxx.weight,model.xxx.bias],lr=learning_rate,betas=(0.9,0.999),weight_decay=1e-5)

Step4:检查部分参数是否固定

debug之后,程序正常运行,最好检查一下网络的参数是否真的被固定了,如何没固定,网络的状态接近于重新训练,可能会导致网络性能不稳定,也没办法得到想要得到的性能提升。

for k,v in model.named_parameters():
   if k!='xxx.weight' and k!='xxx.bias' :
   print(v.requires_grad)#理想状态下,所有值都是False

需要注意的是,操作失误最大的影响是,loss函数几乎不会发生变化,一直处于最开始的状态,这很可能是因为所有参数都被固定了。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 使用matplotlib中scatter方法画散点图

    使用matplotlib中scatter方法画散点图

    这篇文章主要为大家详细介绍了使用matplotlib中scatter方法画散点图,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-03-03
  • 使用jupyter Nodebook查看函数或方法的参数以及使用情况

    使用jupyter Nodebook查看函数或方法的参数以及使用情况

    这篇文章主要介绍了使用jupyter Nodebook查看函数或方法的参数以及使用情况,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-04-04
  • python配置mssql连接的方法

    python配置mssql连接的方法

    这篇文章主要介绍了python配置mssql连接的方法,需要的朋友可以参考下
    2021-06-06
  • 基于python中的TCP及UDP(详解)

    基于python中的TCP及UDP(详解)

    下面小编就为大家带来一篇基于python中的TCP及UDP(详解)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧,希望对大家有所帮助
    2017-11-11
  • python多线程并发实例及其优化

    python多线程并发实例及其优化

    这篇文章主要介绍了python多线程并发实例及其优化,threading是扩展模块,在thread的基础上进行了封装及改进。所以只需要使用threading这个模块就能完成并发的测试,需要的朋友可以参考下
    2019-06-06
  • pycharm配置anaconda环境时找不到python.exe的两种解决办法

    pycharm配置anaconda环境时找不到python.exe的两种解决办法

    如果你在Anaconda中创建了虚拟环境,但是无法找到python.exe,可能是因为虚拟环境的Python路径没有添加到系统环境变量中,这篇文章主要给大家介绍了关于pycharm配置anaconda环境时找不到python.exe的两种解决办法,需要的朋友可以参考下
    2024-07-07
  • keras中的loss、optimizer、metrics用法

    keras中的loss、optimizer、metrics用法

    这篇文章主要介绍了keras中的loss、optimizer、metrics用法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-06-06
  • python 自定义装饰器使用及原理详解(最新推荐)

    python 自定义装饰器使用及原理详解(最新推荐)

    本文详细介绍了Python装饰器的原理和使用方法,包括简单的装饰器、带参数的装饰器、原函数的传参、保留原函数元数据以及类装饰器,通过这些讲解,读者可以全面了解装饰器的强大功能和应用技巧,感兴趣的朋友一起看看吧
    2025-02-02
  • python实现的简单FTP上传下载文件实例

    python实现的简单FTP上传下载文件实例

    这篇文章主要介绍了python实现的简单FTP上传下载文件的方法,实例分析了Python基于FTP模块实现文件传输的技巧,需要的朋友可以参考下
    2015-06-06
  • Python中的asyncio代码详解

    Python中的asyncio代码详解

    asyncio 是用来编写 并发 代码的库,使用 async/await 语法。 asyncio 被用作多个提供高性能 Python 异步框架的基础,包括网络和网站服务,数据库连接库,分布式任务队列等等。这篇文章主要介绍了Python中的asyncio,需要的朋友可以参考下
    2019-06-06

最新评论