pytorch如何冻结某层参数的实现
更新时间：2020年01月10日 11:15:01 作者：Pr4da
这篇文章主要介绍了pytorch如何冻结某层参数的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
在迁移学习finetune时我们通常需要冻结前几层的参数不参与训练，在Pytorch中的实现如下：
class Model(nn.Module): def __init__(self): super(Transfer_model, self).__init__() self.linear1 = nn.Linear(20, 50) self.linear2 = nn.Linear(50, 20) self.linear3 = nn.Linear(20, 2) def forward(self, x): pass
假如我们想要冻结linear1层，需要做如下操作：
model = Model() # 这里是一般情况，共享层往往不止一层，所以做一个for循环 for para in model.linear1.parameters(): para.requires_grad = False # 假如真的只有一层也可以这样操作： # model.linear1.weight.requires_grad = False
最后我们需要将需要优化的参数传入优化器，不需要传入的参数过滤掉，所以要用到filter()函数。
optimizer = optim.Adam(filter(lambda p: p.requires_grad, model.parameters()), lr=0.1)
其它的博客中都没有讲解filter()函数的作用，在这里我简单讲一下有助于更好的理解。
filter(function, iterable)
- function: 判断函数
- iterable: 可迭代对象
filter() 函数用于过滤序列，过滤掉不符合条件的元素，返回一个迭代器对象，如果要转换为列表，可以使用 list() 来转换。
该接收两个参数，第一个为函数，第二个为序列，序列的每个元素作为参数传递给函数进行判，然后返回 True 或 False，最后将返回 True 的元素放到新列表中。
filter()函数将requires_grad = True的参数传入优化器进行反向传播，requires_grad = False的则被过滤掉。
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了Python用三种方式统计词频，每种方法给大家介绍的非常详细,需要的朋友可以参考下2019-07-07
今天小编就为大家分享一篇详谈tensorflow gfile文件的用法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
GUI图形用户界面是一种允许用户通过图形元素（如图标、按钮、窗口等）与电子设备进行交互的用户界面,下面这篇文章主要给大家介绍了关于Python中常用的GUI(图形用户界面)库用法的相关资料,需要的朋友可以参考下2024-08-08
input()函数是Python中用于获取用户输入的一个简单而强大的工具,它在创建需要用户交互的程序时非常有用,这篇文章主要介绍了Python内置函数input()详解,需要的朋友可以参考下2024-04-04
这篇文章主要介绍了Python drop方法删除列之inplace参数实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
pytorch中的permute就像是numpy中的transpose()函数一样,根据指定的维度进行转置,下面这篇文章主要给大家介绍了关于PyTorch中permute的基本用法,需要的朋友可以参考下2022-04-04
这篇文章主要介绍了Python Web开发模板引擎优缺点总结,需要的朋友可以参考下2014-05-05
这篇文章主要介绍了python遍历路径破解表单的示例，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下2020-11-11
Python的Flask框架应用调用Redis队列数据的方法
这里为大家带来Python的Flask框架应用调用Redis队列数据的方法,从而能够实现异步无阻塞从而提高某些实时处理情况下程序的性能,需要的朋友可以参考下2016-06-06
本文介绍了Python中的上下文管理器，以及如何结合with语句来使用上下文管理器，并且总结了一下with 语句的执行流程。在很多情况下，with语句可以简化代码，并增加代码的健壮性。2017-10-10
最新评论