pytorch之torch.nn.Identity()的作用及解释

更新时间：2023年08月07日 15:33:14 作者：会写代码的孙悟空

这篇文章主要介绍了pytorch之torch.nn.Identity()的作用及解释,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教

torch.nn.Identity()的作用及解释

class Identity(Module):
    r"""A placeholder identity operator that is argument-insensitive.
    Args:
        args: any argument (unused)
        kwargs: any keyword argument (unused)
    Examples::
        >>> m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False)
        >>> input = torch.randn(128, 20)
        >>> output = m(input)
        >>> print(output.size())
        torch.Size([128, 20])
    """
    def __init__(self, *args, **kwargs):
        super(Identity, self).__init__()
    def forward(self, input: Tensor) -> Tensor:
        return input

通过阅读源码可以看到，identity模块不改变输入。

直接return input

一种编码技巧吧，比如我们要加深网络，有些层是不改变输入数据的维度的，

在增减网络的过程中我们就可以用identity占个位置，这样网络整体层数永远不变，

看起来可能舒服一些，

可能理解的不到位。。。。

Pytorch-torch.nn.identity()方法

identity模块不改变输入，直接return input

一种编码技巧吧，比如我们要加深网络，有些层是不改变输入数据的维度的，在增减网络的过程中我们就可以用identity占个位置，这样网络整体层数永远不变，

应用：

例如此时：如果此时我们使用了se_layer，那么就SELayer(dim)，否则就输入什么就输出什么（什么都不做）

m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False)
input = torch.randn(128, 20)
output = m(input)
print(output.size()) >> torch.Size([128, 20])

总结

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

浅谈Python peewee 使用经验
这篇文章主要介绍了浅谈Python peewee 使用经验，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
2017-10-10
python使用ctypes调用扩展模块的实例方法
在本篇文章里小编给大家整理的是一篇关于python使用ctypes调用扩展模块的实例方法内容，需要的朋友们可以学习参考下。
2020-01-01
django中日志模块logging的配置和使用方式
文章主要介绍了如何在Django项目的`settings.py`文件中配置日志记录,并使用日志模块记录不同级别的日志,日志级别包括DEBUG、INFO、WARNING、ERROR和CRITICAL,级别越高,记录的日志越详细,通过配置和使用日志记录器,可以更好地排查和监控系统问题
2025-01-01
Python字典的键值对结构与增删改查操作详解
本文介绍了Python中字典的键值对结构及其增删改查操作,强调了其重要性并从核心概念、技术原理、实践应用、常见问题与解决方案以及最佳实践等方面进行详细讲解,帮助读者理解和掌握字典的使用方法,需要的朋友可以参考下
2026-04-04
python实现网站用户名密码自动登录功能
最近接到这样的需求通过网页用户认证登录实现上网，如何实现网站自动登录功能呢，接下来小编给大家带来了python实现网站用户名密码自动登录功能,需要的朋友可以参考下
2019-08-08
总结python实现父类调用两种方法的不同
最近在工作中实现父类调用的时候发现了一个错误，然后通过分析实践总结出来了，下面这篇文章主要给大家总结了python中实现父类调用两种方法的不同之处,需要的朋友可以参考借鉴，下面来一起看看吧。
2017-01-01
Python游戏开发之精灵和精灵组
python作为当前非常受欢迎的编程语言,很大一部分原因是拥有丰富的库,这篇文章主要给大家介绍了关于Python游戏开发之精灵和精灵组的相关资料,文中通过图文介绍的非常详细,需要的朋友可以参考下
2023-05-05
Python将Excel转换为多种图片格式的方法(PNG, JPG, BMP, SVG)
有时,你可能希望以图片形式分享Excel数据,以防止他人对数据进行修改或编辑,将Excel转换为图片可以将数据锁定为静态图片,确保数据的完整性和准确性,这篇文章将探讨如何使用Python实现将Excel工作表转换为多种图片格式,如PNG,JPG,BMP和SVG,需要的朋友可以参考下
2025-03-03
Python利用matplotlib生成图片背景及图例透明的效果
这篇文章主要给大家介绍了Python利用matplotlib生成图片背景及图例透明效果的相关资料，文中给出了详细的示例代码，相信对大家具有一定的参考家价值，需要的朋友们下面来一起学习学习吧。
2017-04-04
Python 内置模块 argparse快速入门教程
argparse模块是Python内置的用于命令项选项与参数解析的模块，argparse模块可以让人轻松编写用户友好的命令行接口，能够帮助程序员为模型定义参数，这篇文章主要介绍了快速入门Python内置模块argparse,需要的朋友可以参考下
2023-06-06