脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → pytorch __init__,forward,__call__

pytorch __init__、forward与__call__的用法小结

 更新时间：2021年02月27日 09:11:32   作者：时光碎了天  
这篇文章主要介绍了pytorch __init__、forward与__call__的用法小结，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

1.介绍

当我们使用pytorch来构建网络框架的时候，也会遇到和tensorflow（tensorflow __init__、build 和call小结）类似的情况，即经常会遇到__init__、forward和call这三个互相搭配着使用，那么它们的主要区别又在哪里呢？

1）__init__主要用来做参数初始化用，比如我们要初始化卷积的一些参数，就可以放到这里面，这点和tf里面的用法是一样的

2）forward是表示一个前向传播，构建网络层的先后运算步骤

3）__call__的功能其实和forward类似，所以很多时候，我们构建网络的时候，可以用__call__替代forward函数，但它们两个的区别又在哪里呢？

当网络构建完之后，调__call__的时候，会去先调forward，即__call__其实是包了一层forward，所以会导致两者的功能类似。

在pytorch在nn.Module中，实现了__call__方法，而在__call__方法中调用了forward函数：

https://github.com/pytorch/pytorch/blob/master/torch/nn/modules/module.py

2.代码

import torch
import torch.nn as nn
import torch.nn.functional as F
 
class Net(nn.Module):
 def __init__(self, in_channels, mid_channels, out_channels):
 super(Net, self).__init__()
 self.conv0 = torch.nn.Sequential(
 torch.nn.Conv2d(in_channels, mid_channels, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)),
 torch.nn.LeakyReLU())
 self.conv1 = torch.nn.Sequential(
 torch.nn.Conv2d(mid_channels, out_channels * 2, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)))
 
 def forward(self, x):
 x = self.conv0(x)
 x = self.conv1(x)
 return x
 
class Net(nn.Module):
 def __init__(self, in_channels, mid_channels, out_channels):
 super(Net, self).__init__()
 self.conv0 = torch.nn.Sequential(
 torch.nn.Conv2d(in_channels, mid_channels, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)),
 torch.nn.LeakyReLU())
 self.conv1 = torch.nn.Sequential(
 torch.nn.Conv2d(mid_channels, out_channels * 2, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1)))
 
 def __call__(self, x):
 x = self.conv0(x)
 x = self.conv1(x)
 return x

补充：torch/nn目录结构以及__init__.py

torch/nn目录结构以及init.py

torch/nn目录结构

__init__.py：

from .modules import *
#nn.modules  导入modules目录下内容 定义容器modules
from .parameter import Parameter
#nn.Parameter 导入parameter.py  定义parameter
from .parallel import DataParallel
#导入parallel目录下data_parallel.py中的DataParallel类
from . import init
#nn.init   导入init.py   参数初始化
from . import utils
#nn.utils  导入utils目录下内容 官网api下nn.utils下api

对于backends, functional.py, _functions 需要在代码前重新Import

例如我们常用的

import torch.nn.functional as F 就是导入了functional.py

backends和_functions是functional.py实现各种函数时所用到的。

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。如有错误或未考虑完全的地方，望不吝赐教。

您可能感兴趣的文章:

相关文章

  • python3.x编码解码unicode字符串的实现示例

    python3.x编码解码unicode字符串的实现示例

    ASCII文本编码是一种Unicode,存储为表示字符的字节值的一个序列,本文主要介绍了python3.x编码解码unicode字符串的实现示例,具有一定的参考价值,感兴趣的可以了解一下
    2024-01-01
  • 深入理解Python虚拟机中字节(bytes)的实现原理及源码剖析

    深入理解Python虚拟机中字节(bytes)的实现原理及源码剖析

    在本篇文章当中主要给大家介绍在 cpython 内部，bytes 的实现原理、内存布局以及与 bytes 相关的一个比较重要的优化点—— bytes 的拼接,需要的可以参考一下
    2023-03-03
  • 基于Python中求和函数sum的用法详解

    基于Python中求和函数sum的用法详解

    今天小编就为大家分享一篇基于Python中求和函数sum的用法详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2018-06-06
  • numpy系列之数组合并(横向和纵向)

    numpy系列之数组合并(横向和纵向)

    本文主要介绍了numpy系列之数组合并(横向和纵向)，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2021-09-09
  • 详解python 一维、二维列表的初始化问题

    详解python 一维、二维列表的初始化问题

    这篇文章主要介绍了python 一维、二维列表的初始化,本文通过两种方式给大家详细讲解，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友参考下吧
    2022-06-06
  • Python实现的金山快盘的签到程序

    Python实现的金山快盘的签到程序

    正在学习python而且自己一直在用金山快盘，所以就写来个签到的功能，每天定时跑
    2013-01-01
  • Python中的支持向量机SVM的使用（附实例代码）

    Python中的支持向量机SVM的使用（附实例代码）

    这篇文章主要介绍了Python中的支持向量机SVM的使用（附实例代码），文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-06-06
  • Python实现PDF转换文本详解

    Python实现PDF转换文本详解

    这篇文章主要介绍了详解用Python把PDF转换为文本方法总结，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2021-10-10
  • python排序算法之选择排序

    python排序算法之选择排序

    这篇文章主要介绍了python排序算法之选择排序,选择排序表示从无序的数组中，每次选择最小或最大的数据，从无序数组中放到有序数组的末尾，以达到排序的效果,需要的朋友可以参考下
    2023-04-04
  • Python常用断言函数实例汇总

    Python常用断言函数实例汇总

    这篇文章主要介绍了Python常用断言函数实例汇总,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-11-11

最新评论