pytorch中的matmul与mm,bmm区别说明

更新时间：2021年05月13日 09:03:59 作者：Leokb24

这篇文章主要介绍了pytorch中的matmul与mm,bmm区别说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教

pytorch中matmul和mm和bmm区别 matmulmmbmm结论

先看下官网上对这三个函数的介绍。

matmul

在这里插入图片描述

mm

在这里插入图片描述

bmm

顾名思义, 就是两个batch矩阵乘法.

在这里插入图片描述

结论

从官方文档可以看出

1、mm只能进行矩阵乘法,也就是输入的两个tensor维度只能是( n × m ) (n\times m)(n×m)和( m × p ) (m\times p)(m×p)

2、bmm是两个三维张量相乘, 两个输入tensor维度是( b × n × m ) (b\times n\times m)(b×n×m)和( b × m × p ) (b\times m\times p)(b×m×p), 第一维b代表batch size，输出为( b × n × p ) (b\times n \times p)(b×n×p)

3、matmul可以进行张量乘法, 输入可以是高维.

补充：torch中的几种乘法。torch.mm, torch.mul, torch.matmul

一、点乘

点乘都是broadcast的，可以用torch.mul(a, b)实现，也可以直接用*实现。

>>> a = torch.ones(3,4)
>>> a
tensor([[1., 1., 1., 1.],
        [1., 1., 1., 1.],
        [1., 1., 1., 1.]])
>>> b = torch.Tensor([1,2,3]).reshape((3,1))
>>> b
tensor([[1.],
        [2.],
        [3.]])
>>> torch.mul(a, b)
tensor([[1., 1., 1., 1.],
        [2., 2., 2., 2.],
        [3., 3., 3., 3.]])

当a, b维度不一致时，会自动填充到相同维度相点乘。

二、矩阵乘

矩阵相乘有torch.mm和torch.matmul两个函数。其中前一个是针对二维矩阵，后一个是高维。当torch.mm用于大于二维时将报错。

>>> a = torch.ones(3,4)
>>> b = torch.ones(4,2)
>>> torch.mm(a, b)
tensor([[4., 4.],
        [4., 4.],
        [4., 4.]])

>>> a = torch.ones(3,4)
>>> b = torch.ones(5,4,2)
>>> torch.matmul(a, b).shape
torch.Size([5, 3, 2])

>>> a = torch.ones(5,4,2)
>>> b = torch.ones(5,2,3)
>>> torch.matmul(a, b).shape
torch.Size([5, 4, 3])

>>> a = torch.ones(5,4,2)
>>> b = torch.ones(5,2,3)
>>> torch.matmul(b, a).shape
报错。

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。如有错误或未考虑完全的地方，望不吝赐教。

您可能感兴趣的文章:

浅谈python日志的配置文件路径问题
下面小编就为大家分享一篇浅谈python日志的配置文件路径问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2018-04-04
Python 基础教程之包和类的用法
这篇文章主要介绍了Python 基础教程之包和类的用法的相关资料,需要的朋友可以参考下
2017-02-02
Python除法之传统除法、Floor除法及真除法实例详解
本文通过实例代码给大家介绍了Python除法之传统除法、Floor除法及真除法,需要的朋友可以参考下
2019-05-05
使用Keras构造简单的CNN网络实例
这篇文章主要介绍了使用Keras构造简单的CNN网络实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2020-06-06
python将下载到本地m3u8视频合成MP4的代码详解
这篇文章主要介绍了python将下载到本地m3u8视频合成MP4的代码详解,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下
2020-11-11
Python结合ImageMagick实现多张图片合并为一个pdf文件的方法
这篇文章主要介绍了Python结合ImageMagick实现多张图片合并为一个pdf文件的方法,结合实例形式分析了Python将图片文件转换为pdf文件的相关操作技巧,需要的朋友可以参考下
2018-04-04
Python中为什么要用self探讨
这篇文章主要介绍了Python中为什么要用self探讨,本文讲解了Python要self的理由、为何Python给self赋值而你不必给self赋值？等内容,需要的朋友可以参考下
2015-04-04
Python带你从浅入深探究Tuple(基础篇)
大家都知道Python中的元组容器序列（tuple）与列表容器序列（list）有很多相同之处，他们虽然都可以存储任意类型的数据，但是一个元组定义好之后就不能够再进行修改，对Python Tuple相关知识感兴趣的朋友一起看看吧
2021-05-05
人脸识别实战之Opencv+SVM实现人脸识别
这篇文章主要介绍了通过Opencv+SVM实现人脸识别功能，文中的示例代码介绍详细，对于我们学习人脸识别和OpenCV都有一定的帮助，感兴趣的小伙伴可以学习一下
2021-12-12
Python3+OpenCV实现简单交通标志识别流程分析
这篇文章主要介绍了Python3+OpenCV实现简单交通标志识别,主要思路是解析XML文档，根据<name>标签进行分类，如果是直行、右转、左转、停止就把它从原图中裁剪下来并重命名，感谢的朋友跟随小编一起看看示例代码
2021-12-12