Pytorch 多维数组运算过程的索引处理方式
背景：对 python 不熟悉，能看懂代码，也能实现一些简单的功能，但是对 python 的核心思想和编程技巧不熟，所以使 Pytorch 写 loss 的时候遇到很多麻烦，尤其是在 batch_size > 1 的时候，做矩阵乘法之类的运算会觉得特别不顺手。
所幸，在边查边写的过程中，理解了 python 中多维运算的实现规则。
1、python 的基本索引规则
从 0 开始
对于给定的范围，如 b = a[m:n], 那么 b 为由 （n-m）个数据组成的新数组，由 a[m],a[m+1],...,a[n-1] 构成。(若 n<m, 得到空)
2、单个 tensor 运算，使用 dim 参数
torch 中对 tensor 的操作方法，若不加 dim 参数表示对整体的 tensr 进行操作，若增加 dim 参则表示按维操作。
例：
a = [[1,2],[3,4],[5,6]] (torch.tensor) torch.mean(a) => 3.5 torch.mean(a,dim=0) => [1.5, 3.5, 5.5] torch.mean(a,dim=1) => [[3],[4]] torch.mean(a,dim=0) => [3,4] torch.mean(a,dim=1) => [1.5, 3.5, 5.5]
注: torch.mean() 是一个降维的操作，所以不会出现在取均值后保持跟原 Tensor 同维的情况。 dim 参数存在时降一维，不存在时得到的是整个 Tensor 的均值。
3、两个 tensor 运算，构造对应形状
以乘法为例：
3.1 矩阵乘向量
a = [[1,2],[3,4],[5,6]] b = [1,1]
计算乘法 c = a@b
若 a 拓展为 （N,3,2） N 为 batch_size, 计算 c2 = a@b
若 a,b 同时拓展， 变成（N, 2）,那么需要做一个变换 b = b.view(N,2,1),计算 c3 = a@b
3.2 矩阵乘矩阵
a = [[1,2],[3,4],[5,6]] b =[ [1,1],[1,1]]
计算乘法 c = a@b
若 a 拓展为 （N,3,2） N 为 batch_size, 计算 c2 = a@b
若 a,b 同时拓展， 变成（N, 2, 2）,计算 c3 = a@b
以上这篇Pytorch 多维数组运算过程的索引处理方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了Python切片操作,结合实例形式较为详细的分析了Python切片相关的正向、反向、步长等使用技巧与相关注意事项,需要的朋友可以参考下2018-03-03
本篇文章主要介绍基于python的七种经典排序算法（推荐），具有一定的参考价值，这里整理了详细的代码,有需要的小伙伴可以参考下。2016-12-12
这篇文章主要介绍了Python进阶Matplotlib库图绘制，Matplotlib:是一个Python的2D绘图库，通过Matplotlib，开发者可以仅需要几行代码，便可以生成折线图，直方图，条形图，饼状图，散点图等2022-07-07
这篇文章主要介绍了Python画图Matplotlib库常用命令简述总结，文中包含详细的图文示例，有需要的朋友可以借鉴参考下，希望能够有所帮助2021-09-09
Apache Flink是一个流处理框架,用于实时处理和分析数据流,PyFlink是Apache Flink的Python API,它允许用户使用Python语言来编写Flink作业,进行实时数据处理,以下是如何使用Flink与Python进行实时数据处理的基本步骤,需要的朋友可以参考下2024-09-09
本文将详细介绍如何在 Django 项目中集成 Redis 数据库,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2025-03-03
这篇文章主要介绍了如何利用Python采集股票数据并制作可视化柱状图，文中的示例代码讲解详细，快来跟上小编一起动手尝试一下吧2022-04-04
使用Python通过win32 COM实现Word文档的写入与保存方法
今天小编就为大家分享一篇使用Python通过win32 COM实现Word文档的写入与保存方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-05-05
这篇文章主要介绍了利用python脚本自动部署k8s的方法,本文通过脚本代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2021-08-08
这篇文章主要是想和大家简单聊聊python中绝对导入和相对导入的相关知识,文中的示例代码讲解详细,具有一定的借鉴价值,需要的可以参考下2023-09-09
最新评论