pytorch如何实现多个矩阵拼接

 更新时间:2023年09月09日 08:59:59   作者:Arxan_hjw  
这篇文章主要介绍了pytorch如何实现多个矩阵拼接问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教

pytorch多个矩阵拼接

问题描述

在处理数据的时候遇到一个for循环中生成多个【max_len*max_len】的二维矩阵,现需要将这些矩阵在第一维上进行堆叠,形成一个新的【batch * max_len * max_len】三维矩阵

实现过程

a = torch.ones(3, 3)  # 假设生成的矩阵形状为3*3
c = []  # 定义一个空列表用于存储矩阵
for i in range(3):
    a = a
    c.append(a.unsqueeze(0))
# 使用cat方法可之间实现该操作
c = torch.cat(c, dim=0)  
print(c.size())

输出c的形状:

torch.Size([3, 3, 3])

pytorch中torch.cat()矩阵拼接的用法

深度学习模型里的输出的东西还是有点搞的。torch.cat()的用处还是蛮大的。

下面直接举例子理解。

一维拼接

import torch
a = torch.Tensor([1, 2, 3])
b = a * 2
c = torch.cat((a, b), dim=0)  # dim=-1为取最后一维。这里只有一维-1和0是一样的
print(a.shape)
print(c.shape)
print(c)

二维拼接

dim就是选择哪一维进行拼接,dim=-1就表示最后一维进行拼接,这个也很好理解,索引-1一般都指最后一个字符

a = torch.Tensor([[1, 2]])
b = a * 2
c1 = torch.cat((a, b), dim=0)
c2 = torch.cat((a, b), dim=1)  # 这里第二维是最后一维,dim=-1和dim=1是一样的
print("a:", a)
print("a.shape:", a.shape)
print("c1:", c1)
print("c1.shape:", c1.shape)
print("c2:", c2)
print("c2.shape:", c2.shape)

当你使用pytorch深度学习模型时,隐藏层不止一层,最好将所有的隐藏层都利用起来,那么就需要进行隐藏层的拼接了。

假设隐藏层h_n.shape为(2,3,4)表示有2个隐藏层,batch_size为3(3个样本一起训练),隐藏层大小为4。由于隐藏层都包含了一定的信息,那么我们都利用起来应该效果比较好(听学长说很多论文都证明过了),那么每个样本对应的隐藏层应该都拼接起来用即2*4的大小。这样就需要用到拼接了。

h_n = torch.randn(2, 3, 4)  # 假设隐藏层
# 下面三种写法是一个意思
feature_map = torch.cat([h_n[i] for i in range(h_n.shape[0])], dim=-1)  # 索引第i个整元素,元素里剩下的维度缺省是全取的意思
feature_map1 = torch.cat([h_n[i, :, :] for i in range(h_n.shape[0])], dim=-1)
feature_map2 = torch.cat([h_n[i] for i in range(h_n.shape[0])], dim=1)
print(feature_map.shape)
print(feature_map1.shape)
print(feature_map2.shape)

隐藏层拼接完之后就可以放进全连接层然后出结果了。

由于LSTM的现在时刻的输出是前一个时刻的隐藏层和现在时刻的输入经过softmax得到的,而现在时刻的隐藏层是 现在时刻的输出*tanh(现在时刻的细胞状态)得到的,现在时刻的隐藏层也是包含了现在输入的信息的,因此直接放入全连接然后出结果就好了,至于模型的输出可以不用,直接用隐藏层也是可以的吧。或者说隐藏层就相当于包含着各自特征信息,输出层也是基于隐藏层来的,因此我们深度学习模型里直接用隐藏层就是在直接用那些特征吧(强行理解一波)

用模型的输出或者模型隐藏层应该都是可以得出结果的,目前对我来说,效果应该都差不多。

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 使用python实现3D聚类图示例代码

    使用python实现3D聚类图示例代码

    这篇文章主要介绍了使用python实现3D聚类图效果,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友跟随小编一起看看吧
    2024-08-08
  • python3 MKL库 安装使用教程

    python3 MKL库 安装使用教程

    这篇文章主要介绍了python3 MKL库 安装使用教程的相关资料,需要的朋友可以参考下
    2023-11-11
  • python函数的高级应用详解

    python函数的高级应用详解

    这篇文章主要为大家介绍了python函数的高级应用,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2021-11-11
  • Python OpenCV实现姿态识别的详细代码

    Python OpenCV实现姿态识别的详细代码

    这篇文章主要介绍了Python OpenCV实现姿态识别的方法,本文通过截图实例代码相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-02-02
  • Python使用gmplot创建动态地图可视化

    Python使用gmplot创建动态地图可视化

    gmplot 是一个 Python 库,用于基于 Google Maps 的静态地图生成可视化,它提供简单的 API 来绘制标记、路径、热力图等地理信息数据,本文给大家介绍了如何使用 gmplot 在 Python 中创建动态地图可视化,需要的朋友可以参考下
    2024-12-12
  • Python3标准库之functools管理函数的工具详解

    Python3标准库之functools管理函数的工具详解

    functools模块提供的主要工具就是partial类,可以用来“包装”一个有默认参数的callable对象。这篇文章主要介绍了Python3标准库functools管理函数的工具的实例详解,需要的朋友可以参考下
    2020-02-02
  • 一个可以套路别人的python小程序实例代码

    一个可以套路别人的python小程序实例代码

    本文通过一段实例代码给大家分享一个可以套路别人的python小程序,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-04-04
  • 详解 Python 读写XML文件的实例

    详解 Python 读写XML文件的实例

    这篇文章主要介绍了详解 Python 读写XML文件的实例的相关资料,Python 生成XML文件和Python 读取XML 的实例,需要的朋友可以参考下
    2017-08-08
  • Python selenium自动化测试模型图解

    Python selenium自动化测试模型图解

    这篇文章主要介绍了Python selenium自动化测试模型图解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-04-04
  • 70行Python代码实现一个桌面自动翻译工具

    70行Python代码实现一个桌面自动翻译工具

    PySimpleGUI是一款很棒的自动化辅助模块,让你更轻松的实现日常任务的自动化。本文将利用PySimpleGUI编写一个桌面自动翻译工具,感兴趣的可以了解一下
    2022-07-07

最新评论