PyTorch中torch.nn.functional.cosine_similarity使用详解
概述
根据官网文档的描述，其中 dim表示沿着对应的维度计算余弦相似。那么怎么理解呢？
首先，先介绍下所谓的dim:
a = torch.tensor([[ [1, 2], [3, 4] ], [ [5, 6], [7, 8] ] ], dtype=torch.float)
print(a.shape)
"""
[
[
[1, 2],
[3, 4]
],
[
[5, 6],
[7, 8]
]
]
"""
假设有2个矩阵：[[1, 2], [3, 4]] 和 [[5, 6], [7, 8]], 求2者的余弦相似。
按照dim=0求余弦相似：
import torch.nn.functional as F input1 = torch.tensor([[1, 2], [3, 4]], dtype=torch.float) input2 = torch.tensor([[5, 6], [7, 8]], dtype=torch.float) output = F.cosine_similarity(input1, input2, dim=0) print(output)
结果如下：
tensor([0.9558, 0.9839])
那么，这个数值是怎么得来的？是按照
具体求解如下：
print(F.cosine_similarity(torch.tensor([1,3], dtype=torch.float) , torch.tensor([5,7], dtype=torch.float), dim=0)) print(F.cosine_similarity(torch.tensor([2,4], dtype=torch.float) , torch.tensor([6,8], dtype=torch.float), dim=0))
运行结果如下:
tensor(0.9558)tensor(0.9839)
可以用scipy.spatial进一步佐证:
from scipy import spatial dataSetI = [1,3] dataSetII = [5,7] result = 1 - spatial.distance.cosine(dataSetI, dataSetII) print(result)
运行结果如下:
0.95577900872195
同理：
dataSetI = [2,4] dataSetII = [6,8] result = 1 - spatial.distance.cosine(dataSetI, dataSetII) print(result)
运行结果如下:
0.9838699100999074
按照dim=1求余弦相似:
output = F.cosine_similarity(input1, input2, dim=1) print(output)
运行结果如下：
tensor([0.9734, 0.9972])
同理，用用scipy.spatial进一步佐证:
dataSetI = [1,2] dataSetII = [5,6] result = 1 - spatial.distance.cosine(dataSetI, dataSetII) print(result)
运行结果：0.973417168333576
dataSetI = [3,4] dataSetII = [7,8] result = 1 - spatial.distance.cosine(dataSetI, dataSetII) print(result)
运行结果：
0.9971641204866132
结果与F.cosine_similarity相符合。
补充：给定一个张量，计算多个张量与它的余弦相似度，并将计算得到的余弦相似度标准化。
import torch
def get_att_dis(target, behaviored):
attention_distribution = []
for i in range(behaviored.size(0)):
attention_score = torch.cosine_similarity(target, behaviored[i].view(1, -1)) # 计算每一个元素与给定元素的余弦相似度
attention_distribution.append(attention_score)
attention_distribution = torch.Tensor(attention_distribution)
return attention_distribution / torch.sum(attention_distribution, 0) # 标准化
a = torch.FloatTensor(torch.rand(1, 10))
print('a', a)
b = torch.FloatTensor(torch.rand(3, 10))
print('b', b)
similarity = get_att_dis(target=a, behaviored=b)
print('similarity', similarity)a tensor([[0.9255, 0.2194, 0.8370, 0.5346, 0.5152, 0.4645, 0.4926, 0.9882, 0.2783,
0.9258]])
b tensor([[0.6874, 0.4054, 0.5739, 0.8017, 0.9861, 0.0154, 0.8513, 0.8427, 0.6669,
0.0694],
[0.1720, 0.6793, 0.7764, 0.4583, 0.8167, 0.2718, 0.9686, 0.9301, 0.2421,
0.0811],
[0.2336, 0.4783, 0.5576, 0.6518, 0.9943, 0.6766, 0.0044, 0.7935, 0.2098,
0.0719]])
similarity tensor([0.3448, 0.3318, 0.3234])
总结
到此这篇关于PyTorch中torch.nn.functional.cosine_similarity使用的文章就介绍到这了,更多相关PyTorch torch.nn.functional.cosine_similarity使用内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
今天小编就为大家分享一篇Python分割指定页数的pdf文件方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-10-10![聊聊Numpy.array中[:]和[::]的区别在哪](//img.jbzj.com/images/xgimg/bcimg1.png)
这篇文章主要介绍了在Numpy.array中[:]和[::]的区别说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2021-05-05
这篇文章主要介绍了使用python创建Excel工作簿及工作表,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-05-05
反编译的第一步就是要将exe文件转换成py文件,下面这篇文章主要给大家介绍了如何通过一文学会将Python打包后的exe还原成.py的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2022-11-11
本文主要介绍了python实现跨进程(跨py文件)通信示例，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2022-03-03
这篇文章主要介绍了关于scipy.optimize函数使用及说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-12-12
在数据分析中经常需要从csv格式的文件中存取数据以及将数据写书到csv文件中。下面这篇文章主要给大家介绍了关于利用Python如何将数据写到CSV文件中的相关资料，文中通过示例代码介绍的非常详细，需要的朋友可以参考下2018-06-06
本文主要介绍了flask结合jinja2使用详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2023-03-03
GeoPandas是一个基于pandas，针对地理数据做了特别支持的第三方模块。本文将利用GeoPandas计算出每个省的面积，感兴趣的小伙伴快跟随小编一起学习一下吧2021-12-12
本篇文章给大家分享了PHP实现发送和接收JSON请求的详细方法和实例代码，有兴趣的朋友可以参考学习下。2018-06-06
![聊聊Numpy.array中[:]和[::]的区别在哪](http://img.jbzj.com/images/xgimg/bcimg1.png)
最新评论