脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → pytorch cross entropy损失函数

pytorch 实现cross entropy损失函数计算方式

 更新时间：2020年01月02日 14:29:20   作者：HawardScut  
今天小编就为大家分享一篇pytorch 实现cross entropy损失函数计算方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

均方损失函数：

这里 loss, x, y 的维度是一样的，可以是向量或者矩阵，i 是下标。

很多的 loss 函数都有 size_average 和 reduce 两个布尔类型的参数。因为一般损失函数都是直接计算 batch 的数据，因此返回的 loss 结果都是维度为 (batch_size, ) 的向量。

(1)如果 reduce = False，那么 size_average 参数失效，直接返回向量形式的 loss

(2)如果 reduce = True，那么 loss 返回的是标量

a)如果 size_average = True，返回 loss.mean();
b)如果 size_average = False，返回 loss.sum();

注意：默认情况下， reduce = True，size_average = True

import torch
import numpy as np

1、返回向量

loss_fn = torch.nn.MSELoss(reduce=False, size_average=False)



a=np.array([[1,2],[3,4]])
b=np.array([[2,3],[4,5]])
input = torch.autograd.Variable(torch.from_numpy(a))
target = torch.autograd.Variable(torch.from_numpy(b))

这里将Variable类型统一为float()（tensor类型也是调用xxx.float()）

loss = loss_fn(input.float(), target.float())
print(loss)
tensor([[ 1., 1.],
  [ 1., 1.]])

2、返回平均值

a=np.array([[1,2],[3,4]])
b=np.array([[2,3],[4,4]])

loss_fn = torch.nn.MSELoss(reduce=True, size_average=True)

input = torch.autograd.Variable(torch.from_numpy(a))
target = torch.autograd.Variable(torch.from_numpy(b))

loss = loss_fn(input.float(), target.float())
 print(loss)
tensor(0.7500)

以上这篇pytorch 实现cross entropy损失函数计算方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

相关文章

  • Python提取视频中图片的示例（按帧、按秒）

    Python提取视频中图片的示例（按帧、按秒）

    这篇文章主要介绍了Python提取视频中图片的示例，分别按帧和按秒提取，帮助大家利用python处理视频，获取素材，感兴趣的朋友可以了解下
    2020-10-10
  • 2021年值得向Python开发者推荐的VS Code扩展插件

    2021年值得向Python开发者推荐的VS Code扩展插件

    这篇文章主要介绍了2021年值得向Python开发者推荐的VS Code扩展插件，帮助大家更好的利用vscode进行python的开发，感兴趣的朋友可以了解下
    2021-01-01
  • 信号生成及DFT的python实现方式

    信号生成及DFT的python实现方式

    今天小编就为大家分享一篇信号生成及DFT的python实现方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • Python爬虫获取基金基本信息

    Python爬虫获取基金基本信息

    这篇文章主要介绍了Python爬虫获取基金基本信息，文章基于上一篇文章内容基于python的相关资料展开主题，需要的小伙伴可以参考一下
    2022-05-05
  • Django stark组件使用及原理详解

    Django stark组件使用及原理详解

    这篇文章主要介绍了Django stark组件使用及原理详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-08-08
  • python使用xpath获取页面元素的使用

    python使用xpath获取页面元素的使用

    本文主要介绍了python使用xpath获取页面元素的使用，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2021-09-09
  • Python数据可视化之Matplotlib和Seaborn的使用教程详解

    Python数据可视化之Matplotlib和Seaborn的使用教程详解

    这篇文章主要为大家详细介绍了Python数据可视化中Matplotlib和Seaborn使用的相关教程,文中的示例代码讲解详细,有需要的可以参考下
    2024-03-03
  • Python中pip安装非PyPI官网第三方库的方法

    Python中pip安装非PyPI官网第三方库的方法

    这篇文章主要介绍了Python中pip安装非PyPI官网第三方库的方法,pip最新的版本(1.5以上的版本), 出于安全的考 虑,pip不允许安装非PyPI的URL,本文就给出两种解决方法,需要的朋友可以参考下
    2015-06-06
  • Django实现jquery select2带搜索的下拉框

    Django实现jquery select2带搜索的下拉框

    最近在开发一个web应用中需要用到带搜索功能下拉框，本文实现Django实现jquery select2带搜索的下拉框，感兴趣的小伙伴们可以参考一下
    2021-06-06
  • Django ORM filter() 的运用详解

    Django ORM filter() 的运用详解

    这篇文章主要介绍了Django ORM filter() 的运用详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2020-05-05

最新评论