细数nn.BCELoss与nn.CrossEntropyLoss的区别

更新时间：2020年02月29日 11:37:16 作者：站着刷论文

今天小编就为大家整理了一篇细数nn.BCELoss与nn.CrossEntropyLoss的区别，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

Python客栈送红包、纸质书

以前我浏览博客的时候记得别人说过，BCELoss与CrossEntropyLoss都是用于分类问题。可以知道，BCELoss是Binary CrossEntropyLoss的缩写，BCELoss　CrossEntropyLoss的一个特例，只用于二分类问题，而CrossEntropyLoss可以用于二分类，也可以用于多分类。

不过我重新查阅了一下资料，发现同样是处理二分类问题，BCELoss与CrossEntropyLoss是不同的。下面我详细讲一下哪里不同。

1、使用nn.BCELoss需要在该层前面加上Sigmoid函数。

公式如下：

2、使用nn.CrossEntropyLoss会自动加上Sofrmax层。

公式如下：

可以看出，这两个计算损失的函数使用的激活函数不同，故而最后的计算公式不同。

补充拓展：pytorch的BCELoss和cross entropy

BCELoss:

torch.nn.BCELoss:

Input: (N, *)(N,∗) where *∗ means, any number of additional dimensions
 
Target: (N, *)(N,∗), same shape as the input
 
Output: scalar. If reduction is 'none', then (N, *)(N,∗), same shape as input.

登录后复制免费讲解

这里的输入和target 目标必须形状一致，并且都是浮点数，二分类中一般用sigmoid的把输出挑出一个数：

>>> m = nn.Sigmoid()
>>> loss = nn.BCELoss()
>>> input = torch.randn(3, requires_grad=True)
>>> target = torch.empty(3).random_(2)
>>> output = loss(m(input), target)
>>> output.backward()

登录后复制免费讲解

CrossEntropyLoss:

1 2	`input(N,C)` `#n 是batch c是类别` `target(N)`

登录后复制免费讲解

输入和target 形状是不同的crossEntropy 是自己会做softmax

>>> loss = nn.CrossEntropyLoss()
>>> input = torch.randn(3, 5, requires_grad=True)
>>> target = torch.empty(3, dtype=torch.long).random_(5)
>>> output = loss(input, target)
>>> output.backward()

登录后复制免费讲解

以上这篇细数nn.BCELoss与nn.CrossEntropyLoss的区别就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

pytorch中交叉熵损失(nn.CrossEntropyLoss())的计算过程详解

微信公众号搜索 “ 脚本之家 ” ，选择关注

程序猿的那些事、送书等活动等着你

原文链接：https://blog.csdn.net/f156207495/article/details/88874911

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权/违法违规/事实不符，请将相关资料发送至 reterry123@163.com 进行投诉反馈，一经查实，立即处理！

Django报错TemplateDoesNotExist的问题及解决
这篇文章主要介绍了Django报错TemplateDoesNotExist的问题及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2023-08-08
Python Scala中使用def语句定义方法的详细过程
这篇文章主要介绍了Python Scala中使用def语句定义方法,Scala的方法是类的一部分，而函数是一个对象可以赋值给一个变量，下面来讲解Scala的方法，需要的朋友可以参考下
2022-09-09
Python中处理JSON文件的超详细指南
这篇文章主要给大家介绍了关于Python中处理JSON文件的超详细指南,json模块是python内置的库,不需要额外安装就可以导入运行,json模块的主要功能是将序列化数据从文件里读取出来或者存入文件,需要的朋友可以参考下
2024-05-05
python先序遍历二叉树问题
这篇文章主要介绍了python先序遍历二叉树问题，简单分析了问题，然后向大家分享了代码示例，具有一定参考价值，需要的朋友可以了解下。
2017-11-11
Python如何利用pandas读取csv数据并绘图
这篇文章主要介绍了Python如何利用pandas读取csv数据并绘图，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2022-07-07
浅析python连接数据库的重要事项
这篇文章主要介绍了python连接数据库的重要事项,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下
2021-02-02
Python绘制并保存指定大小图像的方法
今天小编就为大家分享一篇Python绘制并保存指定大小图像的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-01-01
Python中输入和输出（打印）数据实例方法
在本篇文章里小编给大家整理的是关于Python中输入和输出（打印）数据实例方法以及相关知识点，有需要的朋友们参考下。
2019-10-10
python如何生成任意n阶的三对角矩阵
这篇文章主要介绍了python如何生成任意n阶的三对角矩阵，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2022-05-05
python 操作hive pyhs2方式
今天小编就为大家分享一篇python 操作hive pyhs2方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-12-12