python编写softmax函数、交叉熵函数实例

 更新时间:2020年06月11日 15:04:58   作者:ChunxueShi  
这篇文章主要介绍了python编写softmax函数、交叉熵函数实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

python代码如下:

import numpy as np
 
# Write a function that takes as input a list of numbers, and returns
# the list of values given by the softmax function.
def softmax(L):
 pass
 expL = np.exp(L)
 sumExpL = sum(expL)
 result = []
 for i in expL:
  result.append(i*1.0/sumExpL)
 return result

python编写交叉熵公式:

import numpy as np
 
def cross_entropy(Y, P):
 Y = np.float_(Y)
 P = np.float_(P)
 return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))

补充知识:分类时,为什么不使用均方误差而是使用交叉熵作为损失函数

MSE(均方误差)对于每一个输出的结果都非常看重,而交叉熵只对正确分类的结果看重。

例如:在一个三分类模型中,模型的输出结果为(a,b,c),而真实的输出结果为(1,0,0),那么MSE与cross-entropy相对应的损失函数的值如下:

MSE:

cross-entropy:

从上述的公式可以看出,交叉熵的损失函数只和分类正确的预测结果有关系,而MSE的损失函数还和错误的分类有关系,该分类函数除了让正确的分类尽量变大,还会让错误的分类变得平均,但实际在分类问题中这个调整是没有必要的。

但是对于回归问题来说,这样的考虑就显得很重要了。所以,回归问题熵使用交叉上并不合适。

以上这篇python编写softmax函数、交叉熵函数实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python利用networkx画图绘制Les Misérables人物关系

    Python利用networkx画图绘制Les Misérables人物关系

    这篇文章主要为大家介绍了Python利用networkx画图处理绘制Les Misérables悲惨世界里的人物关系图,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2022-05-05
  • python使用Scrapy库进行数据提取和处理的方法详解

    python使用Scrapy库进行数据提取和处理的方法详解

    在我们的初级教程中,我们介绍了如何使用Scrapy创建和运行一个简单的爬虫,在这篇文章中,我们将深入了解Scrapy的强大功能,学习如何使用Scrapy提取和处理数据
    2023-09-09
  • Python编写绘图系统之从文本文件导入数据并绘图

    Python编写绘图系统之从文本文件导入数据并绘图

    这篇文章主要为大家详细介绍了Python如何编写一个绘图系统,可以实现从文本文件导入数据并绘图,文中的示例代码讲解详细,感兴趣的可以了解一下
    2023-08-08
  • Pytorch如何加载部分权重

    Pytorch如何加载部分权重

    这篇文章主要介绍了Pytorch如何加载部分权重问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2023-09-09
  • Python实现轻松找出两个列表不同之处

    Python实现轻松找出两个列表不同之处

    在日常编程中,需要比较两个列表并找出它们之间差异是一种常见需求,在本文中,我们将深入探讨Python中查找两个列表差异值的方法,需要的小伙伴可以参考下
    2023-12-12
  • python3.3教程之模拟百度登陆代码分享

    python3.3教程之模拟百度登陆代码分享

    因工作需要,研究了一下模拟百度的登陆,开发环境使用了python3,大家参考使用吧
    2014-01-01
  • python中numpy 常用操作总结

    python中numpy 常用操作总结

    这篇文章主要介绍了python中numpy常用操作总结,NumPy是Python语言的一个扩充程序库,支持大量高维度数组与矩阵运算,此外也针对数组运算提供大量的数学函数库
    2022-09-09
  • 详解Python中数据处理的方法总结及实现

    详解Python中数据处理的方法总结及实现

    数据增强作为前处理的关键步骤,在整个计算机视觉中有着具足轻重的地位。本文为大家总结了Python中数据处理的方法及实现,需要的可以参考一下
    2022-09-09
  • python中time模块指定格式时间字符串转为时间戳

    python中time模块指定格式时间字符串转为时间戳

    本文主要介绍了python中time模块指定格式时间字符串转为时间戳,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-02-02
  • Python实现爬取某站视频弹幕并绘制词云图

    Python实现爬取某站视频弹幕并绘制词云图

    这篇文章主要介绍了利用Python爬取某站的视频弹幕,并将其绘制成词云图,文中的示例代码讲解详细,对我学习Python爬虫有一定的帮助,需要的朋友可以参考一下
    2021-12-12

最新评论