keras 多任务多loss实例

更新时间：2020年06月22日 09:01:04 作者：maocaisheng

这篇文章主要介绍了keras 多任务多loss实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

Python客栈送红包、纸质书

记录一下：

# Three loss functions
category_predict1 = Dense(100, activation='softmax', name='ctg_out_1')(
  Dropout(0.5)(feature1)
)
category_predict2 = Dense(100, activation='softmax', name='ctg_out_2')(
  Dropout(0.5)(feature2)
)
dis = Lambda(eucl_dist, name='square')([feature1, feature2])
judge = Dense(2, activation='softmax', name='bin_out')(dis)
model = Model(inputs=[img1, img2], outputs=[category_predict1, category_predict2, judge])
model.compile(optimizer=SGD(lr=0.0001, momentum=0.9),
       loss={
         'ctg_out_1': 'categorical_crossentropy',
         'ctg_out_2': 'categorical_crossentropy',
         'bin_out': 'categorical_crossentropy'},
       loss_weights={
         'ctg_out_1': 1.,
         'ctg_out_2': 1.,
         'bin_out': 0.5
       },
       metrics=['accuracy'])

登录后复制免费讲解

补充知识：多分类loss函数本质理解

一、面对一个多分类问题，如何设计合理的损失函数呢？

1、损失函数的本质在数学上称为目标函数；这个目标函数的目标值符合最完美的需求；损失函数的目标值肯定是0，完美分类的损失必然为0 ；

2、损失函数分为两部分，一部分为正确的分类，一部分为错误的分类；保留其中任何一个部分都可以达到目标；就好比两条路都可以通向罗马；都可以通过转化均可以令损失函数的最小值为0时，为目标值；（当然最小值不一定要为0 ）；最关键是最小化方向是通向目标值的；

3、多分类问题涉及概率问题，目标函数中设计只保留正确的部分（为什么不保留错误部分，我想都可以达到目的，这里保留正确部分，计算更方便）；用极值思维想象完美分类情况下，输出的正确类别的概率必然是1，所以损失函数loss=-1/n(Px1+Px2+Px3+……)；Px1代表样本x为x1的情况下，输出样本类别相同的概率；最好的情况就是p值都为1；损失值为0 ，可loss函数为-1；如何设计才能等效呢？答案就是加log函数；Loss=-1/n(logPx1+logPx2+logPx3+……)；目标函数最小值就是0；

二、如何在损失函数中只保留正确的部分呢？

1、从逆向的角度而言，错误部分的前面加个系数0，正确部分为1；从简单开始做起，比如说01分类，y*（logPy=1）+(1-y)*（logPy=0）; y为样本真实分类；这个就能保存了；y=1时，就保留了第一部分，y=0时就保留了第二部分；但当将01分类扩展成三分类甚至多分类时，这种情况就不能够适应了；这是因为没有明白本质问题；

2、可以将真实样本标签输出转化成概率值；只是正确的概率值为1，其他类别概率为0；这样就可以完美解决多分类的问题；就是说每一个模型输出类别Log概率前乘以一个概率值；这个公式里面的P值全为1；为0的忽略掉了；

三、如何优化呢？

1、模型输出的概率值转化为一个h(x)的函数；通过改变函数内部的w值来达到最小值；也许达不到0值；这个跟函数的Power（拟合能力）有关；

四、cross-entropy loss公式怎么写呢？

Y代表样本的one-hot向量；yhat代表softmax输出的向量；

以上这篇keras 多任务多loss实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

微信公众号搜索 “ 脚本之家 ” ，选择关注

程序猿的那些事、送书等活动等着你

原文链接：https://blog.csdn.net/u012938704/article/details/79904173

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若内容造成侵权/违法违规/事实不符，请将相关资料发送至 reterry123@163.com 进行投诉反馈，一经查实，立即处理！

Win10系统下安装labelme及json文件批量转化方法
这篇文章主要介绍了Win10系统下安装labelme及json文件批量转化的方法，文中较详细的给大家介绍了安装过程 ,需要的朋友可以参考下
2019-07-07
Python合并2个字典成1个新字典的方法(9种)
这篇文章主要介绍了Python合并2个字典成1个新字典的方法，本文通过实例代码给大家分享9中方法,需要的朋友可以参考下
2019-12-12
Python海象运算符超详细讲解
海象运算符的英文原名叫Assignment Expresions，翻译过来也就是赋值表达式，不过现在大家更普遍地称之为海象运算符，就是因为它长得真的太像海象了
2023-01-01
python 实现一次性在文件中写入多行的方法
今天小编就为大家分享一篇python 实现一次性在文件中写入多行的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-01-01
pycharm 取消默认的右击运行unittest的方法
今天小编就为大家分享一篇pycharm 取消默认的右击运行unittest的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2018-11-11
Python学习之时间包使用教程详解
本文主要介绍了Python中的内置时间包：datetime包与 time包，通过学习时间包可以让我们的开发过程中对时间进行轻松的处理，快来跟随小编一起学习一下吧
2022-03-03
Python闭包与闭包陷阱举例详解
闭包并不只是一个Python中的概念,在函数式编程语言中应用较为广泛,下面这篇文章主要给大家介绍了关于Python闭包与闭包陷阱的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
2023-01-01
Django点赞的实现示例
本文主要介绍了Django点赞的实现示例，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2022-03-03
python实现线程池的方法
这篇文章主要介绍了python实现线程池的方法,实例分析了Python线程池的原理与相关实现技巧,需要的朋友可以参考下
2015-06-06
python中seaborn包常用图形使用详解
今天小编就为大家分享一篇python中seaborn包常用图形使用详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2019-11-11