R语言利用caret包比较ROC曲线的操作

 更新时间:2021年04月06日 10:38:00   作者:Jack_丁明  
这篇文章主要介绍了R语言利用caret包比较ROC曲线的操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

说明

我们之前探讨了多种算法,每种算法都有优缺点,因而当我们针对具体问题去判断选择那种算法时,必须对不同的预测模型进行重做评估。

为了简化这个过程,我们使用caret包来生成并比较不同的模型与性能。

操作

加载对应的包与将训练控制算法设置为10折交叉验证,重复次数为3:

library(ROCR)
library(e1071)
library("pROC")
library(caret)
library("pROC")
control = trainControl(method = "repaetedcv",
   number = 10,
   repeats =3,
   classProbs = TRUE,
   summaryFunction = twoClassSummary)

使用glm在训练数据集上训练一个分类器

glm.model = train(churn ~ .,
   data= trainset,
   method = "glm",
   metric = "ROC",
   trControl = control)

使用svm在训练数据集上训练一个分类器

svm.model = train(churn ~ .,
   data= trainset,
   method = "svmRadial",
   metric = "ROC",
   trControl = control)

使用rpart函数查看rpart在训练数据集上的运行情况

rpart.model = train(churn ~ .,
   data = trainset,
   method = "svmRadial",
   metric = "ROC",
   trControl = control)

使用不同的已经训练好的数据分类预测:

glm.probs = predict(glm.model,testset[,!names(testset) %in% c("churn")],type = "prob")
svm.probs = predict(svm.model,testset[,!names(testset) %in% c("churn")],type = "prob")
rpart.probs = predict(rpart.model,testset[,!names(testset) %in% c("churn")],type = "prob")

生成每个模型的ROC曲线,将它们绘制在一个图中:

glm.ROC = roc(response = testset[,c("churn")],
  predictor = glm.probs$yes,
  levels = levels(testset[,c("churn")]))
plot(glm.ROC,type = "S",col = "red")
svm.ROC = roc(response = testset[,c("churn")],
  predictor = svm.probs$yes,
  levels = levels(testset[,c("churn")]))
plot(svm.ROC,add = TRUE,col = "green")
rpart.ROC = roc(response = testset[,c("churn")],
  predictor = rpart.probs$yes,
  levels = levels(testset[,c("churn")]))
plot(rpart.ROC,add = TRUE,col = "blue")

三种分类器的ROC曲线

说明

将不同的分类模型的ROC曲线绘制在同一个图中进行比较,设置训练过程的控制参数为重复三次的10折交叉验证,模型性能的评估参数为twoClassSummary,然后在使用glm,svm,rpart,三种不同的方法建立分类模型。

从图中可以看出,svm对训练集的预测结果(未调优)是三种分类算法里最好的。

补充:R语言利用caret包比较模型性能差异

说明

我们可以通过重采样的方法得对每一个匹配模型的统计信息,包括ROC曲线,灵敏度与特异度,然后基于这些统计信息来比较不同模型的性能差异。

操作

利用上节的信息,准备好glm分类模型,svm分类模型,rpart分类模型,并存放在glm.model,svm.model,rpart.model。

cv.values = resamples(list(glm = glm.model,svm =svm.model,rpart = rpart.model))
> summary(cv.values)
Call:
summary.resamples(object = cv.values)
Models: glm, svm, rpart 
Number of resamples: 30 
ROC 
  Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
glm 0.7597790 0.7927740 0.8040455 0.8106454 0.8347961 0.8760824 0
svm 0.8191998 0.8786439 0.8945208 0.8947360 0.9196775 0.9562556 0
rpart 0.6064540 0.7150320 0.7608241 0.7556544 0.8086731 0.8554750 0
Sens 
  Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
glm 0.08823529 0.1764706 0.2058824 0.2124930 0.2516807 0.3235294 0
svm 0.44117647 0.5294118 0.5882353 0.5956863 0.6470588 0.7941176 0
rpart 0.20000000 0.4117647 0.4705882 0.4787955 0.5514706 0.7352941 0
Spec 
  Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
glm 0.9393939 0.9645119 0.9721581 0.9702721 0.9796954 0.9898477 0
svm 0.9494949 0.9695431 0.9771574 0.9755004 0.9847716 0.9898990 0
rpart 0.9492386 0.9746193 0.9796954 0.9780359 0.9848485 1.0000000 0

使用dotplot函数绘制重采样在ROC曲线度量中的结果:

dotplot(cv.values,metric = "ROC")

使用箱线图绘制重采样结果:

bwplot(cv.values,layout=c(3,1))

重采样结果箱线图

说明

我们使用resample函数生成各个模型的统计信息,再调用summary函数输出三个模型在ROC、灵敏度及特异性上的统计信息。

使用dotplot方法处理重采样结果来观测不同模型ROC差异,最后,采用箱线图在同一张图上对ROC、灵敏度及特异方面的差别进行比较。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。如有错误或未考虑完全的地方,望不吝赐教。

您可能感兴趣的文章:

相关文章

  • R语言绘制尺子的实现示例

    R语言绘制尺子的实现示例

    本文使用基本的绘图命令plot、rect、segments、text绘制一把长10厘米的直尺,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2022-01-01
  • Java调用R语言实例讲解

    Java调用R语言实例讲解

    这篇文章主要介绍了Java调用R语言实例讲解,文中代码讲解的很清晰,有需要的同学可以研究下
    2021-03-03
  • R语言数据可视化绘图Dot plot点图画法示例

    R语言数据可视化绘图Dot plot点图画法示例

    这篇文章主要为大家介绍了R语言数据可视化绘图Dot plot点图的画法示例,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步
    2022-02-02
  • 浅析R语言中map(映射)与reduce(规约)

    浅析R语言中map(映射)与reduce(规约)

    大家在R语言数据处理中非常常见map(映射)与reduce(规约)操作,map表示映射,可以在一个或多个列表/向量的每个位置上应用相同函数进行计算而reduce函数表示规约,计算向量中相邻的两个元素,本文给大家介绍R语言map与reduce的相关知识,感兴趣的朋友一起看看吧
    2021-05-05
  • R语言绘制双坐标图的案例详解

    R语言绘制双坐标图的案例详解

    这篇文章主要介绍了R语言绘制双坐标图,下面就跟大家介绍plotrix包中的twoord.plot()函数和twoord.stackplot()函数,它们可以实现双坐标轴图形的绘制,需要的朋友可以参考下
    2023-01-01
  • R语言操作文件方法详解教程

    R语言操作文件方法详解教程

    这篇文章主要为大家介绍了R语言如何操作文件的方法详解教程,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
    2021-11-11
  • 解决R语言安装时出现辑程包不存在的问题

    解决R语言安装时出现辑程包不存在的问题

    这篇文章主要介绍了解决R语言安装时出现辑程包不存在的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-04-04
  • R语言安装VSCODE和环境配置

    R语言安装VSCODE和环境配置

    VSCode是一个跨平台的代码编辑器,支持多种编程语言和运行时环境,在VSCode中配置R语言环境,需要安装R插件和RDebugger插件,并配置R语言虚拟环境,配置过程中需要设置R执行路径、启动时的命令行参数和SessionWatcher等选项,安装Languageserver插件可以实现自动补齐
    2024-11-11
  • R语言逻辑型运算的实现

    R语言逻辑型运算的实现

    本文主要介绍了R语言逻辑型运算,逻辑型是 R 的基本数据类型之一,只有两个值 TRUE 和 FALSE, 缺失时为 NA,具有一定的参考价值,感兴趣的可以了解一下
    2022-03-03
  • R语言学习之线图的绘制详解

    R语言学习之线图的绘制详解

    线图是反映趋势变化的一种方式,其输入数据一般也是一个矩阵。本文将利用R语言绘制单线图、多线图以及横轴文本线图,感兴趣的可以了解一下
    2022-03-03

最新评论