R语言实现岭回归的示例代码
更新时间：2021年08月11日 10:31:00 作者：一天_pika
本文主要介绍了R语言实现岭回归的示例代码，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
岭参数的一般选择原则
- 选择k（或lambda）值，使得：
- 各回归系数的岭估计基本稳定
- 用最小二乘估计时符号不合理的回归系数，其岭回归的符号变得合理
- 回归系数没有不合乎实际意义的绝对值
- 残差平方和增大的不多
用R语言进行岭回归
这里使用MASS包中的longley数据集，进行岭回归分析（longley数据集中的变量具有显著的多重共线性）。从而分析使用岭回归进行多重共线性的解决。
首相将longley数据集中的第一列数据命名为“y”，并使用岭回归创建线性模型：
显示当y为因变量，其余各个变量为自变量时，直接构建线性模型的统计结果如下：
可见，虽然线性回归的Multiple R-squared： 0.9926是一个很高的值。但各个变量的显著性检验却很差，同样说明直接使用线性模型的拟合效果并不是很理想。
制定岭参数lamdba从0-0.1，每次变化的长度为0.001，并绘制岭迹图，如下：
详细岭回归的岭迹图如下：
从岭迹图中可以看出，当lambda=0时，图像不稳定。因此，可以说明这里的变量存在多重共线性。
现在需要对岭参数lambda进行选择：
可以看出，这里由于使用了不同的估计方法，从而可以得到几个不同的岭参数的估计。通常取GCV估计，或者结合几个结果进行取值。这里取lambda=0.006。
使用R的ridge包的时候，出现如下问题：
岭回归的问题
- 岭参数计算方法太多，差异太大
- 根据岭迹图进行变量筛选，随意性太大
- 岭回归返回的模型（如果没哟经过变量筛选）包含所有的变量
- 而且，对于使用岭回归进行变量的筛选，目前只能作为一个扩展计算视野的方法，而在实际使用中，会出现很多问题。
到此这篇关于R语言实现岭回归的示例代码的文章就介绍到这了,更多相关R语言 岭回归内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
这篇文章主要介绍了R语言-计算平均值不同函数的区别说明，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-04-04
这篇文章主要为大家介绍了R语言编程重读微积分数学分析理解极限算法的详细过程，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步2021-10-10
在本篇文章里小编给大家整理的是一篇关于R语言符号知识点汇总内容，有需要的朋友们可以学习下。2021-03-03
批量地做就是解放双手地过程，本文主要介绍了R语言批量读取某路径下文件内容的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-04-04
这篇文章主要介绍了R语言-计算频数和频率的操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-04-04
这篇文章主要介绍了R语言-summary()函数的用法解读，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-04-04
火山图作为散点图的一种，将统计测试中的统计显著性量度和变化幅度相结合，从而能够帮助快速直观地识别那些变化幅度较大且具有统计学意义的数据点。本文将为大家详细介绍如何利用R语言绘制火山图，需要的可以参考一下2022-03-03
R语言wilcoxon秩和检验及wilcoxon符号秩检验的操作
这篇文章主要介绍了R语言wilcoxon秩和检验及wilcoxon符号秩检验的操作，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-04-04
在本篇文章里小编给大家整理了一篇关于R语言决策基础知识点内容，有兴趣的朋友们可以学习参考下。2021-03-03
这篇文章主要为大家介绍了R语言绘制line plot线图的示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-02-02
最新评论