Python OLS 双向逐步回归方式

 更新时间:2024年05月16日 09:55:46   作者:AdamShyly  
这篇文章主要介绍了Python OLS 双向逐步回归方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教

Python OLS 双向逐步回归

算法基本思路

首先需要确定一个因变量y以此构建一元回归方程

再找到已通过显著性检验的一元线性回归方程中F值最大的解释变量x0

将其并入回归方程中

再分别将剩余的解释变量与解释变量x0作为OLS函数的自变量集拟合回归方程

同样找出其中F值最大的自变量集

如果该自变量集均能通过显著性检验则将该解释变量并入回归方程中并进行下一轮的迭代

否则舍弃该解释变量

并找出F值第二大的自变量集继续对其进行显著性检验

import pandas as pd
import numpy as np
import statsmodels.api as sm
 
 
def test_significance(data, dv, src_idvs):
    model = sm.OLS(data.loc[:, dv], data.loc[:, src_idvs]).fit()
    for p in model.pvalues:
        if p > 0.05:
            return False
    else:
        return True
 
 
def find_max_F(data, dv, idvs, res_idvs):
    F_max = -1
    idv_F_max = None
    res_model = None
    for idv in idvs:
        new_idvs = res_idvs.copy()
        new_idvs.append(idv)  # 加入新解释变量找出F最大值
        model = sm.OLS(data.loc[:, dv], sm.add_constant(
            data.loc[:, new_idvs])).fit()
        F = model.fvalue
        if F > F_max:
            F_max = F
            idv_F_max = idv
            res_model = model
    return F_max, idv_F_max, res_model
 
 
def stepwise_regression(data, dv, idvs=None):  # 向前向后逐步回归
    res_idvs = []
    src_idvs = idvs.copy()
    res_models = []
    for step in range(len(idvs)):
        isExit = False
        while True:
            F, idv, model = find_max_F(
                data, dv, src_idvs, res_idvs)  # 求出F最大值以及对应的解释变量
 
            if model == None:  # 多元线性拟合失败
                print("第{0}步拟合线性失败".format(step + 1))
                isExit = True
                break
 
            res_idvs.append(idv)
 
            # 没有新解释变量并入回归方程中
            if model.f_pvalue >= 0.05 or not test_significance(data, dv, res_idvs):
                res_idvs.pop()  # 移除该解释变量
                src_idvs.remove(idv)
                print("第{0}步移除解释变量{1}".format(step + 1, idv))
                if len(src_idvs) == 0:  # 该轮for循环并没有解释变量能够并入回归方程中
                    isExit = True
                    break
            else:  # 找到新解释变量,结束While循环
                print("第{0}步并入解释变量{1}".format(step + 1, idv))
                res_models.append(model)
                break
        if isExit:  # 提前结束逐步回归
            break
        else:
            src_idvs = []
            for idv in idvs:
                if idv not in res_idvs:
                    src_idvs.append(idv)
    return res_idvs, res_models
 
 
data = pd.read_excel('./normalization.xlsx')
 
equations = []
stdouts = []
for column in data.columns:
    idvs = list(data.columns.copy())
    idvs.remove(column)
    res, models = stepwise_regression(data=data, dv=column, idvs=idvs)
    equation = 'y = '
    stdout = 'y为' + column + '、'
    for index in range(len(res)):
        equation += str(models[index].params[1]) + ' * x' + str(index)
        stdout += 'x' + str(index) + '为' +  res[index]
        if index != len(res) - 1:
            equation += ' + '
            stdout += '、'
    equations.append(equation)
    stdouts.append(stdout)
 
with open(file='./MultivariateLinearity.txt', mode='w', encoding='utf-8') as f:
    for index in range(len(equations)):
        f.write(equations[index] + '\n其中: ' + stdouts[index] + '\n')

以下是data数据集格式

一个解释变量为一列

以下是将方程

以及变量解释输出至.txt文件的最终结果

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • python基础知识小结之集合

    python基础知识小结之集合

    本文给大家小结了一下Python中集合的基础知识,非常的简单易懂,有需要的小伙伴可以参考下。
    2015-11-11
  • 利用Python对中国500强排行榜数据进行可视化分析

    利用Python对中国500强排行榜数据进行可视化分析

    这篇文章主要介绍了利用Python对中国500强排行榜数据进行可视化分析,从不同角度去对数据进行统计分析,可视化展示,下文详细内容介绍需要的小伙伴可以参考一下
    2022-05-05
  • 解决pycharm 安装numpy失败的问题

    解决pycharm 安装numpy失败的问题

    今天小编就为大家分享一篇解决pycharm 安装numpy失败的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-12-12
  • python中*args与**kwarsg及闭包和装饰器的用法

    python中*args与**kwarsg及闭包和装饰器的用法

    这篇文章主要介绍了python中*args与**kwarsg及闭包和装饰器的用法说明,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-07-07
  • Python递归求出列表(包括列表中的子列表)的最大值实例

    Python递归求出列表(包括列表中的子列表)的最大值实例

    今天小编就为大家分享一篇Python递归求出列表(包括列表中的子列表)的最大值实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • 利用Python开发实现简单的记事本

    利用Python开发实现简单的记事本

    最近想对python加深学习一下,同时也是想试着做一些东西,所以使用python,结合Tkinter来做一个简单的跨平台记事本。最终实现的记事本如下,也算是麻雀虽小,五脏俱全了,之后也是会继续完善的。文中通过图文及示例代码介绍的很详细,有需要的朋友们可以参考借鉴。
    2016-11-11
  • python计算对角线有理函数插值的方法

    python计算对角线有理函数插值的方法

    这篇文章主要介绍了python计算对角线有理函数插值的方法,涉及Python数学运算的相关技巧,需要的朋友可以参考下
    2015-05-05
  • pytorch 多分类问题,计算百分比操作

    pytorch 多分类问题,计算百分比操作

    这篇文章主要介绍了pytorch 多分类问题,计算百分比操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-07-07
  • Python heapq使用详解及实例代码

    Python heapq使用详解及实例代码

    这篇文章主要介绍了Python heapq使用详解及实例代码的相关资料,需要的朋友可以参考下
    2017-01-01
  • python的mysql数据库建立表与插入数据操作示例

    python的mysql数据库建立表与插入数据操作示例

    这篇文章主要介绍了python的mysql数据库建立表与插入数据操作,结合实例形式分析了python操作mysql数据库建立表与插入数据相关实现技巧,需要的朋友可以参考下
    2019-09-09

最新评论