文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

python的自变量选择实例分析

2023-07-02 14:32

关注

这篇文章主要介绍“python的自变量选择实例分析”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“python的自变量选择实例分析”文章能帮助大家解决问题。

1、为什么需要自变量选择?

一个好的回归模型,不是自变量个数越多越好。在建立回归模型的时候,选择自变量的基本指导思想是少而精。丢弃了一些对因变量y有影响的自变量后,所付出的代价就是估计量产生了有偏性,但是预测偏差的方差会下降。因此,自变量的选择有重要的实际意义。

2、自变量选择的几个准则

(1)自由度调整复决定系数达到最大

python的自变量选择实例分析

python的自变量选择实例分析

(2)赤池信息量AIC达到最小

3、所有子集回归

(1)算法思想

 所谓所有子集回归,就是将总的自变量的所有子集进行考虑,查看哪一个子集是最优解。

(2)数据集情况

python的自变量选择实例分析

(3)代码部分

import pandas as pdimport numpy as npimport statsmodels.api as smimport statsmodels.formula.api as smffrom itertools import combinationsdef allziji(df):        list1 = [1,2,3]    n = 18    R2 = []    names = []    #找到所有子集,并依次循环    for a in range(len(list1)+1):        for b in combinations(list1,a+1):            p = len(list(b))             data1 = pd.concat([df.iloc[:,i-1] for i in list(b) ],axis = 1)#结合所需因子                        name = "y~"+("+".join(data1.columns))#组成公式                        data = pd.concat([df['y'],data1],axis=1)#结合自变量和因变量                        result = smf.ols(name,data=data).fit()#建模            #计算R2a            r2 = (n-1)/(n-p-1)            r2 = r2 * (1-result.rsquared**2)            r2 = 1 - r2            R2.append(r2)            names.append(name)    finall = {"公式":names,              "R2a":R2}    data = pd.DataFrame(finall)    print("""根据自由度调整复决定系数准则得到:        最优子集回归模型为:{};        其R2a值为:{}""".format(data.iloc[data['R2a'].argmax(),0],data.iloc[data['R2a'].argmax(),1]))    result = smf.ols(name,data=df).fit()#建模    print()    print(result.summary())
df = pd.read_csv("data5.csv")allziji(df)

(4)输出结果

python的自变量选择实例分析

4、后退法

(1)算法思想

后退法与前进法相反,通常先用全部m个变量建立一个回归方程,然后计算在剔除任意一个变量后回归方程所对应的AIC统计量的值,选出最小的AIC值所对应的需要剔除的变量,不妨记作x1;然后,建立剔除变量x1后因变量y对剩余m-1个变量的回归方程,计算在该回归方程中再任意剔除一个变量后所得回归方程的AIC值,选出最小的AIC值并确定应该剔除的变量;依此类推,直至回归方程中剩余的p个变量中再任意剔除一个 AIC值都会增加,此时已经没有可以继续剔除的自变量,因此包含这p个变量的回归方程就是最终确定的方程。

(2)数据集情况

python的自变量选择实例分析

(3)代码部分

import pandas as pdimport numpy as npimport statsmodels.api as smimport statsmodels.formula.api as smf def backward(df):    all_bianliang = [i for i in range(0,9)]#备退因子    ceshi = [i for i in range(0,9)]#存放加入单个因子后的模型    zhengshi = [i for i in range(0,9)]#收集确定因子    data1 = pd.concat([df.iloc[:,i+1] for i in ceshi ],axis = 1)#结合所需因子    name = 'y~'+'+'.join(data1.columns)    result = smf.ols(name,data=df).fit()#建模    c0 = result.aic #最小aic    delete = []#已删元素    while(all_bianliang):        aic = []#存放aic         for i in all_bianliang:            ceshi = [i for i in zhengshi]            ceshi.remove(i)            data1 = pd.concat([df.iloc[:,i+1] for i in ceshi ],axis = 1)#结合所需因子            name = "y~"+("+".join(data1.columns))#组成公式            data = pd.concat([df['y'],data1],axis=1)#结合自变量和因变量            result = smf.ols(name,data=data).fit()#建模            aic.append(result.aic)#将所有aic存入         if min(aic)>c0:#aic已经达到最小            data1 = pd.concat([df.iloc[:,i+1] for i in zhengshi ],axis = 1)#结合所需因子            name = "y~"+("+".join(data1.columns))#组成公式            break        else:            zhengshi.remove(all_bianliang[aic.index(min(aic))])#查找最小的aic并将最小的因子存入正式的模型列表当中         c0 = min(aic)        delete.append(aic.index(min(aic)))        all_bianliang.remove(all_bianliang[delete[-1]])#删除已删因子     name = "y~"+("+".join(data1.columns))#组成公式    print("最优模型为:{},其aic为:{}".format(name,c0))    result = smf.ols(name,data=df).fit()#建模    print()    print(result.summary())
df = pd.read_csv("data3.1.csv",encoding='gbk')backward(df)

(4)结果展示

python的自变量选择实例分析

5、逐步回归

(1)算法思想

逐步回归的基本思想是有进有出。R语言中step()函数的具体做法是在给定了包含p个变量的初始模型后,计算初始模型的AIC值,并在此模型基础上分别剔除p个变量和添加剩余m-p个变量中的任一变量后的AIC值,然后选择最小的AIC值决定是否添加新变量或剔除已存在初始模型中的变量。如此反复进行,直至既不添加新变量也不剔除模型中已有的变量时所对应的AIC值最小,即可停止计算,并返回最终结果。

(2)数据集情况

python的自变量选择实例分析

(3)代码部分

import pandas as pdimport numpy as npimport statsmodels.api as smimport statsmodels.formula.api as smfdef zhubuhuigui(df):    forward = [i for i in range(0,4)]#备选因子    backward = []#备退因子    ceshi = []#存放加入单个因子后的模型    zhengshi = []#收集确定因子    delete = []#被删因子    while forward:        forward_aic = []#前进aic        backward_aic = []#后退aic        for i in forward:            ceshi = [j for j in zhengshi]            ceshi.append(i)            data1 = pd.concat([df.iloc[:,i] for i in ceshi ],axis = 1)#结合所需因子            name = "y~"+("+".join(data1.columns))#组成公式            data = pd.concat([df['y'],data1],axis=1)#结合自变量和因变量            result = smf.ols(name,data=data).fit()#建模            forward_aic.append(result.aic)#将所有aic存入        for i in backward:            if (len(backward)==1):                pass            else:                ceshi = [j for j in zhengshi]                ceshi.remove(i)                data1 = pd.concat([df.iloc[:,i] for i in ceshi ],axis = 1)#结合所需因子                name = "y~"+("+".join(data1.columns))#组成公式                data = pd.concat([df['y'],data1],axis=1)#结合自变量和因变量                result = smf.ols(name,data=data).fit()#建模                backward_aic.append(result.aic)#将所有aic存入        if backward_aic:            if forward_aic:                c0 = min(min(backward_aic),min(forward_aic))            else:                c0 = min(backward_aic)        else:            c0 = min(forward_aic)        if c0 in backward_aic:            zhengshi.remove(backward[backward_aic.index(c0)])            delete.append(backward_aic.index(c0))            backward.remove(backward[delete[-1]])#删除已删因子            forward.append(backward[delete[-1]])        else:            zhengshi.append(forward[forward_aic.index(c0)])#查找最小的aic并将最小的因子存入正式的模型列表当中            forward.remove(zhengshi[-1])#删除已有因子            backward.append(zhengshi[-1])     name = "y~"+("+".join(data1.columns))#组成公式    print("最优模型为:{},其aic为:{}".format(name,c0))    result = smf.ols(name,data=data).fit()#建模    print()    print(result.summary())
df = pd.read_csv("data5.5.csv",encoding='gbk')zhubuhuigui(df)

(4)结果展示

python的自变量选择实例分析

关于“python的自变量选择实例分析”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识,可以关注编程网行业资讯频道,小编每天都会为大家更新不同的知识点。

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯