回归模型中哑变量的相对重要性指数

doi:10.11772/j.issn.1001-9081.2017.11.3048

计算机应用 ›› 2017, Vol. 37 ›› Issue (11): 3048-3052.DOI: 10.11772/j.issn.1001-9081.2017.11.3048

• 第十六届中国机器学习会议(CCML 2017) • 上一篇下一篇

回归模型中哑变量的相对重要性指数

李海超^1,2, 王开军^1,2, 胡淼^1,2, 陈黎飞^1,2

1. 福建师范大学数学与信息学院, 福州 350007;
2. 福建省网络安全与密码技术重点实验室(福建师范大学), 福州 350007

收稿日期:2017-05-16 修回日期:2017-06-05 出版日期:2017-11-10 发布日期:2017-11-11
通讯作者: 李海超
作者简介:李海超(1990-),男,湖南临武人,硕士研究生,主要研究方向:机器学习、金融数据挖掘;王开军(1965-),男,福建福州人,副教授,博士,主要研究方向:机器学习、智能学习与推理、数据挖掘、模式识别;胡淼(1994-),男,安徽太和人,硕士研究生,主要研究方向:机器学习、数据挖掘;陈黎飞(1972-),男,福建福州人,教授,博士生导师,博士,主要研究方向:统计机器学习、数据挖掘、模式识别。
基金资助:
国家自然科学基金资助项目（61672157）；福建师范大学网络与信息安全关键理论和技术创新团队项目（IRTL1207）。

Relative importance index of dummy variables in regression model

LI Haichao^1,2, WANG Kaijun^1,2, HU Miao^1,2, CHEN Lifei^1,2

1. College of Mathematics and Informatics, Fujian Normal University, Fuzhou Fujian 350007, China;
2. Fujian Province Network Security and Cryptography Laboratory(Fujian Normal University), Fuzhou Fujian 350007, China

Received:2017-05-16 Revised:2017-06-05 Online:2017-11-10 Published:2017-11-11
Supported by:
This work is partially supported by the National Natural Science Foundation of China (61672157), the Project of Network and Information Security Key Theory and Technological Innovation Team in Fujian Normal University (IRTL1207).

摘要/Abstract

摘要： 为在回归模型中描述定性属性，通常需要引入哑变量。对含哑变量的回归方程，提出描述不同哑变量在回归方程中不同重要程度的方法。该方法分解出含哑变量的回归方程中哑变量部分和非哑变量部分的回归平方和，计算这两部分在该回归方程中所起作用的占比，将该占比设计为各哑变量在回归方程中的相对重要程度指数。在近10万笔的Lending Club和Prosper网络借贷数据集上，所进行的挖掘借款用途对借款成功率、信用等级对借款利率的影响程度的实验结果表明，与传统回归方程仅提供哑变量前的系数却不能展现其重要程度相比，所提方法展现出不同哑变量的不同重要程度，为定量分析回归方程中定性自变量对因变量的影响程度提供了重要的手段。

关键词: 定性属性, 回归方程, 哑变量, 指数

Abstract: To describe the qualitative attributes in the regression model, it is usually necessary to introduce dummy variables. For the regression equation with dummy variables, a method was proposed to describe the different importance of the different dummy variables in the regression equation. The sums of square due to regression with dummy variables were descomposed, including the sum of the dummy variable part and that of non-dummy variable part, and the proportions of the two parts was calculated in the regression equation, and the proportion was taken as the index of relative importance of every dummy variable in regression equations. In sets of Lending Club and Prosper network with nearly 100 thousand lending data, the experimental results about the influence of the purpose of loan on the borrowing success rate and the influence of credit grade on the borrowing rate show that compared with the traditional regression equation which only provides a dummy variable coefficient and cannot shows its importance, the proposed method can show the importance of different dummy variables, and provide an important means to quantitatively analyze the influence degree of qualitative independent variables on the dependent variable in the regression equation.

Key words: qualitative attribute, regression equation, dummy variable, index

中图分类号:

TP181

李海超, 王开军, 胡淼, 陈黎飞. 回归模型中哑变量的相对重要性指数[J]. 计算机应用, 2017, 37(11): 3048-3052.

LI Haichao, WANG Kaijun, HU Miao, CHEN Lifei. Relative importance index of dummy variables in regression model[J]. Journal of Computer Applications, 2017, 37(11): 3048-3052.

参考文献

[1] 张晓峒.计量经济分析[M].北京:经济科学出版社,2000:242-271.(ZHANG X T. Econometric Analysis[M]. Beijing:Economic Science Press, 2000:242-271.)
[2] 章晓英.虚拟变量在线性回归模型中的应用[J].重庆工业管理学院学报,1998(2):84-88.(ZHANG X Y. Application of dummy variable in linear regression model[J]. Journal of Chongqing Institute of Technology Management, 1998(2):84-88.)
[3] 吴小英,鞠颖. 基于最小二乘法的网络借贷模型[J].厦门大学学报(自然科学版),2012,51(6):980-984.(WU X Y, JU Y. Network borrowing model based on least squares method[J]. Journal of Xiamen University (Natural Science), 2012,51(6):980-984.)
[4] LEISTRITZ F L. Use of dummy variables in regression analysis[J]. Agricultural Economic Miscellaneous Report Technical, Agricultural Experiment Station, North Dakota State University, 1973, 4(43):434-442.
[5] HARDY M A. Regression with Dummy Variables[M]. Thousand Oaks, CA:SAGE Publications, 1993:96.
[6] GROTENHUIS M T, THIJS P. Dummy variables and their interactions in regression analysis:examples from research on body mass index[EB/OL].[2016-11-20]. http://www.ru.nl/publish/pages/780171/table1-4.pdf.
[7] USMAN A U, ABDULKADIR H S, TUKUR K. Application of dummy variables in multiple regression analysis[J].Recent Scientific Research, 2015,7(11):7440-7442.
[8] GVRTLER M, HIBBELN M, WINKELVOS C. The impact of the financial crisis and natural catastrophes on CAT bonds[J]. Journal of Risk and Insurance, 2016, 83(3):579-612.
[9] SKRIVANEK S. The use of dummy variables in regression analysis[EB/OL].[2016-11-20]. https://www.moresteam.com/WhitePapers/download/dummy-variables.pdf.
[10] SUITS D B. Use of dummy variables in regression equations[J]. Journal of the American Statistical Association, 1957, 52(280):548-551.
[11] HELLMANN T F, SCHURE P, VO D. Angels and venture capitalists:substitutes or complements?[J]. Social Science Electronic Publishing, 2015,11(7):1301-1307.
[12] SEARLE S R, UDELL J R. The use of regression on dummy variables in management research[J]. Management Science, 1970, 16(6):397-409.
[13] 杨希, 王苏生. 政府背景风险投资对创业企业经营绩效的影响[J]. 大连海事大学学报(社会科学版), 2016, 15(5):52-58.(YANG X, WANG S S. Influence of government background venture capital on the performance of startup enterprises[J]. Journal of Dalian Maritime University (Social Science Edition), 2016, 15(5):52-58.)
[14] 徐卫华, 何宜庆, 钟慧安. 金融深化、科技创新与产业结构优化升级——基于我国30个省市1997~2014年面板数据分析[J]. 金融与经济, 2017,15(3):54-64.(XU W H, HE Y Q, ZHONG H A. Financial deepening, technological innovation and industrial structure optimization and upgrading-based on panel data analysis of 30 provinces in China from 1997 to 2014[J]. Finance ans Economy, 2017,15(3):54-64.)
[15] POLISSAR L, DIEHR P. Regression analysis in health services research:the use of dummy variables[J]. Medical Care, 1982,20(9):959-966.
[16] 庞浩.计量经济学[M].北京:科学出版社,2015:190-199.(PANG H. Econometric Analysis[M]. Beijing:Science Press, 2015:190-199.)
[17] 高铁梅.计量经济分析方法与建模[M].北京:清华大学出版社,2009:76-79.(GAO T M. Econometric Analysis Method and Modeling[M].Beijing:Tsinghua University Press, 2009:76-79.)
[18] TIBSHIRANI R. Regression shrinkage and selection via the Lasso:a retrospective[J]. Journal of the Royal Statistical Society, 2011,73(3):273-282.
[19] MALLOWS C L. Some comments on CP[J]. Technometrics, 2000,42(1):87-94.

回归模型中哑变量的相对重要性指数

Relative importance index of dummy variables in regression model

PDF

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

[1]	娄梦莹, 王天景, 刘娅琴, 杨丰, 黄靖. 基于侧链连接卷积神经网络的手掌静脉图像识别[J]. 计算机应用, 2020, 40(12): 3673-3678.
[2]	刘颖, 王凤伟, 刘卫华, 艾达, 李芸, 杨凡超. 基于亮度分区模糊融合的高动态范围成像算法[J]. 计算机应用, 2020, 40(1): 233-238.
[3]	王巧玲, 乔非, 蒋友好. 基于聚合距离参数的改进K-means算法[J]. 计算机应用, 2019, 39(9): 2586-2590.
[4]	邵豪, 王伦文, 邓健. 基于H运算的动态网络重要节点识别方法[J]. 计算机应用, 2019, 39(9): 2669-2674.
[5]	吴婉婷, 朱燕, 黄定江. 在线投资组合选择的半指数梯度策略及实证分析[J]. 计算机应用, 2019, 39(8): 2462-2467.
[6]	刘玉珍, 蒋政权, 赵娜. 基于近邻三值模式和协作表示的三维掌纹识别[J]. 计算机应用, 2019, 39(6): 1690-1695.
[7]	葛江峡, 齐文韬, 兰林, 田雨, 朱和贵. 二维反三角超混沌系统及其在图像加密上的应用[J]. 计算机应用, 2019, 39(1): 239-244.
[8]	李平, 徐新, 董浩, 邓旭. 利用可分性指数的极化SAR图像特征选择与多层SVM分类[J]. 计算机应用, 2018, 38(1): 132-136.
[9]	张锐, 肖如良, 倪友聪, 杜欣. 逼真生成表格式数据的非时间属性关联模型[J]. 计算机应用, 2017, 37(9): 2684-2688.
[10]	邹林霖, 李学明, 李雪, 袁洪, 刘星. 基于异构星型网络分析的药物推荐改进算法HIC-MedRank[J]. 计算机应用, 2017, 37(8): 2368-2373.
[11]	詹毅, 李梦. 图像插值的一个变指数变分模型[J]. 计算机应用, 2017, 37(7): 2067-2070.
[12]	翟夕阳, 王晓丹, 雷蕾, 魏晓辉. 基于多类指数损失函数逐步添加模型的改进多分类AdaBoost算法[J]. 计算机应用, 2017, 37(6): 1692-1696.
[13]	董林佳, 强彦, 赵涓涓, 原杰, 赵文婷. 基于三维形状指数的肺结节自动检测方法[J]. 计算机应用, 2017, 37(11): 3182-3187.
[14]	于洪, 毛传凯. 基于k-means的自动三支决策聚类方法[J]. 计算机应用, 2016, 36(8): 2061-2065.
[15]	张敏龙, 王涛, 王旭平, 常红伟, 王放. 分步动态自回归核主元分析及其在故障诊断中应用[J]. 计算机应用, 2016, 36(5): 1464-1468.