基于特征选择和TrAdaBoost的跨项目缺陷预测方法

doi:10.11772/j.issn.1001-9081.2021050867

《计算机应用》唯一官方网站 ›› 2022, Vol. 42 ›› Issue (5): 1554-1562.DOI: 10.11772/j.issn.1001-9081.2021050867

基于特征选择和TrAdaBoost的跨项目缺陷预测方法

李莉(), 石可欣, 任振康

东北林业大学信息与计算机工程学院，哈尔滨 150040

收稿日期:2021-05-25 修回日期:2022-01-24 接受日期:2022-02-18 发布日期:2022-03-08 出版日期:2022-05-10
通讯作者: 李莉
作者简介:李莉（1977—），女，河南孟州人，副教授，博士，CCF会员，主要研究方向：先进软件工程、区块链、群智能优化、大型分布式计算 lli@nefu.edu.cn
石可欣（1997—），女，山东聊城人，硕士研究生，主要研究方向：软件缺陷预测
任振康（1996—），男，山东青岛人，硕士研究生，主要研究方向：软件缺陷预测。

Cross-project defect prediction method based on feature selection and TrAdaBoost

Li LI(), Kexin SHI, Zhenkang REN

College of Information and Computer Engineering，Northeast Forestry University，Harbin Heilongjiang 150040，China

Received:2021-05-25 Revised:2022-01-24 Accepted:2022-02-18 Online:2022-03-08 Published:2022-05-10
Contact: Li LI
About author:LI Li， born in 1977， Ph. D.， associate professor. Her research interests include advanced software engineering， blockchain， swarm intelligence optimization， large-scale distributed computing.
SHI Kexin， born in 1997， M. S. candidate. Her research interests include software defect prediction.
REN Zhenkang， born in 1996， M. S. candidate. His research interests include software defect prediction.

摘要/Abstract

摘要：

跨项目软件缺陷预测可以解决预测项目中训练数据较少的问题，然而源项目和目标项目通常会有较大的数据分布差异，这降低了预测性能。针对该问题，提出了一种基于特征选择和TrAdaBoost的跨项目缺陷预测方法（CPDP-FSTr）。首先，在特征选择阶段，采用核主成分分析法（KPCA）删除源项目中的冗余数据；然后，根据源项目和目标项目的属性特征分布，按距离选出与目标项目分布最接近的候选源项目数据；最后，在实例迁移阶段，通过采用评估因子改进的TrAdaBoost方法，在源项目中找出与目标项目中少量有标签实例分布相近的实例，并建立缺陷预测模型。以F1作为评价指标，与基于特征聚类和TrAdaBoost的跨项目软件缺陷预测（FeCTrA）方法以及基于多核集成学习的跨项目软件缺陷预测（CMKEL）方法相比，CPDP-FSTr的预测性能在AEEEM数据集上分别提高了5.84%、105.42%，在NASA数据集上分别提高了5.25%、85.97%，且其两过程特征选择优于单一特征选择过程。实验结果表明，当源项目特征选择比例和目标项目有类标实例比例分别为60%、20%时，所提CPDP-FSTr能取得较好的预测性能。

关键词: 跨项目缺陷预测, 特征选择, 核主成分分析, 实例迁移, TrAdaBoost

Abstract:

Cross-project software defect prediction can solve the problem of few training data in prediction projects. However， the source project and the target project usually have the large distribution difference， which reduces the prediction performance. In order to solve the problem， a new Cross-Project Defect Prediction method based on Feature Selection and TrAdaBoost （CPDP-FSTr） was proposed. Firstly， in the feature selection stage， Kernel Principal Component Analysis （KPCA） was used to delete redundant data in the source project. Then， according to the attribute feature distribution of the source project and the target project， the candidate source project data closest to the target project distribution were selected according to the distance. Finally， in the instance transfer stage， the TrAdaBoost method improved by the evaluation factor was used to find out the instances in the source project which were similar to the distribution of a few labeled instances in the target project， and establish a defect prediction model. Using F1 as the evaluation index， compared with the methods such as cross-project software defect prediction using Feature Clustering and TrAdaBoost （FeCTrA）， Cross-project software defect prediction based on Multiple Kernel Ensemble Learning （CMKEL）， the proposed CPDP-FSTr had the prediction performance improved by 5.84% and 105.42% respectively on AEEEM dataset， enhanced by 5.25% and 85.97% respectively on NASA dataset， and its two-process feature selection is better than the single feature selection process. Experimental results show that the proposed CPDP-FSTr can achieve better prediction performance when the source project feature selection proportion and the target project labeled instance proportion are 60% and 20% respectively.

Key words: cross-project defect prediction, feature selection, Kernel Principal Component Analysis (KPCA), instance transfer, TrAdaBoost

中图分类号:

TP311.5

李莉, 石可欣, 任振康. 基于特征选择和TrAdaBoost的跨项目缺陷预测方法[J]. 计算机应用, 2022, 42(5): 1554-1562.

Li LI, Kexin SHI, Zhenkang REN. Cross-project defect prediction method based on feature selection and TrAdaBoost[J]. Journal of Computer Applications, 2022, 42(5): 1554-1562.

图/表 14

参考文献 19

1	宫丽娜，姜淑娟，姜丽.软件缺陷预测技术研究进展［J］.软件学报，2019，30（10）：3090-3114. 10.13328/j.cnki.jos.005790
	GONG L N， JIANG S J， JIANG L. Research progress of software defect prediction ［J］. Journal of Software， 2019， 30（10）： 3090-3114. 10.13328/j.cnki.jos.005790
2	HALL T， BEECHAM S， BOWES D， et al. A systematic literature review on fault prediction performance in software engineering ［J］. IEEE Transactions on Software Engineering， 2012， 38（6）： 1276-1304. 10.1109/tse.2011.103
3	GONG L N， JIANG S J， BO L L， et al. A novel class-imbalance learning approach for both within-project and cross-project defect prediction ［J］. IEEE Transactions on Reliability， 2020， 69（1）： 40-54. 10.1109/tr.2019.2895462
4	陈翔，王莉萍，顾庆，等.跨项目软件缺陷预测方法研究综述［J］.计算机学报，2018，41（1）：254-274. 10.11897/SP.J.1016.2018.00254
	CHEN X， WANG L P， GU Q， et al. A survey on cross-project software defect prediction methods ［J］. Chinese Journal of Computers， 2018， 41（1）： 254-274. 10.11897/SP.J.1016.2018.00254
5	YUAN Z D， CHEN X， CUI Z Q， et al. ALTRA： cross-project software defect prediction via active learning and TrAdaBoost ［J］. IEEE Access， 2020， 8： 30037-30049. 10.1109/access.2020.2972644
6	PRABHA C L， SHIVAKUMAR N. Software defect prediction using machine learning techniques ［C］// Proceedings of the 2020 4th International Conference on Trends in Electronics and Informatics. Piscataway： IEEE， 2020： 728-733. 10.1109/icoei48184.2020.9142909
7	SAIFUDIN A， TRISETYARSO A， SUPARTA W， et al. Feature selection in cross-project software defect prediction ［J］. Journal of Physics： Conference Series， 2019， 1569（2）： Article No.022001. 10.1088/1742-6596/1569/2/022001
8	吴琦.基于迁移学习的跨项目软件缺陷预测［D］.长春：吉林大学，2018：12-13.
	WU Q. Cross-project defect prediction based on transfer learning ［D］. Changchun： Jilin University， 2018： 12-13.
9	ZIMMERMANN R， NAGAPPAN N， GALL H， et al. Cross-project defect prediction： a large scale experiment on data vs. domain vs. process ［C］// Proceeding of the 2009 7th Joint Meeting of the European Software Engineering Conference and the ACM SIGSOFT Symposium on the Foundations of Software Engineering. New York： ACM， 2009： 91-100. 10.1145/1595696.1595713
10	HE Z M， SHU F D， YANG Y， et al. An investigation on the feasibility of cross-project defect prediction ［J］. Automated Software Engineering， 2012， 19（2）： 167-199. 10.1007/s10515-011-0090-3
11	TURHAN B. On the dataset shift problem in software engineering prediction models ［J］. Empirical Software Engineering， 2012， 17（1/2）： 62-74. 10.1007/s10664-011-9182-8
12	PETERS F， MENZIES T， MARCUS A. Better cross company defect prediction ［C］// Proceedings of the 2013 10th Working Conference on Mining Software Repositories. Piscataway： IEEE， 2013： 409-418. 10.1109/msr.2013.6624057
13	NAM J， PAM S J， KIM S. Transfer defect learning ［C］// Proceedings of the 2013 35th International Conference on Software Engineering， Piscataway： IEEE， 2013： 382-391. 10.1109/icse.2013.6606584
14	PANICHELLA A， OLIVETO R， DE LUCIA A. Cross-project defect prediction models： L’Union fait la force ［C］// Proceedings of the 2014 Software Evolution Week — IEEE Conference on Software Maintenance， Reengineering， and Reverse Engineering. Piscataway： IEEE， 2014： 164-173. 10.1109/csmr-wcre.2014.6747166
15	黄琳，荆晓远，董西伟.基于多核集成学习的跨项目软件缺陷预测［J］.计算机技术与发展，2019，29（6）：27-31. 10.3969/j.issn.1673-629X.2019.06.006
	HUANG L， JING X Y， DONG X W， Cross-project software defect prediction based on multiple kernel ensemble learning ［J］. Computer Technology and Development， 2019， 29（6）： 27-31. 10.3969/j.issn.1673-629X.2019.06.006
16	刘芳，高兴，周冰，等.基于PCA-ISVM的软件缺陷预测模型［J］.计算机仿真，2014，31（3）：397-401. 10.3969/j.issn.1006-9348.2014.03.090
	LIU F， GAO X， ZHOU B， et al. Software defect prediction model based on PCA-ISVM ［J］. Computer Simulation， 2014， 31（3）： 397-401. 10.3969/j.issn.1006-9348.2014.03.090
17	邱少健.基于迁移学习的跨项目软件缺陷预测关键技术研究［D］.广州：华南理工大学，2019：40-60.
	QIU S J. Research on cross-project software defect prediction by transfer learning ［D］. Guangzhou： South China University of Technology， 2019： 40-60.
18	倪超，陈翔，刘望舒，等.基于特征迁移和实例迁移的跨项目缺陷预测方法［J］.软件学报，2019，30（5）：1308-1329.
	NI C， CHEN X， LIU W S， et al. Cross-project defect prediction method based on feature transfer and instance transfer ［J］. Journal of Software， 2019， 30（5）： 1308-1329.
19	SCHÖLKOPF B， SMOLA A， MÜLLER K R. Kernel principal component analysis ［C］// Proceedings of the 1997 International Conference on Artificial Neural Networks， LNCS 1327. Berlin： Springer， 1997： 583-588.

项目	特征数	样本数	缺陷样本数	缺陷样本比例/%
EQ	61	324	129	39.81
JDT	61	997	206	20.66
LC	61	691	64	9.26
ML	61	1 842	245	13.16
PDE	61	1 497	209	13.96

项目	特征数	样本数	缺陷样本数	缺陷样本比例/%
EQ	61	324	129	39.81
JDT	61	997	206	20.66
LC	61	691	64	9.26
ML	61	1 842	245	13.16
PDE	61	1 497	209	13.96

项目	特征数	样本数	缺陷样本数	缺陷样本比例/%
CM1	37	327	42	12.84
JM1	37	7 720	1 612	20.88
KC1	37	1 163	294	25.28
PC1	37	705	61	8.65
PC3	37	1 077	134	12.44

项目	特征数	样本数	缺陷样本数	缺陷样本比例/%
CM1	37	327	42	12.84
JM1	37	7 720	1 612	20.88
KC1	37	1 163	294	25.28
PC1	37	705	61	8.65
PC3	37	1 077	134	12.44

源项目→目标项目	CPDP-FSTr	CPDP-FSNTr	FeCTrA	CMKEL
AVG	0.834	0.807	0.788	0.406
PDE→EQ	0.749	0.689	0.682	0.382
LC→EQ	0.742	0.697	0.793	0.393
ML→EQ	0.757	0.709	0.698	0.402
JDT→EQ	0.736	0.683	0.696	0.354
PDE→JDT	0.809	0.783	0.805	0.496
LC→JDT	0.800	0.789	0.789	0.472
ML→JDT	0.819	0.782	0.781	0.493
EQ→JDT	0.802	0.795	0.807	0.461
PDE→LC	0.886	0.880	0.826	0.365
ML→LC	0.885	0.885	0.789	0.364
EQ→LC	0.888	0.888	0.794	0.371
JDT→LC	0.886	0.882	0.823	0.377
PDE→ML	0.868	0.835	0.803	0.472
LC→ML	0.871	0.842	0.801	0.463
EQ→ML	0.878	0.814	0.812	0.468
JDT→ML	0.867	0.838	0.837	0.465
LC→PDE	0.866	0.820	0.809	0.344
ML→PDE	0.862	0.851	0.813	0.338
EQ→PDE	0.852	0.835	0.766	0.319
JDT→PDE	0.859	0.835	0.841	0.330

基于特征选择和TrAdaBoost的跨项目缺陷预测方法

Cross-project defect prediction method based on feature selection and TrAdaBoost

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 14

参考文献 19

相关文章 15

编辑推荐

Metrics

源项目→目标项目	CPDP-FSTr	CPDP-FSNTr	FeCTrA	CMKEL
AVG	0.822	0.811	0.781	0.442
JM1→CM1	0.820	0.822	0.821	0.352
KC1→CM1	0.815	0.805	0.807	0.405
PC1→CM1	0.825	0.820	0.818	0.468
PC3→CM1	0.828	0.818	0.815	0.507
CM1→JM1	0.788	0.759	0.721	0.463
KC1→JM1	0.778	0.753	0.698	0.457
PC1→JM1	0.786	0.767	0.737	0.473
PC3→JM1	0.787	0.770	0.280	0.466
CM1→KC1	0.731	0.741	0.693	0.457
JM1→KC1	0.741	0.740	0.731	0.363
PC1→KC1	0.786	0.769	0.768	0.463
PC3→KC1	0.782	0.733	0.776	0.481
CM1→PC1	0.906	0.886	0.887	0.472
JM1→PC1	0.906	0.884	0.884	0.477
KC1→PC1	0.906	0.906	0.892	0.465
PC3→PC1	0.898	0.883	0.886	0.443
CM1→PC3	0.869	0.852	0.855	0.378
JM1→PC3	0.851	0.849	0.851	0.403
KC1→PC3	0.866	0.847	0.848	0.421
PC1→PC3	0.850	0.848	0.847	0.417

项目	CPDP-FSTr	FSTr-KP	FSTr-D
AVG	0.84	0.75	0.81
EQ	0.75	0.64	0.73
JDT	0.81	0.78	0.79
LC	0.89	0.77	0.88
ML	0.87	0.80	0.82
PDE	0.86	0.77	0.83

项目	CPDP-FSTr	FSTr-KP	FSTr-D
AVG	0.82	0.79	0.80
CM1	0.82	0.82	0.81
JM1	0.78	0.71	0.71
KC1	0.76	0.71	0.74
PC1	0.90	0.88	0.89
PC3	0.86	0.85	0.85

[1]	陈虹, 齐兵, 金海波, 武聪, 张立昂. 融合1D-CNN与BiGRU的类不平衡流量异常检测[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2493-2499.
[2]	雷明珠, 王浩, 贾蓉, 白琳, 潘晓英. 基于特征间关系合成少数类样本的过采样算法[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1428-1436.
[3]	高麟, 周宇, 邝得互. 进化双层自适应局部特征选择[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1408-1414.
[4]	徐大鹏, 侯新民. 基于网络结构设计的图神经网络特征选择方法[J]. 《计算机应用》唯一官方网站, 2024, 44(3): 663-670.
[5]	孟圣洁, 于万钧, 陈颖. 最大相关和最大差异的高维数据特征选择算法[J]. 《计算机应用》唯一官方网站, 2024, 44(3): 767-771.
[6]	孙林, 刘梦含. 基于自适应布谷鸟优化特征选择的K-means聚类[J]. 《计算机应用》唯一官方网站, 2024, 44(3): 831-841.
[7]	刘晶鑫, 黄雯静, 徐亮胜, 黄冲, 吴建生. 字典学习与样本关联保持结合的无监督特征选择模型[J]. 《计算机应用》唯一官方网站, 2024, 44(12): 3766-3775.
[8]	何添, 沈宗鑫, 黄倩倩, 黄雁勇. 基于自适应学习的多视图无监督特征选择方法[J]. 《计算机应用》唯一官方网站, 2023, 43(9): 2657-2664.
[9]	孙林, 黄金旭, 徐久成. 基于邻域容差互信息和鲸鱼优化算法的非平衡数据特征选择[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1842-1854.
[10]	于振华, 刘争气, 刘颖, 郭城. 基于自适应混合粒子群优化的软件缺陷预测特征选择方法[J]. 《计算机应用》唯一官方网站, 2023, 43(4): 1206-1213.
[11]	孙林, 马天娇, 薛占熬. 基于Fisher score与模糊邻域熵的多标记特征选择算法[J]. 《计算机应用》唯一官方网站, 2023, 43(12): 3779-3789.
[12]	徐精诚, 陈学斌, 董燕灵, 杨佳. 融合特征选择的随机森林DDoS攻击检测[J]. 《计算机应用》唯一官方网站, 2023, 43(11): 3497-3503.
[13]	马磊, 罗川, 李天瑞, 陈红梅. 基于模糊粗糙集的无监督动态特征选择算法[J]. 《计算机应用》唯一官方网站, 2023, 43(10): 3121-3128.
[14]	陈亮, 汤显峰. 改进正余弦算法优化特征选择及数据分类[J]. 《计算机应用》唯一官方网站, 2022, 42(6): 1852-1861.
[15]	赵静, 韩京宇, 钱龙, 毛毅. 基于改进的RAKEL算法的心电图诊断分类[J]. 《计算机应用》唯一官方网站, 2022, 42(6): 1892-1897.