面向高速数据流的集成分类器算法

doi:10.3724/SP.J.1087.2012.00629

计算机应用 ›› 2012, Vol. 32 ›› Issue (03): 629-633.DOI: 10.3724/SP.J.1087.2012.00629

面向高速数据流的集成分类器算法

李南^1,2,郭躬德^1,2

1.福建师范大学数学与计算机科学学院, 福州 350007;
2.福建师范大学网络安全与密码技术重点实验室,福州 350007

收稿日期:2011-08-30 修回日期:2011-11-20 发布日期:2012-03-01 出版日期:2012-03-01
通讯作者: 郭躬德
作者简介:李南(1987-),男,福建福州人,硕士研究生,主要研究方向:信息融合、数据流挖掘;郭躬德(1965-),男,福建龙岩人,教授,博士,主要研究方向:数据挖掘、机器学习。
基金资助:
国家自然科学基金资助项目(61070062,61175123);福建高校产学合作科技重大项目(2010H6007)。

Ensemble classification algorithm for high speed data stream

LI Nan^1,2, GUO Gong-de^1,2

1.School of Mathematics and Computer Science, Fujian Normal University,Fuzhou Fujian 350007,China;
2.Key Laboratory of Network Security and Cryptography, Fujian Normal University,Fuzhou Fujian 350007,China

Received:2011-08-30 Revised:2011-11-20 Online:2012-03-01 Published:2012-03-01
Contact: Gong-de GUO

摘要/Abstract

摘要： 数据流挖掘要求算法在占用少量内存空间的前提下快速地处理数据并且自适应概念漂移,据此提出一种面向高速数据流的集成分类器算法。该算法将原始数据流沿着时间轴划分为若干数据块后,在各个数据块上计算所有类别的中心点和对应的子空间;此后将各个数据块上每个类别的中心点和对应的子空间集成作为分类模型,并利用统计理论的相关知识检测概念漂移,动态地调整模型。实验结果表明,该方法能够在自适应数据流概念漂移的前提下对数据流进行快速的分类,并得到较好的分类效果。

关键词: 概念漂移, 数据流, 子空间, 分类, 集成

Abstract: The algorithms for mining data streams have to make fast response and adapt to the concept drift at the premise of light demands on memory resources. This paper proposed an ensemble classification algorithm for high speed data stream. After dividing a given data stream into several data blocks, it computed the central point and subspace for every class on each block which were integrated as the classification model. Meanwhile, it made use of statistics to detect concept drift. The experimental results show that the proposed method not only classifies the data stream fast and adapt to the concept drift with higher speed, but also has a better classification performance.

Key words: concept drift, data stream, subspace, classification, integration

中图分类号:

TP18
TP311

李南郭躬德. 面向高速数据流的集成分类器算法[J]. 计算机应用, 2012, 32(03): 629-633.

LI Nan GUO Gong-de. Ensemble classification algorithm for high speed data stream[J]. Journal of Computer Applications, 2012, 32(03): 629-633.

参考文献

[1]李燕,张玉红,胡学钢. 基于C4.5和NB混合模型的数据流分类算法[J].计算机科学,2010,37(12):138-142.

[2]WIDMER G, KUBAT M. Learning in the presence of concept drift and hidden contexts [J]. Machine Learning,1996,23(1):69-101.

[3]王黎明,周驰.自适应概念漂移的在线集成分类器[J].计算机工程,2011,37(5):74-76.

[4]TSYMBAL A, PECHENIZKIY M, CUNNINGHAM P, et al. Dynamic integration of classifiers for handling concept drift [J]. Information Fusion, 2008,9(1):56-68.

[5]HANSEN L K, SALAMON P. Neutral network ensemble [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1990, 12(10):993-1001.

[6]WANG H, FAN W, YU P. et al. Mining concept drifting data streams using ensemble classifiers [C]// KDD'03: Proceedings of the 9th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM Press, 2003:226-235.

[7]STREET W, KIM Y. A Streaming Ensemble Algorithm (SEA) for large-scale classification [C]// KDD'01: Proceedings of the 7th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM Press, 2001:77-382.

[8]胡学刚,潘春香.基于实例加权方法的概念漂移问题研究[J].计算机工程与应用, 2008, 44(21):188-190.

[9]欧阳震诤,罗建书,胡东敏,等.一种不平衡数据流集成分类模型[J].电子学报,2010,38(1):184-189.

[10]张健沛,杨显飞,杨静.面向高速数据流的偏倚抽样集合分类器[J].北京邮电大学学报,2010,33(4):44-48.

[11]JEREMY Z K, MARCUS A M. Dynamic weighted majority: An ensemble method for drifting concepts [J]. Journal of Machine Research, 2007,8(12):2755-2790.

[12]文益民,王耀南,张莹.基于可信多数投票的快速概念漂移检测[J].湖南大学学报,2010,37(6):36-40.

[13]关菁华,刘大有.一种挖掘概念漂移数据流的选择性集成算法[J].计算机科学,2010,37(1):204-207.

[14]COVER T M, HART P E. Nearest neighbor pattern classification [J]. IEEE Transactions on Information Theory,1967,13(1):21-27.

[15]YANG Q, WU X. 10 Challenging problems in data mining research [J]. Journary of Information Technology and Decision Making,2006,5(4):597-604.

[16]鲁婷,王浩,姚宏亮.一种基于中心文档的KNN中文文本分类算法[J].计算机工程与应用,2011,47(2):127-130.

[17]AGGARWAL C C, PROCOPIUC C, WOLF J L, et al. Fast algorithm for projected clustering [C]// SIGMOD'99: Proceedings of the 1999 ACM SIGMOD International Conference on Management of Data. New York: ACM Press,1999: 61-71.

[18]MOISE G, SANDER J, ESTER M. Robust projected clustering [J]. Knowledge Information System, 2008, 14(3)273-398.

[19]HUANG J Z, NG M K, RONG H, et al. Automated variable weighting in k-means type clustering [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2005, 27(5):657-668.

[20]盛骤,谢式千,潘承毅.概率论与数理统计[M].北京:高等教育出版社,2006:241-243.

[21]HULTEN G, SPENCER L, DOMINGOS P. Mining time-changing data streams [C]// KDD'01: Proceedings of the 7th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM Press, 2001:97-106.

面向高速数据流的集成分类器算法

Ensemble classification algorithm for high speed data stream

PDF

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

[1]	毛铭泽, 曹芮浩, 闫春钢. 基于权值多样性的半监督分类算法[J]. 计算机应用, 2021, 41(9): 2473-2480.
[2]	宋中山, 梁家锐, 郑禄, 刘振宇, 帖军. 基于双向门控尺度特征融合的遥感场景分类[J]. 计算机应用, 2021, 41(9): 2726-2735.
[3]	胡天杰, 胡文军, 王士同. 分布熵惩罚的支持向量数据描述[J]. 计算机应用, 2021, 41(8): 2212-2218.
[4]	李蒙蒙, 秦伟, 刘艺, 刁兴春. 结合头脑风暴优化的混合蚁群优化算法[J]. 计算机应用, 2021, 41(8): 2412-2417.
[5]	朱亮, 徐华, 崔鑫. 基于基分类器系数和多样性的改进AdaBoost算法[J]. 计算机应用, 2021, 41(8): 2225-2231.
[6]	张洋, 江铭虎. 基于注意力机制的文本作者识别[J]. 计算机应用, 2021, 41(7): 1897-1901.
[7]	尹春勇, 张帼杰. 面向分布式漂移数据流的集成分类模型[J]. 计算机应用, 2021, 41(7): 1947-1955.
[8]	张玲, 邝继顺. 环形链轮询复用测试端口的高效测试结构[J]. 计算机应用, 2021, 41(7): 2156-2160.
[9]	肖振远, 王逸涵, 罗建桥, 熊鹰, 李柏林. 基于部分加权损失函数的RefineDet[J]. 计算机应用, 2021, 41(7): 1928-1932.
[10]	谢雨, 蒋瑜, 龙超奇. 基于随机子空间的扩展隔离林算法[J]. 计算机应用, 2021, 41(6): 1679-1685.
[11]	章惠, 张娜娜, 黄俊. 优化LeNet-5网络的多角度头部姿态估计方法[J]. 计算机应用, 2021, 41(6): 1667-1672.
[12]	史杨潇, 章军, 陈鹏, 王兵. 基于轻量级网络的钢铁表面缺陷分类[J]. 计算机应用, 2021, 41(6): 1836-1841.
[13]	贾鹤鸣, 郎春博, 姜子超. 基于轻量级卷积神经网络的植物叶片病害识别方法[J]. 计算机应用, 2021, 41(6): 1812-1819.
[14]	陆鑫伟, 余鹏飞, 李海燕, 李红松, 丁文谦. 基于注意力自身线性融合的弱监督细粒度图像分类算法[J]. 计算机应用, 2021, 41(5): 1319-1325.
[15]	韦铭燕, 陈彧, 张亮. 针对混合变量优化问题的协同进化蚁群优化算法[J]. 计算机应用, 2021, 41(5): 1412-1418.