基于边缘异常候选集的迭代式主动多元时序异常检测算法

doi:10.11772/j.issn.1001-9081.2023050726

《计算机应用》唯一官方网站 ›› 2024, Vol. 44 ›› Issue (5): 1458-1463.DOI: 10.11772/j.issn.1001-9081.2023050726

• 2023年中国计算机学会人工智能会议(CCFAI 2023) • 上一篇

基于边缘异常候选集的迭代式主动多元时序异常检测算法

孟凡¹^,², 杨群力¹, 霍静²(), 王新宽³

^1.江苏省战略与发展研究中心公共信用信息中心, 南京 210036
^2.计算机软件新技术国家重点实验室(南京大学), 南京 210093
^3.中国移动江苏公司扬州分公司, 江苏扬州 225012

收稿日期:2023-06-06 修回日期:2023-06-20 接受日期:2023-07-04 发布日期:2023-08-01 出版日期:2024-05-10
通讯作者: 霍静
作者简介:孟凡（1988—），男，江苏南京人，副研究员，高级工程师，博士，CCF会员，主要研究方向：机器学习、大数据、无监督学习
杨群力（1972—），男，江苏泰州人，高级工程师，硕士，主要研究方向：信用体系建设、社会经济发展
王新宽（1980—），男，山东枣庄人，正高级工程师，硕士，主要研究方向：网络与信息安全、算力网络。
第一联系人：霍静（1989—），女，江苏苏州人，副教授，博士，主要研究方向：机器学习、计算机视觉
基金资助:
江苏省社会信用体系建设专项资金资助项目(JSZC?G2018-393);南京大学计算机软件新技术国家重点实验室资助项目(KFKT2022B27)

EraseMTS： iterative active multivariable time series anomaly detection algorithm based on margin anomaly candidate set

Fan MENG¹^,², Qunli YANG¹, Jing HUO²(), Xinkuan WANG³

^1.Public Credit Information Center，Jiangsu Strategy and Development Research Center，Nanjing Jiangsu 210036，China
^2.State Key Laboratory for Novel Software Technology （Nanjing University），Nanjing Jiangsu 210093，China
^3.Yangzhou Branch，Chian Mobile Jiangsu Company，Yangzhou Jiangsu 225012，China

Received:2023-06-06 Revised:2023-06-20 Accepted:2023-07-04 Online:2023-08-01 Published:2024-05-10
Contact: Jing HUO
About author:MENG Fan， born in 1988， Ph. D.， senior engineer. His research interests include machine learning， big data， unsupervised learning.
YANG Qunli， born in 1972， M. S.， senior engineer. His research interests include credit system construction， social economic development.
WANG Xinkuan， born in 1980， M. S.， professorate senior engineer. His research interests include network and information security， compute first networking.
Supported by:
Jiangsu Province Social Credit System Construction Special Fund(JSZC-G2018-393);Open Project of State Key Laboratory of Novel Software Technology （Nanjing University）(KFKT2022B27)

摘要/Abstract

摘要：

无监督多元时间序列（MTS）异常检测方法因标注成本低而广受关注，但传统方法一般基于两个假设：1）服从独立同分布（IID）假设，即假设时序数据样本之间和属性之间不存在依赖关系；2）高净度启动假设，即假设可拥有完全正常态的时序数据集进行训练。以上假设在实际场景中往往难以满足。为此，提出一种基于边缘异常候选集的迭代式主动多元时序异常检测算法（EraseMTS）。首先，利用一种多粒度时序特征学习方法捕捉子序列内和子序列间的依赖关系，并在此基础上对原始多元时间序列进行再表示；其次，提出一种利用边缘异常候选集的选择策略，以子序列异常得分为基础，同时考虑异常程度，选择待人工交互的范围；最后，提出一种迭代式子序列权重更新机制，将异常反馈信息融入无监督异常检测模型的训练过程中，通过迭代方式不断优化初始训练模型性能。在UCR时间序列库中的4个数据集和1个人工合成数据集上对所提算法的检测性能、可扩展性和稳定性进行验证，实验结果表明该算法能够有效且稳定运行。

关键词: 异常检测, 多元时间序列, 权重更新, 多粒度表示, 主动学习

Abstract:

Unsupervised anomaly detection methods for Multivariable Time Series （MTS） have attracted wide attention due to their low labeling costs. However， traditional unsupervised anomaly detection methods are often based on two assumptions： 1） Independent and Identical Distribution （IID） assumption， i.e.， there is no dependency between samples and attributes of MTS. 2） High-purity starting assumption， i.e.， it is assumed that a completely normal time series should be used for training. The above assumptions are often difficult to satisfy in practical scenarios. To address this problem， an iterative active MTS anomaly detection algorithm based on margin anomaly candidate set （called EraseMTS） was proposed. Firstly， a multi-granularity representation learning method was utilized to capture the dependencies within subsequences and between subsequences， and then represent the original MTS. Secondly， a selection strategy was proposed to interact with experts based on margin anomaly candidate set， which was determined by the subsequence anomaly score and the uncertainty of its anomaly degree. Finally， an iterative subsequence weight update mechanism was designed to integrate the abnormal feedback information into the training process of the unsupervised anomaly detection model. The performance of the initial training model was continuously optimized through iteration. The proposed algorithm was verified in detection performance， scalability， and stability respectively on four datasets in UCR time series archive and one synthetic dataset. Experimental results show that the proposed algorithm can run effectively and stably.

Key words: anomaly detection, Multivariable Time Series (MTS), weight update, multi-granularity representation, active learning

中图分类号:

TP391

孟凡, 杨群力, 霍静, 王新宽. 基于边缘异常候选集的迭代式主动多元时序异常检测算法[J]. 计算机应用, 2024, 44(5): 1458-1463.

Fan MENG, Qunli YANG, Jing HUO, Xinkuan WANG. EraseMTS： iterative active multivariable time series anomaly detection algorithm based on margin anomaly candidate set[J]. Journal of Computer Applications, 2024, 44(5): 1458-1463.

图/表 6

参考文献 21

1	GUPTA M， GAO J， AGGARWAL C C， et al. Outlier detection for temporal data： a survey［J］. IEEE Transactions on Knowledge and Data Engineering， 2014， 26（9）： 2250-2267. 10.1109/tkde.2013.184
2	LUO Y， XIAO Y， CHENG L， et al. Deep learning-based anomaly detection in cyber-physical systems： progress and opportunities［J］. ACM Computing Surveys， 2021， 54（5）： No. 106. 10.1145/3453155
3	GARG A， ZHANG W， SAMARAN J， et al. An evaluation of anomaly detection and diagnosis in multivariate time series［J］. IEEE Transactions on Neural Networks and Learning Systems， 2022， 33（6）： 2508-2517. 10.1109/tnnls.2021.3105827
4	BLÁZQUEZ-GAECIÁ A， CONDE A， MORI U， et al. A review on outlier/anomaly detection in time series data［J］. ACM Computing Surveys， 2021， 54（3）： No. 56. 10.1145/3444690
5	SCHMIDL S， WENIG P， PAPENBROCK T. Anomaly detection in time series： a comprehensive evaluation［J］. Proceedings of the VLDB Endowment， 2022， 15（9）： 1779-1797. 10.14778/3538598.3538602
6	HYNDMAN R J， ATHANASOPOULOS G. Forecasting： Principles and Practice［M］. Melbourne， Australia： OTexts， 2018.
7	MALHOTRA P， VIG L， SHROFF G M， et al. Long short term memory networks for anomaly detection in time series［C］// Proceedings of the 23rd European Symposium on Artificial Neural Networks. ［S.l.］： ESANN， 2015： 89-94.
8	GREIS R， REIS T， NGUYEN C D. Comparing prediction methods in anomaly detection： an industrial evaluation［C/OL］// Proceedings of the 2018 Workshop on Mining and Learning from Time Series. New York： ACM， 2018 ［2023-05-01］. .
9	BREUNIG M M， H-P KRIEGEL， NG R T， et al. LOF： identifying density-based local outliers［J］. ACM SIGMOD Record， 2000， 29（2）： 93-104. 10.1145/335191.335388
10	MENG F， GAO Y， WANG H， et al. TSLOD： a coupled generalized subsequence local outlier detection model for multivariate time series［J］. International Journal of Machine Learning and Cybernetics， 2022， 13： 1493-1504. 10.1007/s13042-021-01462-x
11	BONIOL P， PAPARRIZOS J， PALPANAS T， et al. SAND： streaming subsequence anomaly detection［J］. Proceedings of the VLDB Endowment， 2021， 14（10）： 1717-1729. 10.14778/3467861.3467863
12	LI Z， ZHAO Y， BOTTA N， et al. COPOD： copula-based outlier detection［C］// Proceedings of the 2020 IEEE International Conference on Data Mining. Piscataway： IEEE， 2020： 1118-1123. 10.1109/icdm50108.2020.00135
13	SIFFER A， P-A FOUQUE， TERMIER A， et al. Anomaly detection in streams with extreme value theory［C］// Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2017： 1067-1075. 10.1145/3097983.3098144
14	PANG G， SHEN C， CAO L， et al. Deep learning for anomaly detection： a review［J］. ACM Computing Surveys， 2021， 54（2）： No. 38. 10.1145/3439950
15	MALHOTRA P， RAMAKRISHNAN A， ANAND G， et al. LSTM-based encoder-decoder for multi-sensor anomaly detection［EB/OL］. ［2023-05-01］. .
16	CHAUHAN S， VIG L. Anomaly detection in ECG time signals via deep long short-term memory networks［C］// Proceedings of the 2015 IEEE International Conference on Data Science and Advanced Analytics. Washington， DC： IEEE Computational Intelligence Society， 2015： 1-7. 10.1109/dsaa.2015.7344872
17	MENG F， YANG Q， HE Z， et al. GUARD： multigranularity-based unsupervised anomaly detection algorithm for multivariate time series［C］// Proceedings of the 2022 IEEE 8th International Conference on Cloud Computing and Intelligent Systems. Piscataway： IEEE， 2022： 25-30. 10.1109/ccis57298.2022.10016429
18	ZONG B， SONG Q， MIN M R， et al. Deep autoencoding Gaussian mixture model for unsupervised anomaly detection［C/OL］// Proceedings of the 2018 International Conference on Learning Representations. ［S.l.］： ICRL， 2018 ［2023-05-01］. .
19	CHEN X， DENG L， HUANG F， et al. DAEMON： unsupervised anomaly detection and interpretation for multivariate time series［C］// Proceedings of the 2021 IEEE 37th International Conference on Data Engineering. Washington， DC： IEEE Computer Society， 2021： 2225-2230. 10.1109/icde51399.2021.00228
20	AUDIBERT J， MICHIARDI P， GUYARD F， et al. USAD： unsupervised anomaly detection on multivariate time series［C］// Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. New York： ACM， 2020： 3395-3404. 10.1145/3394486.3403392
21	DAU H A， BAGNALL A， KAMGAR K， et al. The UCR time series archive［J］. IEEE/CAA Journal of Automatica Sinica， 2019， 6（6）： 1293-1305. 10.1109/jas.2019.1911747

数据集	属性数	训练集		测试集		异常占比/%
数据集	属性数	正常数	异常数	正常数	异常数	异常占比/%
Synthetic data	50	9 400	600	940	60	6.0
FordA	500	1 755	113	639	42	6.2
ECG5000	140	4 217	270	292	20	6.4
StarLightCurves	1 024	4 754	304	573	37	6.1
Wafer	152	5 499	351	903	58	6.0

数据集	属性数	训练集		测试集		异常占比/%
数据集	属性数	正常数	异常数	正常数	异常数	异常占比/%
Synthetic data	50	9 400	600	940	60	6.0
FordA	500	1 755	113	639	42	6.2
ECG5000	140	4 217	270	292	20	6.4
StarLightCurves	1 024	4 754	304	573	37	6.1
Wafer	152	5 499	351	903	58	6.0

算法	FordA			ECG5000			StarLightCurves			Wafer
算法	精确度	召回率	F1值	精确度	召回率	F1值	精确度	召回率	F1值	精确度	召回率	F1值
LOF	0.58	0.61	0.59	0.62	0.63	0.62	0.57	0.69	0.62	0.71	0.62	0.66
AE	0.62	0.75	0.68	0.71	0.75	0.73	0.62	0.81	0.70	0.76	0.88	0.82
LSTM-AD	0.68	0.82	0.74	0.82	0.63	0.71	0.72	0.82	0.77	0.83	0.81	0.82
GUARD	0.73	0.93	0.82	0.88	0.77	0.82	0.68	0.79	0.73	0.84	0.88	0.86
TSLOD	0.69	0.88	0.77	0.86	0.88	0.87	0.75	0.81	0.78	0.87	0.92	0.89
EraseMTS	0.78	0.89	0.83	0.91	0.86	0.88	0.81	0.88	0.84	0.92	0.90	0.91

算法	FordA			ECG5000			StarLightCurves			Wafer
算法	精确度	召回率	F1值	精确度	召回率	F1值	精确度	召回率	F1值	精确度	召回率	F1值
LOF	0.58	0.61	0.59	0.62	0.63	0.62	0.57	0.69	0.62	0.71	0.62	0.66
AE	0.62	0.75	0.68	0.71	0.75	0.73	0.62	0.81	0.70	0.76	0.88	0.82
LSTM-AD	0.68	0.82	0.74	0.82	0.63	0.71	0.72	0.82	0.77	0.83	0.81	0.82
GUARD	0.73	0.93	0.82	0.88	0.77	0.82	0.68	0.79	0.73	0.84	0.88	0.86
TSLOD	0.69	0.88	0.77	0.86	0.88	0.87	0.75	0.81	0.78	0.87	0.92	0.89
EraseMTS	0.78	0.89	0.83	0.91	0.86	0.88	0.81	0.88	0.84	0.92	0.90	0.91

算法	平均精确度	平均召回率	平均F1值
LOF	0.62	0.64	0.63
AE	0.68	0.80	0.73
LSTM-AD	0.76	0.77	0.76
GUARD	0.78	0.84	0.81
TSLOD	0.79	0.87	0.83
EraseMTS	0.86	0.88	0.87

基于边缘异常候选集的迭代式主动多元时序异常检测算法

EraseMTS： iterative active multivariable time series anomaly detection algorithm based on margin anomaly candidate set

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 6

参考文献 21

相关文章 15

编辑推荐

Metrics

[1]	朱子蒙, 李志新, 郇战, 陈瑛, 梁久祯. 基于三元中心引导的弱监督视频异常检测[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1452-1457.
[2]	张雨宁, 阿布都克力木·阿布力孜, 梅悌胜, 徐春, 麦尔达娜·买买提热依木, 哈里旦木·阿布都克里木, 侯钰涛. 基于自监督特征提取的骨骼X线影像异常检测方法[J]. 《计算机应用》唯一官方网站, 2024, 44(1): 175-181.
[3]	祁超帅, 何文思, 焦毅, 马英红, 蔡伟, 任素萍. 无人机飞行数据异常检测算法综述[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1833-1841.
[4]	许喆, 王志宏, 单存宇, 孙亚茹, 杨莹. 基于重构误差的无监督人脸伪造视频检测[J]. 《计算机应用》唯一官方网站, 2023, 43(5): 1571-1577.
[5]	尹春勇, 周立文. 基于再编码的无监督时间序列异常检测模型[J]. 《计算机应用》唯一官方网站, 2023, 43(3): 804-811.
[6]	贾晴, 王来花, 王伟胜. 基于独立循环神经网络与变分自编码网络的视频帧异常检测[J]. 《计算机应用》唯一官方网站, 2023, 43(2): 507-513.
[7]	张安勤, 王小慧. 基于时序异常检测的动力电池安全预警[J]. 《计算机应用》唯一官方网站, 2023, 43(12): 3799-3805.
[8]	尹春勇, 张杨春. 基于CNN和Bi-LSTM的无监督日志异常检测模型[J]. 《计算机应用》唯一官方网站, 2023, 43(11): 3510-3516.
[9]	周佳航, 邢红杰. 基于双自编码器和Transformer网络的异常检测方法[J]. 《计算机应用》唯一官方网站, 2023, 43(1): 22-29.
[10]	汪敏, 冯婷婷, 闵帆, 唐洪明, 闫建平, 廖纪佳. 页岩气储层预测的多标签主动学习算法[J]. 《计算机应用》唯一官方网站, 2022, 42(2): 646-654.
[11]	许嘉, 刘静, 于戈, 吕品, 杨攀原. 面向在线教育的同伴互评技术综述[J]. 《计算机应用》唯一官方网站, 2022, 42(12): 3913-3923.
[12]	孟凡, 陈广, 王勇, 高阳, 高德群, 贾文龙. 基于多粒度时序结构表示的异常检测算法在储层含油性检测中应用[J]. 计算机应用, 2021, 41(8): 2453-2459.
[13]	胡天杰, 胡文军, 王士同. 分布熵惩罚的支持向量数据描述[J]. 计算机应用, 2021, 41(8): 2212-2218.
[14]	李衍志, 范勇, 高琳. 基于形态流的石油钻井水流异常检测[J]. 计算机应用, 2021, 41(6): 1842-1848.
[15]	谢雨, 蒋瑜, 龙超奇. 基于随机子空间的扩展隔离林算法[J]. 计算机应用, 2021, 41(6): 1679-1685.