基于频域增强图变分学习的时间序列异常检测

doi:10.11772/j.issn.1001-9081.2024101438

《计算机应用》唯一官方网站 ›› 2025, Vol. 45 ›› Issue (10): 3214-3220.DOI: 10.11772/j.issn.1001-9081.2024101438

• 数据科学与技术 • 上一篇

基于频域增强图变分学习的时间序列异常检测

夏雨禾¹^,², 王晓东¹^,², 何启学¹^,²()

^1.中国科学院成都计算机应用研究所，成都 610213
^2.中国科学院大学，北京 100049

收稿日期:2024-10-12 修回日期:2024-12-09 接受日期:2024-12-13 发布日期:2024-12-23 出版日期:2025-10-10
通讯作者: 何启学
作者简介:夏雨禾（1999—），女，四川蓬溪人，硕士研究生，主要研究方向：异常检测、机器学习、大数据分析
王晓东（1973—），男，四川乐山人，研究员，主要研究方向：网络工程
何启学（1978—），男，四川富顺人，高级工程师，主要研究方向：数据挖掘、人工智能。Email:heqixue@casit.com.cn
基金资助:
四川省科技成果转移转化示范项目(2023ZHCG0005)

Time series anomaly detection based on frequency domain enhanced graph variational learning

Yuhe XIA¹^,², Xiaodong WANG¹^,², Qixue HE¹^,²()

^1.Chengdu Institute of Computer Application，Chinese Academy of Sciences，Chengdu Sichuan 610213，China
^2.University of Chinese Academy of Sciences，Beijing 100049，China

Received:2024-10-12 Revised:2024-12-09 Accepted:2024-12-13 Online:2024-12-23 Published:2025-10-10
Contact: Qixue HE
About author:XIA Yuhe，born in 1999， M. S. candidate. Her research interestsinclude anomaly detection， machine learning， big data analysis.
WANG Xiaodong， born in 1973， research fellow. His researchinterests include network engineering.
HE Qixue，born in 1978， senior engineer. His research interestsinclude data mining， artificial intelligence.

摘要/Abstract

摘要：

时间序列异常检测是时间序列分析领域的重要研究课题。由于现实工业场景中的多变量时间序列具有复杂的时空依赖性和随机性，现有许多针对单一依赖性建模的异常检测方法无法有效学习数据特征。此外，忽略频域信息会导致模型特征表示不全面。针对上述问题，提出基于频域增强图变分学习网络的时间序列异常检测模型FeGvL（Frequency-domain enhancement Graph-variational Learning）。首先，在分块操作后，通过自注意力建模时间维度上的依赖关系；其次，将频域增强后的图关系特征映射到潜在空间；最后，利用图聚合注意力网络提取实体间的特征，并结合时间依赖实现具有泛化性的变分重构。在PSM（Pooled Server Metrics）、SWaT（Secure Water Treatment）和WADI（WAter DIstribution）公共数据集上的实验结果表明，FeGvL的F1值均高于GDN（Graph Deviation Network）、TranAD（Transformer-based Anomaly Detection）和GReLeN（Graph Relational Learning Network）等7个先进的异常检测方法，且FeGvL的平均F1值与次优模型GReLeN相比提高了1.7个百分点。可见，所提模型能够有效捕获时空依赖性，提供表征能力，具有较高的异常检测精度。

关键词: 异常检测, 多元时间序列, 注意力机制, 变分自编码器, 频域增强

Abstract:

Time series anomaly detection is an important research topic in the field of time series analysis. Due to complex spatio-temporal dependencies and randomness of the multivariate time series in real industrial scenarios， many existing anomaly detection methods for single dependency modeling cannot learn data features effectively. In addition， ignoring frequency domain information will lead to incomplete model feature representation. To address the above problems， a time series anomaly detection model based on frequency domain enhanced graph variational learning network — FeGvL （Frequency-domain enhancement Graph-variational Learning） was proposed. Firstly， after the block operation， the dependency in time dimension was modeled by self-attention. Secondly， the graph relationship features after frequency domain enhancement were mapped to the latent space. Finally， the graph aggregation attention network was used to extract features between entities， and the temporal dependency was combined to achieve generalized variational reconstruction. Experimental results on public datasets PSM （Pooled Server Metrics）， SWaT （Secure Water Treatment） and WADI （WAter DIstribution） show that the F1 value of FeGvL is higher than those of seven advanced anomaly detection methods such as GDN （Graph Deviation Network）， TranAD （Transformer-based Anomaly Detection）， and GReLeN （Graph relational Learning Network）， and the average F1 value of FeGvL is 1.7 percentage points higher than that of the second-best model GReLeN. It can be seen that the proposed method can capture spatio-temporal dependencies effectively， provide representation capabilities， and has high anomaly detection accuracy.

Key words: anomaly detection, multivariate time series, attention mechanism, Variational AutoEncoder (VAE), frequency domain enhancement

中图分类号:

TP391

夏雨禾, 王晓东, 何启学. 基于频域增强图变分学习的时间序列异常检测[J]. 计算机应用, 2025, 45(10): 3214-3220.

Yuhe XIA, Xiaodong WANG, Qixue HE. Time series anomaly detection based on frequency domain enhanced graph variational learning[J]. Journal of Computer Applications, 2025, 45(10): 3214-3220.

图/表 7

参考文献 27

[1]	XU J H， WU H X， WANG J， et al. Anomaly Transformer： time series anomaly detection with association discrepancy［EB/OL］. ［2024-09-02］..
[2]	ELMAN J L. Finding structure in time［J］. Cognitive Science， 1990， 14（2）： 179-211.
[3]	HOCHREITER S， SCHMIDHUBER J. Long short-term memory［J］. Neural Computation， 1997， 9（8）： 1735-1780.
[4]	VASWANI A， SHAZEER N， PARMAR N， et al. Attention is all you need［C］// Proceedings of the 31st International Conference on Neural Information Processing Systems. Red Hook： Curran Associates Inc.， 2017： 6000-6010.
[5]	SCARSELLI F， GORI M， TSOI A C， et al. The graph neural network model［J］. IEEE Transactions on Neural Networks， 2009， 20（1）： 61-80.
[6]	徐胤博，于洋. 基于K-means聚类的舰船通信网络异常数据检测［J］. 舰船科学技术， 2023， 45（16）： 169-172.
	XU Y B， YU Y. Detection of abnormal data in ship communication network based on K-means clustering［J］. Ship Science and Technology， 2023， 45（16）： 169-172.
[7]	KHREICH W， KHOSRAVIFAR B， HAMOU-LHADJ A， et al. An anomaly detection system based on variable N-gram features and one-class SVM［J］. Information and Software Technology， 2017， 91： 186-197.
[8]	SALEM O， GUERASSIMOV A， MEHAOUA A， et al. Anomaly detection in medical wireless sensor networks using SVM and linear regression models［J］. International Journal of E-Health and Medical Communications， 2014， 5（1）： 20-45.
[9]	HUNDMAN K， CONSTANTINOU V， LAPORTE C， et al. Detecting spacecraft anomalies using LSTMs and nonparametric dynamic thresholding［C］// Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2018： 387-395.
[10]	ZONG B， SONG Q， MIN M R， et al. Deep autoencoding Gaussian mixture model for unsupervised anomaly detection［EB/OL］. ［2024-09-01］..
[11]	PARK D， HOSHI Y， KEMP C C. A multimodal anomaly detector for robot-assisted feeding using an LSTM-based variational autoencoder［J］. IEEE Robotics and Automation Letters， 2018， 3（3）： 1544-1551.
[12]	SU Y， ZHAO Y， NIU C， et al. Robust anomaly detection for multivariate time series through stochastic recurrent neural network［C］// Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2019： 2828-2837.
[13]	AUDIBERT J， MICHIARDI P， GUYARD F， et al. USAD： unsupervised anomaly detection on multivariate time series［C］// Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2020： 3395-3404.
[14]	ABDULAAL A， LIU Z， LANCEWICKI T. Practical approach to asynchronous multivariate time series anomaly detection and localization［C］// Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery and Data Mining. New York： ACM， 2021： 2485-2494.
[15]	赵培，乔焰，胡荣耀，等. 基于多域特征提取的多变量时间序列异常检测［J］. 计算机应用， 2024， 44（11）：3419-3426.
	ZHAO P， QIAO Y， HU R Y， et al. Multivariate time series anomaly detection based on multi-domain feature extraction［J］. Journal of Computer Applications， 2024， 44（11）：3419-3426.
[16]	DENG A， HOOI B. Graph neural network-based anomaly detection in multivariate time series［C］// Proceedings of the 35th AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2021： 4027-4035.
[17]	ZHAO H， WANG Y， DUAN J， et al. Multivariate time-series anomaly detection via graph attention network［C］// Proceedings of the 2020 IEEE International Conference on Data Mining. Piscataway： IEEE， 2020： 841-850.
[18]	NIE Y， NGUYEN N H， SINTHONG P， et al. A time series is worth 64 words： long-term forecasting with Transformers［EB/OL］. ［2024-09-01］..
[19]	ZHOU T， MA Z， WEN Q， et al. FEDformer： frequency enhanced decomposed Transformer for long-term series forecasting［C］// Proceedings of the 39th International Conference on Machine Learning. New York： JMLR.org， 2022： 27268-27286.
[20]	ZHANG W， ZHANG C， TSUNG F. GRELEN： multivariate time series anomaly detection from the perspective of graph relational learning［C］// Proceedings of the 31th International Joint Conference on Artificial Intelligence. California： ijcai.org， 2022： 2390-2397.
[21]	MATHUR A P， TIPPENHAUER N O. SWaT： a water treatment testbed for research and training on ICS security［C］// Proceedings of the 2016 International Workshop on Cyber-physical Systems for Smart Water Networks. Piscataway： IEEE， 2016： 31-36.
[22]	LI D， CHEN D， JIN B， et al. MAD-GAN： multivariate anomaly detection for time series data with generative adversarial networks［C］// Proceedings of the 2019 International Conference on Artificial Neural Networks， LNCS 11730. Cham： Springer， 2019： 703-716.
[23]	TULI S， CASALE G， JENNINGS N R. TranAD： deep Transformer networks for anomaly detection in multivariate time series data［J］. Proceedings of the VLDB Endowment， 2022， 5（6）： 1201-1214.
[24]	DING C， SUN S， ZHAO J. MST-GAT： a multimodal spatial-temporal graph attention network for time series anomaly detection［J］. Information Fusion， 2023， 89： 527-536.
[25]	KINGA D P， BA J L， Adam： a method for stochastic optimization［EB/OL］. ［2024-08-03］..
[26]	KITAGAWA G， GERSCH W. Linear Gaussian state space modeling［M］// Smoothness priors analysis of time series， LNS 116. New York： Springer， 1996： 55-65.
[27]	REZENDE D J， MOHAMED S. Variational inference with normalizing flows［C］// Proceedings of the 32nd International Conference on Machine Learning. New York： JMLR.org， 2015： 1530-1538.Foundation:This work is partially supported by Technology Achievement Transfer and Transformation Demonstration Project of Sichuan Province （2023ZHCG0005）.XIA Yuhe， in born 1999， M. S. candidate. Her research interests include anomaly detection， machine learning， big data analysis.WANG Xiaodong， in born 1973， research fellow. His research interests include network engineering.
	HE Qixue， in born 1978， senior engineer. His research interests include data mining， artificial intelligence.

数据集	训练集样本数	测试集样本数	维数	异常比例/%
PSM	132 481	87 841	25	27.80
SWaT	496 800	495 000	51	11.98
WADI	1 048 571	172 803	128	5.99

数据集	训练集样本数	测试集样本数	维数	异常比例/%
PSM	132 481	87 841	25	27.80
SWaT	496 800	495 000	51	11.98
WADI	1 048 571	172 803	128	5.99

模型	PSM			SWaT			WADI			平均F1值
模型	P	R	F₁	P	R	F₁	P	R	F₁	平均F1值
LSTM-VAE	0.810	0.582	0.677	0.961	0.593	0.734	0.874	0.136	0.235	0.545
OmniAnomaly	0.960	0.809	0.878	0.717	0.963	0.822	0.269	0.982	0.422	0.707
USAD	0.921	0.576	0.709	0.979	0.727	0.834	0.644	0.316	0.423	0.655
GDN	0.434	0.760	0.552	0.982	0.673	0.798	0.982	0.399	0.567	0.639
TranAD	—	—	—	0.976	0.696	0.815	0.352	0.829	0.495	0.655
GReLeN	0.942	0.921	0.931	0.956	0.835	0.891	0.773	0.613	0.682	0.834
MST-GAT	—	—	—	0.987	0.681	0.835	0.975	0.401	0.603	0.729
FeGvL	0.974	0.960	0.967	0.837	0.997	0.910	0.978	0.525	0.683	0.851

模型	PSM			SWaT			WADI			平均F1值
模型	P	R	F₁	P	R	F₁	P	R	F₁	平均F1值
LSTM-VAE	0.810	0.582	0.677	0.961	0.593	0.734	0.874	0.136	0.235	0.545
OmniAnomaly	0.960	0.809	0.878	0.717	0.963	0.822	0.269	0.982	0.422	0.707
USAD	0.921	0.576	0.709	0.979	0.727	0.834	0.644	0.316	0.423	0.655
GDN	0.434	0.760	0.552	0.982	0.673	0.798	0.982	0.399	0.567	0.639
TranAD	—	—	—	0.976	0.696	0.815	0.352	0.829	0.495	0.655
GReLeN	0.942	0.921	0.931	0.956	0.835	0.891	0.773	0.613	0.682	0.834
MST-GAT	—	—	—	0.987	0.681	0.835	0.975	0.401	0.603	0.729
FeGvL	0.974	0.960	0.967	0.837	0.997	0.910	0.978	0.525	0.683	0.851

F	T	G	P	R	F₁
×	✓	×	1.000	0.356	0.525
×	×	✓	0.297	0.884	0.472
✓	×	×	1.000	0.247	0.396

基于频域增强图变分学习的时间序列异常检测

Time series anomaly detection based on frequency domain enhanced graph variational learning

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 7

参考文献 27

相关文章 15

编辑推荐

Metrics

[1]	邓伊琳, 余发江. 基于LSTM和可分离自注意力机制的伪随机数生成器[J]. 《计算机应用》唯一官方网站, 2025, 45(9): 2893-2901.
[2]	吕景刚, 彭绍睿, 高硕, 周金. 复频域注意力和多尺度频域增强驱动的语音增强网络[J]. 《计算机应用》唯一官方网站, 2025, 45(9): 2957-2965.
[3]	李维刚, 邵佳乐, 田志强. 基于双注意力机制和多尺度融合的点云分类与分割网络[J]. 《计算机应用》唯一官方网站, 2025, 45(9): 3003-3010.
[4]	王翔, 陈志祥, 毛国君. 融合局部和全局相关性的多变量时间序列预测方法[J]. 《计算机应用》唯一官方网站, 2025, 45(9): 2806-2816.
[5]	周金, 李玉芝, 张徐, 高硕, 张立, 盛家川. 复杂电磁环境下的调制识别网络[J]. 《计算机应用》唯一官方网站, 2025, 45(8): 2672-2682.
[6]	吴海峰, 陶丽青, 程玉胜. 集成特征注意力和残差连接的偏标签回归算法[J]. 《计算机应用》唯一官方网站, 2025, 45(8): 2530-2536.
[7]	敬超, 全育涛, 陈艳. 基于多层感知机-注意力模型的功耗预测算法[J]. 《计算机应用》唯一官方网站, 2025, 45(8): 2646-2655.
[8]	林进浩, 罗川, 李天瑞, 陈红梅. 基于跨尺度注意力网络的胸部疾病分类方法[J]. 《计算机应用》唯一官方网站, 2025, 45(8): 2712-2719.
[9]	申奥, 黄瑞章, 薛菁菁, 陈艳平, 秦永彬. 基于分布增强的深度变分文本聚类模型[J]. 《计算机应用》唯一官方网站, 2025, 45(8): 2457-2463.
[10]	刘皓宇, 孔鹏伟, 王耀力, 常青. 基于多视角信息的行人检测算法[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2325-2332.
[11]	赵小强, 柳勇勇, 惠永永, 刘凯. 基于改进时域卷积网络与多头自注意力机制的间歇过程质量预测模型[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2245-2252.
[12]	王慧斌, 胡展傲, 胡节, 徐袁伟, 文博. 基于分段注意力机制的时间序列预测模型[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2262-2268.
[13]	梁辰, 王奕森, 魏强, 杜江. 基于Tsransformer-GCN的源代码漏洞检测方法[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2296-2303.
[14]	王艺涵, 路翀, 陈忠源. 跨模态文本信息增强的多模态情感分析模型[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2237-2244.
[15]	颜文婧, 王瑞东, 左敏, 张青川. 基于风味嵌入异构图层次学习的食谱推荐模型[J]. 《计算机应用》唯一官方网站, 2025, 45(6): 1869-1878.