基于DenseNet的经典-量子混合分类模型

doi:10.11772/j.issn.1001-9081.2023050656

《计算机应用》唯一官方网站 ›› 2024, Vol. 44 ›› Issue (6): 1905-1910.DOI: 10.11772/j.issn.1001-9081.2023050656

所属专题：先进计算

基于DenseNet的经典-量子混合分类模型

翟飞宇, 马汉达()

江苏大学计算机科学与通信工程学院，江苏镇江 212013

收稿日期:2023-05-26 修回日期:2023-08-03 接受日期:2023-08-08 发布日期:2023-08-10 出版日期:2024-06-10
通讯作者: 马汉达
作者简介:翟飞宇（1999—），男，江苏南通人，硕士研究生，主要研究方向：图像分类、量子计算；
基金资助:
镇江市重点研发计划项目(GY2023034)

Hybrid classical-quantum classification model based on DenseNet

Feiyu ZHAI, Handa MA()

School of Computer Science and Communication Engineering，Jiangsu University，Zhenjiang Jiangsu 212013，China

Received:2023-05-26 Revised:2023-08-03 Accepted:2023-08-08 Online:2023-08-10 Published:2024-06-10
Contact: Handa MA
About author:ZHAI Feiyu， born in 1999， M. S. candidate. His research interests include image classification， quantum computing.
Supported by:
Zhenjiang Key R&D Program(GY2023034)

摘要/Abstract

摘要：

现有的图像分类模型越来越复杂，计算时所需的硬件资源和计算时间不断增加。针对该问题提出一种基于DenseNet的经典-量子混合分类模型（CQDenseNet模型）。首先，使用一个可在噪声中尺度量子（NISQ）设备上运行的变分量子电路（VQC）作为分类器，替换DenseNet全连接层；其次，使用迁移学习，利用在ImageNet数据集上预先训练好的DenseNet模型作为CQDenseNet的预训练模型；最后，将CQDenseNet模型在中草药分类数据集和CIFAR-100数据集上与基准模型AlexNet、GoogLeNet、VGG19、ResNet和DenseNet-169进行对比。实验结果表明，CQDenseNet模型比所有基准模型中表现最好的基准模型：准确率分别提高了2.2、7.4个百分点，精确率分别提高了2.2、7.3个百分点，召回率分别提高了2.2、7.1个百分点，F1值分别提高了2.3、6.4个百分点，说明了经典-量子混合模型的性能优于经典模型。

关键词: DenseNet, 经典-量子混合模型, 图像分类, 迁移学习, 变分量子电路

Abstract:

Existing image classification models are becoming more and more complex， and the hardware resources and computation time required for computation are increasing. A hybrid Classical-Quantum classification model based on DenseNet （CQDenseNet model） was proposed to address this problem. First， a Variational Quantum Circuit （VQC） that could operate on a Noisy Intermediate-Scale Quantum （NISQ） device was used as a classifier to replace the fully connected layer of DenseNet. Secondly， by using transfer learning， a pre-trained DenseNet model on the ImageNet dataset was utilized as a pre-training model for CQDenseNet. Finally， CQDenseNet model was compared with the benchmark models AlexNet， GoogLeNet， VGG19， ResNet and DenseNet-169 on Chinese Medicine and CIFAR-100 datasets. Experimental results show that CQDenseNet model is more effective than the best-performing benchmark model， with improvements of 2.2 and 7.4 percentage points in accuracy， 2.2 and 7.3 percentage points in precision， 2.2 and 7.1 percentage points in recall， and 2.3 and 6.4 percentage points in F1-score， respectively. It shows that the performance of the hybrid classical-quantum model is better than the classical models.

Key words: DenseNet, hybrid classical-quantum model, image classification, transfer learning, Variational Quantum Circuit (VQC)

中图分类号:

TP389.1

翟飞宇, 马汉达. 基于DenseNet的经典-量子混合分类模型[J]. 计算机应用, 2024, 44(6): 1905-1910.

Feiyu ZHAI, Handa MA. Hybrid classical-quantum classification model based on DenseNet[J]. Journal of Computer Applications, 2024, 44(6): 1905-1910.

图/表 11

图1 VQC结构

Fig. 1 Structure of VQC

图2 CQDenseNet模型的结构

Fig. 2 Structure of CQDenseNet model

图3 VQC模块结构

Fig. 3 Structure of VQC module

表1 各个模型性能比较 (%)

Tab. 1 Performance comparison among various models

模型	Chinese Medicine				CIFAR-100
模型	acc	pre	rec	$F 1$	acc	pre	rec	$F 1$
AlexNet	90.6	90.8	90.8	90.5	47.5	48.2	47.5	47.4
GoogLeNet	76.2	77.2	76.0	76.3	57.5	57.3	58.4	56.1
VGG19	80.7	80.4	80.4	80.2	56.8	57.2	56.8	56.7
ResNet	76.8	77.5	76.7	76.8	57.8	58.5	57.8	57.8
DenseNet‑169	86.7	87.0	84.7	84.5	58.1	58.5	58.1	58.4
CQDenseNet	92.8	93.0	93.0	92.8	65.5	65.8	65.5	64.8

表1 各个模型性能比较 (%)

Tab. 1 Performance comparison among various models

模型	Chinese Medicine				CIFAR-100
模型	acc	pre	rec	$F 1$	acc	pre	rec	$F 1$
AlexNet	90.6	90.8	90.8	90.5	47.5	48.2	47.5	47.4
GoogLeNet	76.2	77.2	76.0	76.3	57.5	57.3	58.4	56.1
VGG19	80.7	80.4	80.4	80.2	56.8	57.2	56.8	56.7
ResNet	76.8	77.5	76.7	76.8	57.8	58.5	57.8	57.8
DenseNet‑169	86.7	87.0	84.7	84.5	58.1	58.5	58.1	58.4
CQDenseNet	92.8	93.0	93.0	92.8	65.5	65.8	65.5	64.8

图4 CQDenseNet和各模型的准确率曲线

Fig. 4 Accuracy curves of CQDenseNet and various models

图5 CQDenseNet和DenseNet的混淆矩阵

Fig.5 Confusion matrices of CQDenseNet and DenseNet

表2 本文模型与基于量子计算模块模型性能比较 (%)

Tab.2 Performance comparison between proposed model and models based on quantum computing module

模型	方法	准确率
文献［14］模型	CGAN+QML，CML	96.00
文献［13］模型	QNN	96.92
本文模型	DenseNet+VQC+迁移学习	98.00

图6 均值模糊和颜色空间变换预处理

Fig.6 Preprocessing of mean blurring and color space transformation

表3 两种不同预处理对CQDenseNet性能的影响对比 (%)

Tab.3 Performance effect comparison on CQDenseNet by two different preprocessing methods

预处理	Chinese Medicine				CIFAR-100
预处理	acc	pre	rec	$F 1$	acc	pre	rec	$F 1$
均值模糊	92.0	92.5	92.0	92.0	64.5	64.8	65.0	64.6
颜色空间变换	92.7	92.5	92.2	92.4	65.1	65.5	65.0	64.5
无	92.8	93.0	93.0	92.8	65.5	65.8	65.5	64.8

表3 两种不同预处理对CQDenseNet性能的影响对比 (%)

Tab.3 Performance effect comparison on CQDenseNet by two different preprocessing methods

预处理	Chinese Medicine				CIFAR-100
预处理	acc	pre	rec	$F 1$	acc	pre	rec	$F 1$
均值模糊	92.0	92.5	92.0	92.0	64.5	64.8	65.0	64.6
颜色空间变换	92.7	92.5	92.2	92.4	65.1	65.5	65.0	64.5
无	92.8	93.0	93.0	92.8	65.5	65.8	65.5	64.8

表4 迁移学习对混合模型性能的影响 (%)

Tab. 4 Influence of transfer learning on hybrid model performance

模型	Chinese Medicine				CIFAR-100
模型	acc	pre	rec	$F 1$	acc	pre	rec	$F 1$
QDenseNet	91.7	91.9	91.7	91.7	63.9	64.3	73.8	63.0
CQDenseNet	92.8	93.0	93.0	92.8	65.5	65.8	65.5	64.8

表4 迁移学习对混合模型性能的影响 (%)

Tab. 4 Influence of transfer learning on hybrid model performance

模型	Chinese Medicine				CIFAR-100
模型	acc	pre	rec	$F 1$	acc	pre	rec	$F 1$
QDenseNet	91.7	91.9	91.7	91.7	63.9	64.3	73.8	63.0
CQDenseNet	92.8	93.0	93.0	92.8	65.5	65.8	65.5	64.8

图7 QDenseNet和CQDenseNet的准确率曲线

Fig. 7 Accuracy curves of QDenseNet and CQDenseNet

参考文献 25

1	PARRA-RODRIGUEZ A， LOUGOVSKI P， LAMATA L， et al. Digital-analog quantum computation［J］. Physical Review A， 2020， 101（2）： 022305.
2	ARUTE F， ARYA K， BABBUSH R， et al. Quantum supremacy using a programmable superconducting processor［J］. Nature， 2019， 574（7779）： 505-510.
3	SHI Y Y， DUAN L M， VIDAL G. Classical simulation of quantum many-body systems with a tree tensor network ［J］. Physical Review A， 2006， 74（2）： 022320.
4	SHOR P W. Algorithms for quantum computation： discrete logarithms and factoring ［C］// Proceedings 35th Annual Symposium on Foundations of Computer Science. Piscataway： IEEE， 1994： 124-134.
5	GROVER L K. A fast quantum mechanical algorithm for database search［C］// Proceedings of the 28th Annual ACM Symposium on Theory of Computing. New York： ACM， 1996： 212-219.
6	李盼池. 一种量子神经网络模型学习算法及应用［J］. 控制理论与应用， 2009， 26（5）：531-534.
	LI P C. A learning algorithm and its applications to the quantum neural network model［J］. Control Theory and Applications， 2009， 26（5）： 531-534.
7	REBENTROST P， BROMLEY T R， WEEDBROOK C， et al. Quantum Hopfield neural network［J］. Physical Review A， 2018， 98（4）： 042308.
8	CONG I， CHOI S， LUKIN M D. Quantum convolutional neural networks［J］. Nature Physics， 2019， 15（12）： 1273-1278.
9	NOH H， YOU T， MUN J， et al. Regularizing deep neural networks by noise： its interpretation and optimization ［C］// Proceedings of the 31st International Conference on Neural Information Processing Systems. Red Hook： Curran Associates Inc.， 2017： 5115-5124.
10	MITARAI K， NEGORO M， KITAGAWA M， et al. Quantum circuit learning ［J］. Physical Review A， 2018， 98（3）： 032309.
11	DU Y， HSIEH M H， LIU T， et al. Expressive power of parametrized quantum circuits［J］. Physical Review Research， 2020， 2（3）： 033125.
12	CARO M C， HUANG H Y， CEREZO M， et al. Generalization in quantum machine learning from few training data［J］. Nature Communications， 2022， 13： 4919.
13	SENGUPTA K， SRIVASTAVA P R. Quantum algorithm for quicker clinical prognostic analysis： an application and experimental study using CT scan images of COVID-19 cases ［J］. BMC Medical Informatics and Decision Making， 2021， 21： 227.
14	AMIN J， SHARIF M， GUL N， et al. Quantum machine learning architecture for COVID-19 classification based on synthetic data generation using conditional adversarial neural network［J］. Cognitive Computation， 2022， 14（5）： 1677-1688.
15	KRIZHEVSKY A， SUTSKEVER I， HINTON G. ImageNet classification with deep convolutional neural networks［J］. Communications of the ACM， 2017， 60（6）： 84-90.
16	SIMONYAN K， ZISSERMAN A. Very deep convolutional networks for large-scale image recognition［EB/OL］. ［2023-03-03］..
17	SZEGEDY C， LIU W， JIA Y， et al. Going deeper with convolutions［C］// Proceedings of the 2015 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway： IEEE， 2015： 1-9.
18	HE K， ZHANG X， REN S， et al. Deep residual learning for image recognition ［C］// Proceedings of the 2016 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway： IEEE， 2016： 770-778.
19	HUANG G， LIU Z， VAN DER MAATEN L， et al. Densely connected convolutional networks ［C］// Proceedings of the 2017 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway： IEEE， 2017： 2261-2269.
20	ZHAO P， HOI S C H， WANG J， et al. Online transfer learning［J］. Artificial Intelligence， 2014， 216： 76-102.
21	MARI A， BROMLEY T R， IZAAC J， et al. Transfer learning in hybrid classical-quantum neural networks［J］. Quantum， 2020， 4： 340.
22	FARHI E， NEVEN H. Classification with quantum neural networks on near term processors ［EB/OL］. ［2023-03-03］..
23	KILLORAN N， BROMLEY T R， ARRAZOLA J M， et al. Continuous-variable quantum neural networks［J］. Physical Review Research， 2019， 1（3）： 033063.
24	LARSSON G， MAIRE M， SHAKHNAROVICH G. FractalNet： ultra-deep neural networks without residuals ［EB/OL］. （2017-05-26）［2023-03-03］. .
25	KINGA D P， BA J L. Adam： a method for stochastic optimization［EB/OL］. ［2023-03-03］..

[1]	王东炜, 刘柏辰, 韩志, 王艳美, 唐延东. 基于低秩分解和向量量化的深度网络压缩方法[J]. 《计算机应用》唯一官方网站, 2024, 44(7): 1987-1994.
[2]	时旺军, 王晶, 宁晓军, 林友芳. 小样本场景下的元迁移学习睡眠分期模型[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1445-1451.
[3]	李鸿天, 史鑫昊, 潘卫国, 徐成, 徐冰心, 袁家政. 融合多尺度和注意力机制的小样本目标检测[J]. 《计算机应用》唯一官方网站, 2024, 44(5): 1437-1444.
[4]	王昊冉, 于丹, 杨玉丽, 马垚, 陈永乐. 面向工控系统未知攻击的域迁移入侵检测方法[J]. 《计算机应用》唯一官方网站, 2024, 44(4): 1158-1165.
[5]	肖斌, 杨模, 汪敏, 秦光源, 李欢. 独立性视角下的相频融合领域泛化方法[J]. 《计算机应用》唯一官方网站, 2024, 44(4): 1002-1009.
[6]	谢莉, 舒卫平, 耿俊杰, 王琼, 杨海麟. 结合加权原型和自适应张量子空间的小样本宫颈细胞分类[J]. 《计算机应用》唯一官方网站, 2024, 44(10): 3200-3208.
[7]	周雯, 谌雨章, 温志远, 王诗琦. 基于位置编码重叠切块嵌入和多尺度通道交互注意力的鱼类图像分类[J]. 《计算机应用》唯一官方网站, 2024, 44(10): 3209-3216.
[8]	陈彤, 位纪伟, 何仕远, 宋井宽, 杨阳. 基于自适应攻击强度的对抗训练方法[J]. 《计算机应用》唯一官方网站, 2024, 44(1): 94-100.
[9]	刘秋杰, 万源, 吴杰. 深度双模态源域对称迁移学习的跨模态检索[J]. 《计算机应用》唯一官方网站, 2024, 44(1): 24-31.
[10]	陈克正, 郭晓然, 钟勇, 李振平. 基于负训练和迁移学习的关系抽取方法[J]. 《计算机应用》唯一官方网站, 2023, 43(8): 2426-2430.
[11]	金泽熙, 李磊, 刘继. 基于改进领域分离网络的迁移学习模型[J]. 《计算机应用》唯一官方网站, 2023, 43(8): 2382-2389.
[12]	轩勃娜, 李进, 宋亚飞, 马泽煊. 基于改进MobileNetV2的恶意代码分类方法[J]. 《计算机应用》唯一官方网站, 2023, 43(7): 2217-2225.
[13]	张慧斌, 冯丽萍, 郝耀军, 王一宁. 基于注意力机制和迁移学习的古壁画朝代识别[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1826-1832.
[14]	王彬, 向甜, 吕艺东, 王晓帆. 基于NSGA‑Ⅱ的自适应多尺度特征通道分组优化算法[J]. 《计算机应用》唯一官方网站, 2023, 43(5): 1401-1408.
[15]	李振亮, 李波. 基于矩阵分解的卷积神经网络改进方法[J]. 《计算机应用》唯一官方网站, 2023, 43(3): 685-691.

基于DenseNet的经典-量子混合分类模型

Hybrid classical-quantum classification model based on DenseNet

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 11

参考文献 25

相关文章 15

编辑推荐

Metrics