Decentralized federated learning privacy protection method for medical scenarios

doi:10.11772/j.issn.1001-9081.2024030347

Journal of Computer Applications ›› 0, Vol. ›› Issue (): 112-117.DOI: 10.11772/j.issn.1001-9081.2024030347

• Cyber security • Previous Articles Next Articles

Decentralized federated learning privacy protection method for medical scenarios

Guilin GUAN¹^,²(), Zhengping TAO¹^,², Ting ZHI¹^,², Yang CAO¹^,², Zhenqiang XIE¹^,²^,³

^1.CETC Big Data Research Institute Company Limited，Guiyang Guizhou 550022，China
^2.National Engineering Research Center of Big Data Application on Improving Government Governance Capacities，Guiyang Guizhou 550022，China
^3.College of Intelligence and Computing，Tianjin University，Tianjin 300350，China

Received:2024-03-27 Revised:2024-05-20 Accepted:2024-05-27 Online:2025-01-24 Published:2024-12-31
Contact: Guilin GUAN

面向医疗场景的去中心化联邦学习隐私保护方法

管桂林¹^,²(), 陶政坪¹^,², 支婷¹^,², 曹扬¹^,², 谢真强¹^,²^,³

^1.中电科大数据研究院有限公司，贵阳 550022
^2.提升政府治理能力大数据应用技术国家工程研究中心，贵阳 550022
^3.天津大学智能与计算学部，天津 300350

通讯作者: 管桂林
作者简介:管桂林（1994—），男，贵州普安人，工程师，硕士，主要研究方向：联邦学习、区块链、密码学、机器学习
陶政坪（1995—），男，贵州天柱人，高级工程师，硕士，主要研究方向：隐私计算、联邦学习、人工智能
支婷（1993—），女，贵州贵阳人，工程师，博士，主要研究方向：信息安全、自然语言处理、可信联邦学习
曹扬（1981—），男，四川成都人，高级工程师，博士研究生，主要研究方向：信息安全、自然语言处理、可信联邦学习
谢真强（1990—），男，贵州贵阳人，高级工程师，博士研究生，主要研究方向：隐私计算、网络安全、联邦学习。
基金资助:
国家重点研发计划项目(2023YFC3806001);贵州省科技支撑计划项目(2023MA6DN7B8X22057);贵州省科技重大专项(黔科合重大专项字［2024］002);2024年度中央引导地方科技发展资金资助项目(黔科合中引地［2024］009)

Abstract

Abstract:

A decentralized federated learning privacy protection method for medical scenarios was proposed to address the issues of slow model training convergence， gradient information leakage， single point of failure and vulnerability to attacks of central servers in most existing federated learning schemes in medical industry， resulting in problem of low global model robustness. Firstly， an efficient federated learning method based on Fletcher-Reeves （FR） conjugate gradient algorithm was constructed to achieve fast convergence， secure and reliable computation during the model training process. And the Paillier homomorphic encryption algorithm was used to solve the problem of gradient data leakage in medical institutions. Secondly， a decentralized trusted federated learning architecture based on blockchain consensus mechanism was proposed， thereby achieving secure modeling without the coordination of a trusted central server， and avoiding the problem of low training efficiency of the central server caused by attacks or paralysis. At the same time， global and local model updates were stored in the blockchain to achieve full lifecycle protection of the model. Security analysis results indicate that the proposed method possesses indistinguishability of ciphertext and data privacy. Simulation results show the proposed method has the advantages of fast convergence and high accuracy compared to the comparison methods， and can meet the practical needs of the existing medical data joint modeling better.

Key words: federated learning, medical data, blockchain, decentralization, privacy protection

摘要：

针对医疗行业现有的联邦学习方案大多存在的由于模型训练收敛慢、梯度信息泄露、中央服务器的单点失效以及易受攻击而导致的全局模型鲁棒性低等问题，提出一种面向医疗场景的去中心化联邦学习隐私保护方法。首先，构建基于FR（Fletcher-Reeves）共轭梯度算法的高效联邦学习方法，从而实现模型训练过程中的快速收敛和安全可靠计算，并通过Paillier同态加密算法解决医疗机构梯度数据泄露的问题；其次，提出基于区块链共识机制的去中心化可信联邦学习架构，无须可信的中央服务器协调即可实现安全建模，并避免了由于中央服务器遭受攻击或者瘫痪导致的训练效率低下问题；同时，将全局模型和本地模型更新存储于区块链，从而实现对模型全生命周期的保护。安全性分析结果表明，所提方法具备密文不可区分性和数据隐私性。仿真实验结果表明，所提方法相较于对比方法具有收敛快、准确性高等优势，能较好地满足现有医疗数据联合建模的实际需求。

关键词: 联邦学习, 医疗数据, 区块链, 去中心化, 隐私保护

CLC Number:

TP309

Guilin GUAN, Zhengping TAO, Ting ZHI, Yang CAO, Zhenqiang XIE. Decentralized federated learning privacy protection method for medical scenarios[J]. Journal of Computer Applications, 0, (): 112-117.

管桂林, 陶政坪, 支婷, 曹扬, 谢真强. 面向医疗场景的去中心化联邦学习隐私保护方法[J]. 《计算机应用》唯一官方网站, 0, (): 112-117.

Figures/Tables 8

References 28

1	GOSTIN L O. National health information privacy： regulations under the health insurance portability and accountability act ［J］. JAMA， 2001， 285（23）： 3015-3021.
2	STEPPE R. Online price discrimination and personal data： a general data protection regulation perspective ［J］. Computer Law and Security Review， 2017， 33（6）： 768-785.
3	SINGHAL A. Introducing the knowledge graph： things， not strings ［EB/OL］. ［2023-12-14］. .
4	OTTER D W， MEDINA J R， KALITA J K. A survey of the usages of deep learning for natural language processing ［J］. IEEE Transactions on Neural Networks and Learning Systems， 2021， 32（2）： 604-624.
5	GHATAK A. Machine learning with R ［M］. Singapore： Springer， 2017： 3-5.
6	李少波，杨磊，李传江，等.联邦学习概述：技术、应用及未来［J］.计算机集成制造系统，2022，28（7）：2119-2138.
7	WANG Y， QIN X， WANG J， et al. FedHealth： a federated transfer learning framework for wearable healthcare ［J］. IEEE Intelligent Systems， 2020， 35（4）： 83-93.
8	SAMARAKOON S， BENNIS M， SAADY W， et al. Distributed federated learning for ultra-reliable low-latency vehicular communications ［J］. IEEE Transactions on Communications， 2020， 68（2）： 1146-1159.
9	ZHANG T， GAO L， HE C， et al. Federated learning for Internet of Things： applications， challenges， and opportunities ［J］. IEEE Internet of Things Magazine， 2022， 5（1）： 24-29.
10	McMAHAN H B， MOORE E， RAMAGE D， et al. Communication-efficient learning of deep networks from decentralized data ［C］// Proceedings of the 20th International Conference on Artificial Intelligence and Statistics. New York： JMLR.org， 2017： 1273-1282.
11	ZHU L， LIU Z， HAN S. Deep leakage from gradients ［C］// Proceedings of the 33rd International Conference on Neural Information Processing Systems. Red Hook： Curran Associates Inc.， 2019： 14774-14784.
12	LIU Z， GUO J， LAM K Y， et al. Efficient dropout-resilient aggregation for privacy-preserving machine learning ［J］. IEEE Transactions on Information Forensics and Security， 2023， 18： 1839-1854.
13	高胜，袁丽萍，朱建明，等. 一种基于区块链的隐私保护异步联邦学习［J］. 中国科学：信息科学， 2021， 51（10）： 1755-1774.
14	ZHANG C， LI S， XIA J， et al. BatchCrypt： efficient homomorphic encryption for cross-silo federated learning ［C］// Proceedings of the 2020 USENIX Annual Technical Conference. Berkeley： USENIX Association， 2020： 493-506.
15	张连福，谭作文. 一种面向多模态医疗数据的联邦学习隐私保护方法［J］. 计算机科学， 2023， 50（11A）： No.230800021.
16	VAID A， JALADANKI S K， XU J， et al. Federated learning of electronic health records to improve mortality prediction in hospitalized patients with COVID-19： machine learning approach ［J］. JMIR Medical Informatics， 2021， 9（1）： No.e24207.
17	马静超，印象，胡陈菲，等. 基于联邦风格迁移的图像分割方法［J］. 北京邮电大学学报， 2023， 46（6）：27-32.
18	KUMAR R， KHAN A A， KUMAR J， et al. Blockchain-federated-learning and deep learning models for COVID-19 detection using CT imaging ［J］. IEEE Sensors Journal， 2021， 21（14）： 16301-16314.
19	XU J， GLICKSBERG B S， SU C， et al. Federated learning for healthcare informatics ［J］. Journal of Healthcare Informatics Research， 2021， 5（1）： 1-19.
20	DANG T K， LAN X， WENG J， et al. Federated learning for electronic health records ［J］. ACM Transactions on Intelligent Systems and Technology， 2022， 13（5）： No.72.
21	王波，李洪涛，王洁，等. 面向医疗数据的隐私保护联邦学习架构［J］. 西安电子科技大学学报， 2023， 50（5）： 166-177.
22	LU S， ZHANG Y， WANG Y. Decentralized federated learning for electronic health records ［C］// Proceedings of the 54th Annual Conference on Information Sciences and Systems. Piscataway： IEEE， 2020： 1-5.
23	ALI M S， VECCHIO M， PINCHEIRA M， et al. Applications of blockchains in the internet of things： a comprehensive survey ［J］. IEEE Communications Surveys and Tutorials， 2019， 21（2）： 1676-1717.
24	DAMGARD I， JURIK M， NIELSEN J B. A generalization of Paillier’s public-key system with applications to electronic voting ［J］. International Journal of Information Security， 2010， 9（6）： 371-385.
25	王恺祺，洪睿琦，毛云龙，等. 基于区块链构建安全去中心化的联邦学习方案［J］. 中国科学：信息科学， 2024， 54（2）： 316-334.
26	陈海田，陈学斌，马锐奎，等. 面向遥感数据的联邦学习隐私保护方案［J/OL］. 计算机应用［2024-07-14］. .
27	徐超，张淑芬，陈海田，等. 基于自适应差分隐私与客户选择优化的联邦学习方法［J/OL］. 计算机应用［2024-07-01］. .
28	罗福林，陈云芳，陈序，等. 基于区块链的联邦学习模型聚合方案［J］. 计算机应用研究， 2024， 41（8）： 2277-2283.

方法	联邦训练算法	梯度隐私保护	模型架构	模型完整性保护	模型准确性
文献［18］方法	FedAvg	×	中心化	√	低
文献［20］方法	FedAvg	×	中心化	×	低
文献［21］方法	FedAvg	√	中心化	×	低
文献［25］方法	FedSGD	√	去中心化	√	低
文献［26］方法	FedAvg	√	中心化	×	低
文献［27］方法	FedAvg	√	中心化	×	低
文献［28］方法	FedAvg	×	去中心化	√	低
本文方法	FR共轭梯度	√	去中心化	√	高

方法	联邦训练算法	梯度隐私保护	模型架构	模型完整性保护	模型准确性
文献［18］方法	FedAvg	×	中心化	√	低
文献［20］方法	FedAvg	×	中心化	×	低
文献［21］方法	FedAvg	√	中心化	×	低
文献［25］方法	FedSGD	√	去中心化	√	低
文献［26］方法	FedAvg	√	中心化	×	低
文献［27］方法	FedAvg	√	中心化	×	低
文献［28］方法	FedAvg	×	去中心化	√	低
本文方法	FR共轭梯度	√	去中心化	√	高

方法	MNIST（精度为96%）	CIFAR-10（精度为60%）
本文方法	16	86
文献［21］方法	20	98
文献［25］方法	17	91
文献［27］方法	19	95

方法	MNIST（精度为96%）	CIFAR-10（精度为60%）
本文方法	16	86
文献［21］方法	20	98
文献［25］方法	17	91
文献［27］方法	19	95

[1]	Yufei XIANG, Zhengwei NI. Edge federation dynamic analysis for hierarchical federated learning based on evolutionary game [J]. Journal of Computer Applications, 2025, 45(4): 1077-1085.
[2]	Qingli CHEN, Yuanbo GUO, Chen FANG. Clustering federated learning algorithm for heterogeneous data [J]. Journal of Computer Applications, 2025, 45(4): 1086-1094.
[3]	Qiang LI, Shaoxiong BAI, Yuan XIONG, Wei YUAN. Privacy preserving localization of surveillance images based on large vision models [J]. Journal of Computer Applications, 2025, 45(3): 832-839.
[4]	Haili LIN, Jing LI. Lazy client identification method in federated learning based on proof-of-work [J]. Journal of Computer Applications, 2025, 45(3): 856-863.
[5]	Hui ZENG, Shiyu XIONG, Yongzheng DI, Hongzhou SHI. Federated parameter-efficient fine-tuning technology for large model based on pruning [J]. Journal of Computer Applications, 2025, 45(3): 715-724.
[6]	Baoyin WANG, Hongmei XUE, Qilie LIU, Tao GUO. Privacy-preserving random consensus asset cross-chain scheme [J]. Journal of Computer Applications, 2025, 45(2): 497-505.
[7]	Chao XU, Shufen ZHANG, Haitian CHEN, Lulu PENG, Shuaihua ZHANG. Federated learning method based on adaptive differential privacy and client selection optimization [J]. Journal of Computer Applications, 2025, 45(2): 482-489.
[8]	Xinyan WANG, Jiacheng DU, Lihong ZHONG, Wangwang XU, Boyu LIU, Wei SHE. Vertical federated learning enterprise emission prediction model with integration of electricity data [J]. Journal of Computer Applications, 2025, 45(2): 518-525.
[9]	Haitian CHEN, Xuebin CHEN, Ruikui MA, Shuaihua ZHANG. Federated learning privacy protection scheme based on local differential privacy for remote sensing data [J]. Journal of Computer Applications, 2025, 45(2): 506-517.
[10]	Zhiqiang REN, Xuebin CHEN. FedAud： adaptive defense mechanism based on historical model updates [J]. Journal of Computer Applications, 2025, 45(2): 490-496.
[11]	Min SUN, Shihang JIAO, Chenyan WANG. Credit based committee consensus mechanism [J]. Journal of Computer Applications, 2025, 45(1): 170-177.
[12]	Shufen ZHANG, Hongyang ZHANG, Zhiqiang REN, Xuebin CHEN. Survey of fairness in federated learning [J]. Journal of Computer Applications, 2025, 45(1): 1-14.
[13]	Chunxia LIU, Hanying XU, Gaimei GAO, Weichao DANG, Zilu LI. Smart contract vulnerability detection method based on echo state network [J]. Journal of Computer Applications, 2025, 45(1): 153-161.
[14]	Liang ZHU, Jingzhe MU, Hongqiang ZUO, Jingzhong GU, Fubao ZHU. Location privacy-preserving recommendation scheme based on federated graph neural network [J]. Journal of Computer Applications, 2025, 45(1): 136-143.
[15]	Yan YAN, Xingying QIAN, Pengbin YAN, Jie YANG. Federated learning-based statistical prediction and differential privacy protection method for location big data [J]. Journal of Computer Applications, 2025, 45(1): 127-135.

Decentralized federated learning privacy protection method for medical scenarios

面向医疗场景的去中心化联邦学习隐私保护方法

RichHTML

PDF

Knowledge

Abstract

Cite this article

share this article

Figures/Tables 8

References 28

Related Articles 15

Recommended Articles

Metrics