融合实体语义及结构信息的知识图谱推理

doi:10.11772/j.issn.1001-9081.2023111677

《计算机应用》唯一官方网站 ›› 2024, Vol. 44 ›› Issue (11): 3371-3378.DOI: 10.11772/j.issn.1001-9081.2023111677

融合实体语义及结构信息的知识图谱推理

王利琴¹^,²^,³, 张特¹, 许智宏¹^,²^,³, 董永峰¹^,²^,³(), 杨国伟⁴

^1.河北工业大学人工智能与数据科学学院，天津 300401
^2.河北省大数据计算重点实验室（河北工业大学），天津 300401
^3.河北省数据驱动工业智能工程研究中心（河北工业大学），天津 300401
^4.天津市公安局北辰分局，天津 300401

收稿日期:2023-12-05 修回日期:2024-04-26 接受日期:2024-05-11 发布日期:2024-05-30 出版日期:2024-11-10
通讯作者: 董永峰
作者简介:王利琴（1980—），女，河北张家口人，高级实验师，博士，CCF会员，主要研究方向：智能信息处理、知识图谱
张特（1997—），女，河北石家庄人，硕士，主要研究方向：智能信息处理、知识图谱
许智宏（1970—），女，河北张家口人，教授，博士，CCF会员，主要研究方向：智能搜索、知识图谱
杨国伟（1976—），男，天津人，主要研究方向：大数据、区块链。
基金资助:
河北省高等学校科学技术研究项目(ZD2022082);河北省高等教育教学改革研究与实践项目(2022GJJG049);中国高等教育学会2022年度高等教育科学研究规划课题(22XX0401);河北省研究生教育教学改革研究项目(YJG2023023)

Fusing entity semantic and structural information for knowledge graph reasoning

Linqin WANG¹^,²^,³, Te ZHANG¹, Zhihong XU¹^,²^,³, Yongfeng DONG¹^,²^,³(), Guowei YANG⁴

^1.School of Artificial Intelligence，Hebei University of Technology，Tianjin 300401，China
^2.Hebei Data Driven Industrial Intelligent Engineering Research Center （Hebei University of Technology），Tianjin 300401，China
^3.Hebei Engineering Research Center of Data?Driven Industrial （Intelligence Hebei University of Technology），Tianjin 300401，China
^4.Beichen Branch of Tianjin Municipal Public Security Bureau，Tianjin 300401，China

Received:2023-12-05 Revised:2024-04-26 Accepted:2024-05-11 Online:2024-05-30 Published:2024-11-10
Contact: Yongfeng DONG
About author:ZHANG Te， born in 1997， M. S. Her research interests include intelligent information processing， knowledge graph.
XU Zhihong， born in 1970， Ph. D.， professor. Her research interests include intelligent search， knowledge graph.
YANG Guowei， born in 1976. His research interests include big data， blockchain.
First author contact:WANG Liqin， born in 1980， Ph. D.， senior experimentalist. Her research interests include intelligent information processing， knowledge graph.
Supported by:
Science and Technology Research Project of Higher Education Institutions in Hebei Province(ZD2022082);Research and Practice Project of Teaching Reform of Higher Education in Hebei Province(2022GJJG049);Higher Education Scientific Research Planning Project of China Association of Higher Education for the Year of 2022(22XX0401);Teaching Reform Research Project of Postgraduate Education in Hebei Province(YJG2023023)

摘要/Abstract

摘要：

目前，图注意力网络（GAT）通过引入注意力机制对目标实体的邻域实体赋予不同权重并进行信息聚合，使得它更关注实体的局部邻域，忽略了图结构中实体和关系之间的拓扑结构；而且在多头注意力后将输出嵌入向量简单拼接或平均，导致注意力头之间相互独立，未能捕捉不同注意力头的重要语义信息。针对GAT应用于知识图谱（KG）推理任务时未充分挖掘实体结构信息和语义信息的问题，提出融合实体语义及结构信息的知识图谱推理（FESSI）模型。首先，使用TransE将实体和关系表示为同一空间的嵌入向量。其次，提出交互注意力机制，将GAT中多头注意力重新融合成多个混合注意力，增强注意力头之间的交互性，以提取目标实体更丰富的语义信息；同时，利用关系图卷积网络（R-GCN）提取实体的结构信息，并通过权重矩阵学习GAT和R-GCN的输出特征向量。最后，使用ConvKB作为解码器进行评分。在知识图谱数据集Kinship、NELL-995和FB15K-237上的实验结果表明，FESSI模型的效果优于多数对比模型，在3个数据集的平均倒数排名（MRR）指标上的结果分别为0.964、0.565和0.562。

关键词: 知识图谱, 知识图谱推理, 关系图卷积网络, 图注意力网络, 交互注意力机制

Abstract:

Currently， Graph ATtention network （GAT） assigns different weights to entities in the neighbourhood of the target entity and performs information aggregation by introducing an attention mechanism， which makes it pay more attention to the local neighbourhood of the entity and ignore the topology between entities and relations in the graph structure. Moreover， the output embedding vectors are simply spliced or averaged after the multi-head attention， resulting in the independence of attention heads， and fails to capture important semantic information of different attention heads. Aiming at the problems that GAT does not fully mine entity structural information and semantic information when it is applied to knowledge graph reasoning task， a Fusing Entity Semantic and Structural Information for knowledge graph reasoning （FESSI） model was proposed. Firstly， TransE was used to represent entities and relationships as embedding vectors in the same space. Secondly， an interactive attention mechanism was proposed to reintegrate the multi-head attention in GAT into multiple hybrid attentions， which enhanced the interaction between the attention heads to extract richer semantic information of the target entity. At the same time， the structural information of the entity was extracted by utilizing the Relational Graph Convolutional Network （R-GCN）， and the output feature vectors of GAT and R-GCN were learned through weight matrices. Finally， ConvKB was used as a decoder for scoring. Experimental results on the knowledge graph datasets Kinship， NELL-995 and FB15K-237 show that the FESSI model outperforms most comparison models， with the Mean Reciprocal Rank （MRR） index on the three datasets of 0.964， 0.565 and 0.562， respectively.

Key words: knowledge graph, knowledge graph reasoning, Relational Graph Convolutional Network (R-GCN), Graph ATtention network (GAT), interactive attention mechanism

中图分类号:

TP182

王利琴, 张特, 许智宏, 董永峰, 杨国伟. 融合实体语义及结构信息的知识图谱推理[J]. 计算机应用, 2024, 44(11): 3371-3378.

Linqin WANG, Te ZHANG, Zhihong XU, Yongfeng DONG, Guowei YANG. Fusing entity semantic and structural information for knowledge graph reasoning[J]. Journal of Computer Applications, 2024, 44(11): 3371-3378.

图/表 9

参考文献 30

1	PAULHEIM H. Knowledge graph refinement： a survey of approaches and evaluation methods［J］. Semantic Web， 2017， 8（3）： 489-508.
2	田玲，张谨川，张晋豪，等.知识图谱综述——表示、构建、推理与知识超图理论［J］.计算机应用，2021，41（8）：2161-2186.
	TIAN L， ZHANG J C， ZHANG J H， et al. Knowledge graph survey： representation， construction， reasoning and knowledge hypergraph theory［J］. Journal of Computer Applications， 2021， 41（8）： 2161-2186.
3	徐有为，张宏军，程恺，等.知识图谱嵌入研究综述［J］.计算机工程与应用，2022，58（9）：30-50.
	XU Y W， ZHANG H J， CHENG K， et al. Comprehensive survey on knowledge graph embedding［J］. Computer Engineering and Applications， 2022， 58（9）： 30-50.
4	BORDES A， USUNIER N， GARCIA-DURÁN A， et al. Translating embeddings for modeling multi-relational data［C］// Proceedings of the 26th International Conference on Neural Information Processing Systems — Volume 2. Red Hook， NY： Curran Associates Inc.， 2013： 2787-2795.
5	WANG Z， ZHANG J， FENG J， et al. Knowledge graph embedding by translating on hyperplanes［C］// Proceedings of the 28th AAAI Conference on Artificial Intelligence. Palo Alto， CA： AAAI Press， 2014： 1112-1119.
6	LIN Y， LIU Z， SUN M， et al. Learning entity and relation embeddings for knowledge graph completion［C］// Proceedings of the 29th AAAI Conference on Artificial Intelligence. Palo Alto， CA： AAAI Press， 2015： 2181-2187.
7	JI G， HE S， XU L， et al. Knowledge graph embedding via dynamic mapping matrix［C］// Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing of the Asian Federation of Natural Language Processing （Volume 1： Long Papers）. Stroudsburg， PA： ACL， 2015： 687-696.
8	XIAO H， HUANG M， HAO Y， et al. TransG： a generative mixture model for knowledge graph embedding［C］// Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics （Volume 1： Long Papers）. Stroudsburg， PA： ACL， 2016： 2316-2325.
9	QIAN W， FU C， ZHU Y， et al. Translating embeddings for knowledge graph completion with relation attention mechanism［C］// Proceedings of the 27th International Joint Conference on Artificial Intelligence. California： IJCAI， 2018： 4286-4292.
10	NICKEL M， TRESP V， KRIEGEL H P. A three-way model for collective learning on multi-relational data［C］// Proceedings of the 28th International Conference on Machine Learning. Madison， WI： Omnipress， 2011： 809-816.
11	YANG B， YIH W T， HE X， et al. Embedding entities and relations for learning and inference in knowledge bases［EB/OL］. （2015-08-29）［2023-09-23］..
12	TROUILLON T， WELBL J， RIEDEL S， et al. Complex embeddings for simple link prediction［C］// Proceedings of the 33rd International Conference on International Conference on Machine Learning. New York： JMLR.org， 2016： 2071-2080.
13	NICKEL M， ROSASCO L， POGGIO T. Holographic embeddings of knowledge graphs［C］// Proceedings of the 30th AAAI Conference on Artificial Intelligence. Palo Alto， CA： AAAI Press， 2016： 1955-1961.
14	CAO Z， XU Q， YANG Z， et al. Dual quaternion knowledge graph embeddings［C］// Proceedings of the 35th AAAI Conference on Artificial Intelligence. Palo Alto， CA： AAAI Press， 2021： 6894-6902.
15	DETTMERS T， MINERVINI P， STENETORP P， et al. Convolutional 2D knowledge graph embeddings［C］// Proceedings of the 32nd AAAI Conference on Artificial Intelligence. Palo Alto， CA： AAAI Press， 2018： 1811-1818.
16	JIANG X， WANG Q， WANG B. Adaptive convolution for multi-relational learning［C］// Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies， Volume 1 （Long and Short Papers）. Stroudsburg， PA： ACL， 2019： 978-987.
17	NGUYEN D Q， NGUYEN T D， NGUYEN D Q， et al. A novel embedding model for knowledge base completion based on convolutional neural network［C］// Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies， Volume 2 （Short Papers）. Stroudsburg， PA： ACL， 2018： 327-333.
18	SCHLICHTKRULL M S， KIPF T N， BLOEM P， et al. Modeling relational data with graph convolutional networks［C］// Proceedings of the 2018 International Conference， LNCS 10843. Cham： Springer， 2018： 593-607.
19	COLOMBO S， ALIVANISTOS D， COCHEZ M. Potential energy to improve link prediction with relational graph neural networks［C］// Proceedings of the 2022 AAAI Spring Symposium on Machine Learning and Knowledge Engineering for Hybrid Intelligence. Aachen： CEUR Workshop Proceedings， 2022： 1-9.
20	NATHANI D， CHAUHAN J， SHARMA C， et al. Learning attention-based embeddings for relation prediction in knowledge graphs［C］// Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics. Stroudsburg， PA： ACL， 2019： 4710-4723.
21	ZHAO Y， ZHOU H， XIE R， et al. Incorporating global information in local attention for knowledge representation learning［C］// Findings of the Association for Computational Linguistics： ACL-IJCNLP. Stroudsburg， PA： ACL， 2021： 1341-1351.
22	TERU K K， DENIS E， HAMILTON W L. Inductive relation prediction by subgraph reasoning［C］// Proceedings of the 37th International Conference on Machine Learning Research. New York： JMLR.org， 2020： 9448-9457.
23	WANG L， CHU H， DONG Y， et al. Learning neighborhood-based embedding sequence for link prediction in temporal knowledge graphs［J］. Journal of Intelligent and Fuzzy Systems， 2022， 43（6）： 7983-7994.
24	BAI Y， LV X， LI J， et al. SQUIRE： a sequence-to-sequence framework for multi-hop knowledge graph reasoning［C］// Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing. Stroudsburg， PA： ACL， 2022： 1649-1662.
25	YANG W， LI X， WANG P， et al. A joint knowledge graph reasoning method［C］// Proceedings of the 2022 IEEE International Conference on Dependable， Autonomic and Secure Computing/ International Conference on Pervasive Intelligence and Computing/ International Conference on Cloud and Big Data Computing/ International Conference on Cyber Science and Technology Congress. Piscataway： IEEE， 2022： 1-6.
26	WANG Y， WANG H， LU W， et al. HyGGE： hyperbolic graph attention network for reasoning over knowledge graphs［J］. Information Sciences， 2023， 630： 190-205.
27	ZHOU J， DU Y， ZHANG R， et al. Adaptive depth graph attention networks［EB/OL］. ［2023-09-23］..
28	LIN X V， SOCHER R， XIONG C. Multi-hop knowledge graph reasoning with reward shaping［C］// Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing. Stroudsburg， PA： ACL， 2018： 3243-3253.
29	XIONG W， HOANG T， WANG W Y. DeepPath： a reinforcement learning method for knowledge graph reasoning［C］// Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing. Stroudsburg， PA： ACL， 2017： 564-573.
30	TOUTANOVA K， CHEN D， PANTEL P， et al. Representing text for joint embedding of text and knowledge bases［C］// Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing. Stroudsburg， PA： ACL， 2015： 1499-1509.

数据集	编码器						解码器
数据集	学习率	权重衰减	随机失活	训练次数	注意力头数	嵌入维度	学习率	权重衰减	随机失活	训练次数	卷积核个数	卷积核大小
Kinship	10^-3	10^-7	0.3	4 000	2	200	10^-3	10^-6	0.0	400	50	1×3
NELL-995	10^-4	10^-7	0.5	3 000	2	200	10^-4	0.5×10^-5	0.3	200	400	1×3
FB15K-237	10^-4	10^-7	0.5	3 200	2	200	10^-4	0.5×10^-7	0.2	200	50	1×3

数据集	编码器						解码器
数据集	学习率	权重衰减	随机失活	训练次数	注意力头数	嵌入维度	学习率	权重衰减	随机失活	训练次数	卷积核个数	卷积核大小
Kinship	10^-3	10^-7	0.3	4 000	2	200	10^-3	10^-6	0.0	400	50	1×3
NELL-995	10^-4	10^-7	0.5	3 000	2	200	10^-4	0.5×10^-5	0.3	200	400	1×3
FB15K-237	10^-4	10^-7	0.5	3 200	2	200	10^-4	0.5×10^-7	0.2	200	50	1×3

模型	Kinship				NELL-995				FB15K-237
模型	Hits@1	Hits@3	Hits@10	MRR	Hits@1	Hits@3	Hits@10	MRR	Hits@1	Hits@3	Hits@10	MRR
TransE	0.009	0.643	0.841	0.309	0.344	0.472	0.501	0.401	0.198	0.376	0.441	0.279
DistMult	0.367	0.581	0.867	0.516	0.401	0.524	0.610	0.485	0.199	0.301	0.446	0.281
ComplEx	0.733	0.899	0.971	0.823	0.399	0.528	0.606	0.482	0.194	0.297	0.450	0.278
ConvE	0.738	0.917	0.981	0.833	0.403	0.531	0.613	0.491	0.225	0.341	0.497	0.312
ConvKB	0.436	0.755	0.953	0.614	0.370	0.470	0.545	0.430	0.198	0.324	0.471	0.289
R-GCN	0.030	0.088	0.239	0.109	0.082	0.126	0.188	0.120	0.100	0.181	0.300	0.164
eR-GCN	0.385	0.624	0.856	0.439	0.379	0.462	0.535	0.427	0.245	0.351	0.492	0.320
KBGAT	0.859	0.941	0.980	0.904	0.447	0.564	0.695	0.530	0.460	0.540	0.626	0.518
EIGAT	0.948	0.966	0.984	0.963	0.464	0.584	0.715	0.545	0.476	0.571	0.661	0.541
GRULR	0.568	0.824	0.912	0.715	—	—	—	—	0.245	0.360	0.497	0.329
SQUIRE	—	—	—	—	0.434	0.570	0.682	0.519	0.341	0.476	0.615	0.433
HyGGE	0.938	0.954	0.974	0.949	0.466	0.606	0.710	0.552	0.278	0.385	0.571	0.368
FESSI	0.953	0.969	0.985	0.964	0.489	0.601	0.736	0.565	0.479	0.574	0.670	0.562

模型	Kinship				NELL-995				FB15K-237
模型	Hits@1	Hits@3	Hits@10	MRR	Hits@1	Hits@3	Hits@10	MRR	Hits@1	Hits@3	Hits@10	MRR
TransE	0.009	0.643	0.841	0.309	0.344	0.472	0.501	0.401	0.198	0.376	0.441	0.279
DistMult	0.367	0.581	0.867	0.516	0.401	0.524	0.610	0.485	0.199	0.301	0.446	0.281
ComplEx	0.733	0.899	0.971	0.823	0.399	0.528	0.606	0.482	0.194	0.297	0.450	0.278
ConvE	0.738	0.917	0.981	0.833	0.403	0.531	0.613	0.491	0.225	0.341	0.497	0.312
ConvKB	0.436	0.755	0.953	0.614	0.370	0.470	0.545	0.430	0.198	0.324	0.471	0.289
R-GCN	0.030	0.088	0.239	0.109	0.082	0.126	0.188	0.120	0.100	0.181	0.300	0.164
eR-GCN	0.385	0.624	0.856	0.439	0.379	0.462	0.535	0.427	0.245	0.351	0.492	0.320
KBGAT	0.859	0.941	0.980	0.904	0.447	0.564	0.695	0.530	0.460	0.540	0.626	0.518
EIGAT	0.948	0.966	0.984	0.963	0.464	0.584	0.715	0.545	0.476	0.571	0.661	0.541
GRULR	0.568	0.824	0.912	0.715	—	—	—	—	0.245	0.360	0.497	0.329
SQUIRE	—	—	—	—	0.434	0.570	0.682	0.519	0.341	0.476	0.615	0.433
HyGGE	0.938	0.954	0.974	0.949	0.466	0.606	0.710	0.552	0.278	0.385	0.571	0.368
FESSI	0.953	0.969	0.985	0.964	0.489	0.601	0.736	0.565	0.479	0.574	0.670	0.562

模型	Kinship				NELL-995				FB15K-237
模型	Hits@1	Hits@3	Hits@10	MRR	Hits@1	Hits@3	Hits@10	MRR	Hits@1	Hits@3	Hits@10	MRR
-R-GCN	0.948	0.963	0.980	0.961	0.483	0.594	0.722	0.556	0.473	0.569	0.662	0.540
-Att	0.952	0.966	0.981	0.962	0.486	0.596	0.732	0.560	0.476	0.570	0.668	0.545
FESSI	0.953	0.969	0.985	0.964	0.489	0.601	0.736	0.565	0.479	0.574	0.670	0.562

融合实体语义及结构信息的知识图谱推理

Fusing entity semantic and structural information for knowledge graph reasoning

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 9

参考文献 30

相关文章 15

编辑推荐

Metrics

[1]	薛桂香, 王辉, 周卫峰, 刘瑜, 李岩. 基于知识图谱和时空扩散图卷积网络的港口交通流量预测[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2952-2957.
[2]	武杰, 张安思, 吴茂东, 张仪宗, 王从宝. 知识图谱在装备故障诊断领域的研究与应用综述[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2651-2659.
[3]	杨航, 李汪根, 张根生, 王志格, 开新. 基于图神经网络的多层信息交互融合算法用于会话推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2719-2725.
[4]	汪雨晴, 朱广丽, 段文杰, 李书羽, 周若彤. 基于交互注意力机制的心理咨询文本情感分类模型[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2393-2399.
[5]	赵宇博, 张丽萍, 闫盛, 侯敏, 高茂. 基于改进分段卷积神经网络和知识蒸馏的学科知识实体间关系抽取[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2421-2429.
[6]	于右任, 张仰森, 蒋玉茹, 黄改娟. 融合多粒度语言知识与层级信息的中文命名实体识别模型[J]. 《计算机应用》唯一官方网站, 2024, 44(6): 1706-1712.
[7]	吕锡婷, 赵敬华, 荣海迎, 赵嘉乐. 基于Transformer和关系图卷积网络的信息传播预测模型[J]. 《计算机应用》唯一官方网站, 2024, 44(6): 1760-1766.
[8]	柯添赐, 刘建华, 孙水华, 郑智雄, 蔡子杰. 融合强关联依赖和简洁语法的方面级情感分析模型[J]. 《计算机应用》唯一官方网站, 2024, 44(6): 1786-1795.
[9]	李健京, 李贯峰, 秦飞舟, 李卫军. 基于不确定知识图谱嵌入的多关系近似推理模型[J]. 《计算机应用》唯一官方网站, 2024, 44(6): 1751-1759.
[10]	赵晓焱, 匡燕, 王梦含, 袁培燕. 基于知识图谱的端到端内容共享机制[J]. 《计算机应用》唯一官方网站, 2024, 44(4): 995-1001.
[11]	郭洁, 林佳瑜, 梁祖红, 罗孝波, 孙海涛. 基于知识感知和跨层次对比学习的推荐方法[J]. 《计算机应用》唯一官方网站, 2024, 44(4): 1121-1127.
[12]	郭磊, 贾真, 李天瑞. 面向方面级情感分析的交互式关系图注意力网络[J]. 《计算机应用》唯一官方网站, 2024, 44(3): 696-701.
[13]	徐大鹏, 侯新民. 基于网络结构设计的图神经网络特征选择方法[J]. 《计算机应用》唯一官方网站, 2024, 44(3): 663-670.
[14]	蒋汶娟, 过弋, 付娇娇. 融合图注意力的复杂时序知识图谱推理问答模型[J]. 《计算机应用》唯一官方网站, 2024, 44(10): 3047-3057.
[15]	邓金科, 段文杰, 张顺香, 汪雨晴, 李书羽, 李嘉伟. 基于提示增强与双图注意力网络的复杂因果关系抽取[J]. 《计算机应用》唯一官方网站, 2024, 44(10): 3081-3089.