基于元路径注意力机制的MOOC视频推荐方法

doi:10.11772/j.issn.1001-9081.2021091800

《计算机应用》唯一官方网站 ›› 2022, Vol. 42 ›› Issue (6): 1808-1813.DOI: 10.11772/j.issn.1001-9081.2021091800

所属专题：第十八届CCF中国信息系统及应用大会

• 第十八届CCF中国信息系统及应用大会 • 上一篇下一篇

基于元路径注意力机制的MOOC视频推荐方法

周嘉凡¹, 杜岳峰¹, 宋宝燕¹, 李晓光¹(), 赵阿珠², 肖绪界³

^1.辽宁大学信息学院，沈阳 110036
^2.中国人民解放军32286部队，辽宁铁岭 112600
^3.中国人民解放军92515部队，沈阳 125099

收稿日期:2021-10-22 修回日期:2022-03-11 接受日期:2022-03-14 发布日期:2022-04-15 出版日期:2022-06-10
通讯作者: 李晓光
作者简介:周嘉凡（1996—），女，山西晋城人，硕士研究生，主要研究方向：推荐系统、数据挖掘
杜岳峰（1986—），男，辽宁沈阳人，讲师，博士，CCF会员，主要研究方向：推荐系统、数据质量管理
宋宝燕（1965—），女，辽宁铁岭人，教授，博士，CCF会员，主要研究方向：数据库技术
赵阿珠（1989—）女，辽宁沈阳人，工程师，硕士，主要研究方向：信息系统
肖绪界（1986—），男，辽宁本溪人，讲师，博士，主要研究方向：数据治理。
基金资助:
国家重点研发计划项目(2019YFB1406002);国家自然科学基金项目资助项目(U1811261);辽宁省公共舆情与网络安全大数据系统工程实验室基金资助项目(2016-294);辽宁省教育厅科学研究项目(LJKZ0094);辽宁省自然科学基金资助项目(2020-BS-082);辽宁省教育厅青年育苗项目(LQN202010)

MOOC video recommendation method based on meta-path attention mechanism

Jiafan ZHOU¹, Yuefeng DU¹, Baoyan SONG¹, Xiaoguang LI¹(), Azhu ZHAO², Xujie XIAO³

^1.College of Information，Liaoning University，Shenyang Liaoning 110036，China
^2.PLA 32286 Troop，Tieling Liaoning 112600，China
^3.PLA 92515 Troop，Shenyang Liaoning 125099，China

Received:2021-10-22 Revised:2022-03-11 Accepted:2022-03-14 Online:2022-04-15 Published:2022-06-10
Contact: Xiaoguang LI
About author:ZHOU Jiafan，born in 1996，M. S. candidate. Her research interests include recommendation system，data mining
DU Yuefeng，born in 1986，Ph. D.，lecturer. His research interests include recommendation system，data quality management
SONG Baoyan，，born in 1965，Ph. D.，professor. Her research interests include database technologies
ZHAO Azhu，born in 1989，M. S.，engineer. Her research interests include information system
XIAO Xujie，born in 1986，Ph. D.，lecturer. His research interests include data governance
Supported by:
National Key Research and Development Program of China(2019YFB1406002);National Natural Science Foundation of China(U1811261);Project of Public Opinion and Network Security Big Data System Engineering Laboratory of Liaoning Province(2016-294);Scientific Research Project of Education Department of Liaoning Province(LJKZ0094);Natural Science Foundation Project of Liaoning Province(2020-BS-082);Youth Nursery Project of Education Department of Liaoning Province(LQN202010)

摘要/Abstract

摘要：

MOOC平台上，一个课程可能存在多个版本的视频，为向学生推荐一个满足学习兴趣的MOOC视频就需要分析学生兴趣与视频内容的关系，为此，提出一种基于元路径注意力机制的视频推荐方法Mrec。一方面，利用异构信息网（HIN）描述学习者和MOOC资源之间的关系，进而使用元路径表达学生和视频之间的交互关系；另一方面，利用注意力机制捕捉学生、视频、元路径的特征对学习兴趣的影响情况。具体来说，Mrec方法包括两层注意力机制：第一层是节点注意力层，通过邻居的特征加权联合节点自身的特征，利用多头注意力得到实体在不同元路径下的特征表示；第二层是路径注意力层，通过融合在不同元路径的指导下学习到的实体的特征表示来捕捉实体在不同兴趣下的特征表示，并将学习到的用户与视频实体输入到多层感知机（MLP）中得到预测分数来进行top-K推荐。在MOOCCube和MOOCdata数据集上进行实验的结果表明，Mrec的点击率、归一化折损累积收益（NDCG）、平均倒数排名（MRR）与受试者工作特征曲线下面积（AUC）均优于对比方法。

Abstract:

On the MOOC platform， there may be multiple versions of videos for one course，in order to recommend a MOOC video that satisfies the learning interest of the student，it is necessary to analyze the relationship between student interests and video contents. For this purpose， a video recommendation model named Mrec was proposed based on meta-path attention mechanism. For one thing， the Heterogeneous Information Network （HIN） was used to describe the relationships between learners and MOOC resources， and then meta-path was used to express the interaction between students and videos. For another， the attention mechanism was used to capture the influences of the characteristics of students， videos and meta-paths on learning interest. Specifically， the Mrec model was composed of two layers of attention mechanism： the first layer was the node attention layer， the node own characteristics were weightely combined with neighbor characteristics， and the feature representations of entities under different meta-paths were obtained by multi-head attention； the second layer was the path attention layer， in which the feature representations of entities learned under the guidance of different meta-paths were integrated to capture the feature representations of entities under different interests， and the learned users and video entities were put into Multi-Layer Perceptron （MLP） to obtain the prediction scores for top-K recommendation. Experimental results on MOOCCube and MOOCdata datasets show that Mrec outperforms the comparison methods in terms of Hit Ratio （HR）， Normalized Discounted Cumulative Gain （NDCG）， Mean Reciprocal Ranking （MRR） and Area Under receiver operating characteristic Curve （AUC）.

Key words: recommendation system, Heterogeneous Information Network (HIN), meta-path, attention mechanism, Graph Neural Network (GNN)

中图分类号:

TP311

周嘉凡, 杜岳峰, 宋宝燕, 李晓光, 赵阿珠, 肖绪界. 基于元路径注意力机制的MOOC视频推荐方法[J]. 计算机应用, 2022, 42(6): 1808-1813.

Jiafan ZHOU, Yuefeng DU, Baoyan SONG, Xiaoguang LI, Azhu ZHAO, Xujie XIAO. MOOC video recommendation method based on meta-path attention mechanism[J]. Journal of Computer Applications, 2022, 42(6): 1808-1813.

图/表 10

图1 MOOC数据构建的HIN

Fig.1 HIN constructed by MOOC data

表1 用户元路径

Tab. 1 Meta-paths for user

元路径	模式	描述
$p 1$	UVU	点击过同一视频的用户
$p 2$	UCU	点击过同一课程的用户
$p 3$	UCTCU	点击过同一老师讲授的课程的用户

表1 用户元路径

Tab. 1 Meta-paths for user

元路径	模式	描述
$p 1$	UVU	点击过同一视频的用户
$p 2$	UCU	点击过同一课程的用户
$p 3$	UCTCU	点击过同一老师讲授的课程的用户

表2 视频元路径

Tab. 2 Meta-paths for videos

元路径	模式	描述
$q 1$	VCV	属于同一门课程的两个视频
$q 2$	VUV	被同一个用户点击的两个视频

表2 视频元路径

Tab. 2 Meta-paths for videos

元路径	模式	描述
$q 1$	VCV	属于同一门课程的两个视频
$q 2$	VUV	被同一个用户点击的两个视频

图2 实体表示生成框架

Fig.2 Framework of entity representation generation

图3 节点间注意力机制

Fig.3 Attention mechanism between nodes

表3 MOOCCube数据集中实体以及各种联系的统计信息

Tab. 3 Statistics of entities and relations in MOOCCube dataset

实体	数量	联系	数量
用户	10 000	用户-视频	459 237
视频	9 267	用户-课程	34 919
课程	306	课程-教师	306
教师	576

表4 MOOC数据集上各个方法的实验结果

Tab. 4 Experimental results of each model on MOOC datasets

方法	MOOCCube				MOOCdata
方法	HR@20	NGCD@20	MRR	AUC	HR@20	NGCD@20	MRR	AUC
DeepWalk	0.776 5	0.352 6	0.256 7	0.802 8	0.654 6	0.313 6	0.243 5	0.786 5
BPR	0.783 2	0.423 1	0.315 8	0.862 5	0.714 3	0.359 8	0.297 1	0.821 3
FM	0.754 4	0.398 9	0.312 2	0.838 9	0.698 5	0.337 6	0.341 2	0.807 6
metapath2vec	0.876 2	0.453 2	0.356 6	0.824 5	0.786 4	0.398 5	0.325 6	0.809 9
MOOCRec	0.883 1	0.473 7	0.369 7	0.866 7	0.831 8	0.419 9	0.346 6	0.825 4
NAIS	0.832 1	0.376 4	0.232 1	0.863 2	0.796 1	0.371 2	0.228 9	0.832 4
Mrec₁	0.862 2	0.478 4	0.363 4	0.892 7	0.832 1	0.426 5	0.356 7	0.854 6
Mrec₂	0.877 6	0.483 1	0.369 8	0.885 6	0.853 2	0.438 8	0.374 1	0.864 5
Mrec	0.902 1	0.513 4	0.421 9	0.901 9	0.894 1	0.487 6	0.391 8	0.884 3

图4 不同维度d的表现

Fig. 4 Performance under different dimensions d

表5 不同元路径的组合描述

Tab. 5 Description of different meta-path combinations

组合	描述	组合	描述
1	$p 1 & q 1$	4	$p 1 & q 1 + q 2$
2	$p 1 & q 2$	5	$p 1 + p 3 & q 1 + q 2$
3	$p 1 + p 2 & q 1$	6	$p 1 + p 2 + p 3 & q 1 + q 2$

表5 不同元路径的组合描述

Tab. 5 Description of different meta-path combinations

组合	描述	组合	描述
1	$p 1 & q 1$	4	$p 1 & q 1 + q 2$
2	$p 1 & q 2$	5	$p 1 + p 3 & q 1 + q 2$
3	$p 1 + p 2 & q 1$	6	$p 1 + p 2 + p 3 & q 1 + q 2$

图5 不同组合元路径的AUC和MRR

Fig.5 AUC and MRR of different meta-path combinations

参考文献 20

1	JING X， TANG J. Guess you like： course recommendation in MOOCs［C］// Proceedings of the 2017 International Conference on Web Intelligence. New York： ACM， 2017：783-789. 10.1145/3106426.3106478
2	ZHANG J， HAO B W， CHEN B， et al. Hierarchical reinforcement learning for course recommendation in MOOCs［C］// Proceedings of the 33rd AAAI Conference on Artificial Intelligence. Palo Alto， CA： AAAI Press， 2019： 435-442. 10.1609/aaai.v33i01.3301435
3	LIU Q， TONG S W， LIU C R， et al. Exploiting cognitive structure for adaptive learning［C］// Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2019： 627-635. 10.1145/3292500.3330922
4	KIPF T N， WELLING M. Semi-supervised classification with graph convolutional networks［EB/OL］. （2017-02-22）［2021-06-20］..
5	HAMILTON W L， YING Z， LESKOVEC J. Inductive representation learning on large graphs［C］// Proceedings of the 31st International Conference on Neural Information Processing Systems. Red Hook， NY： Curran Associates Inc.， 2017：1025-1035. 10.1145/3219819.3219890
6	VELIČKOVIĆ P， CURURULL G， CASANOVA A， et al. Graph attention networks［EB/OL］. （2018-02-04）［2021-06-20］..
7	FAN W Q， MA Y， LI Q， et al. A graph neural network framework for social recommendations［J］. IEEE Transactions on Knowledge and Data Engineering， 2022， 34（5）： 2033-2047. 10.1109/tkde.2020.3008732
8	HU B B， SHI C， ZHAO W X， et al. Leveraging meta-path based context for top-N recommendation with a neural co-attention model［C］// Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2018： 1531-1540. 10.1145/3219819.3219965
9	GONG J B， WANG S， WANG J L， et al. Attentional graph convolutional networks for knowledge concept recommendation in MOOCs in a heterogeneous view［C］// Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM， 2020：79-88. 10.1145/3397271.3401057
10	SUN Y Z， HAN J W. Mining heterogeneous information networks： a structural analysis approach［J］. ACM SIGKDD Explorations Newsletter， 2013， 14（2）：20-28. 10.1145/2481244.2481248
11	SUN Y Z， HAN J W， YAN X F， et al. PathSim： meta path-based top-k similarity search in heterogeneous information networks［J］. Proceedings of the VLDB Endowment， 2011， 4（11）：992-1003. 10.14778/3402707.3402736
12	MIKOLOV T， CHEN K， CORRADO G， et al. Efficient estimation of word representations in vector space［EB/OL］. （2013-09-07）［2021-06-20］.. 10.3126/jiee.v3i1.34327
13	ZHANG J N， SHI X J， XIE J Y， et al. GaAN： gated attention networks for learning on large and spatiotemporal graphs［C］// Proceedings of the 34th Conference on Uncertainty in Artificial Intelligence. Arlington， VA： AUAI Press， 2018： 339-349.
14	YU J， LUO G， XIAO T， et al. MOOCCube： a large-scale data repository for NLP applications in MOOCs［C］// Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg， PA： Association for Computational Linguistics， 2020： 3135-3142. 10.18653/v1/2020.acl-main.285
15	PEROZZI B， AL-RFOU R， SKIENA S. DeepWalk： online learning of social representations［C］// Proceedings of the 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2014： 701-710. 10.1145/2623330.2623732
16	RENDLE S， FREUDENTHALER C， GANTNER Z， et al. BPR： Bayesian personalized ranking from implicit feedback［C］// Proceedings of the 25th Conference on Uncertainty in Artificial Intelligence. Arlington， VA： AUAI Press， 2009：452-461.
17	RENDLE S. Factorization machines with libFM［J］. ACM Transactions on Intelligent Systems and Technology， 2017， 3（3）： No.57.
18	DONG Y X， CHAWLA N V， SWAMI A. metapath2vec： scalable representation learning for heterogeneous networks［C］// Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2017： 135-144. 10.1145/3097983.3098036
19	HE X N， HE Z K， SONG J K， et al. NAIS： neural attentive item similarity model for recommendation［J］. IEEE Transactions on Knowledge and Data Engineering， 2018， 30（12）： 2354-2366. 10.1109/tkde.2018.2831682
20	SHENG D M， YUAN J L， XIE Q， et al. MOOCRec： an attention meta-path based model for Top-K recommendation in MOOC［C］// Proceeding of the 2020 International Conference on Knowledge Science， Engineering and Management， LNCS 12274/LNAI 12274. Cham： Springer， 2020： 280-288. 10.1007/978-3-030-55130-8_25

[1]	杜郁, 朱焱. 构建预训练动态图神经网络预测学术合作行为消失[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2726-2731.
[2]	唐廷杰, 黄佳进, 秦进. 基于图辅助学习的会话推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2711-2718.
[3]	赵志强, 马培红, 黑新宏. 基于双重注意力机制的人群计数方法[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2886-2892.
[4]	秦璟, 秦志光, 李发礼, 彭悦恒. 基于概率稀疏自注意力神经网络的重性抑郁疾患诊断[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2970-2974.
[5]	李力铤, 华蓓, 贺若舟, 徐况. 基于解耦注意力机制的多变量时序预测模型[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2732-2738.
[6]	杨航, 李汪根, 张根生, 王志格, 开新. 基于图神经网络的多层信息交互融合算法用于会话推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2719-2725.
[7]	杨兴耀, 陈羽, 于炯, 张祖莲, 陈嘉颖, 王东晓. 结合自我特征和对比学习的推荐模型[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2704-2710.
[8]	杨莹, 郝晓燕, 于丹, 马垚, 陈永乐. 面向图神经网络模型提取攻击的图数据生成方法[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2483-2492.
[9]	薛凯鹏, 徐涛, 廖春节. 融合自监督和多层交叉注意力的多模态情感分析网络[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2387-2392.
[10]	汪雨晴, 朱广丽, 段文杰, 李书羽, 周若彤. 基于交互注意力机制的心理咨询文本情感分类模型[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2393-2399.
[11]	高鹏淇, 黄鹤鸣, 樊永红. 融合坐标与多头注意力机制的交互语音情感识别[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2400-2406.
[12]	李钟华, 白云起, 王雪津, 黄雷雷, 林初俊, 廖诗宇. 基于图像增强的低照度人脸检测[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2588-2594.
[13]	莫尚斌, 王文君, 董凌, 高盛祥, 余正涛. 基于多路信息聚合协同解码的单通道语音增强[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2611-2617.
[14]	杨帆, 邹窈, 朱明志, 马振伟, 程大伟, 蒋昌俊. 基于图注意力Transformer神经网络的信用卡欺诈检测模型[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2634-2642.
[15]	唐廷杰, 黄佳进, 秦进, 陆辉. 基于图共现增强多层感知机的会话推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2357-2364.

基于元路径注意力机制的MOOC视频推荐方法

MOOC video recommendation method based on meta-path attention mechanism

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 10

参考文献 20

相关文章 15

编辑推荐

Metrics