基于领域融合和时间权重的招工推荐模型

doi:10.11772/j.issn.1001-9081.2022060802

《计算机应用》唯一官方网站 ›› 2023, Vol. 43 ›› Issue (7): 2133-2139.DOI: 10.11772/j.issn.1001-9081.2022060802

• 人工智能 • 上一篇

基于领域融合和时间权重的招工推荐模型

叶坤佩¹^,², 熊熙¹^,², 丁哲¹^,²()

^1.成都信息工程大学网络空间安全学院, 成都 610225
^2.先进密码技术与系统安全四川省重点实验室(成都信息工程大学), 成都 610225

收稿日期:2022-06-01 修回日期:2022-10-08 接受日期:2022-10-17 发布日期:2022-10-25 出版日期:2023-07-10
通讯作者: 丁哲
作者简介:叶坤佩（1998—），男，江苏泰兴人，硕士研究生，主要研究方向：自然语言处理、推荐系统；
熊熙（1983—），男，四川成都人，副教授，博士，CCF会员，主要研究方向：信息抽取、自然语言处理、推荐系统；
丁哲（1982—），男，四川成都人，讲师，博士，CCF会员，主要研究方向：数据挖掘。
基金资助:
国家自然科学基金资助项目(81901389);国家社会科学基金资助项目(19BGL123);四川省科技计划项目(2021JDRC0046)

Recruitment recommendation model based on field fusion and time weight

Kunpei YE¹^,², Xi XIONG¹^,², Zhe DING¹^,²()

^1.School of Cybersecurity，Chengdu University of Information Technology，Chengdu Sichuan 610225，China
^2.Advanced Cryptography and System Security Key Laboratory of Sichuan Province （Chengdu University of Information Technology），Chengdu Sichuan 610225，China

Received:2022-06-01 Revised:2022-10-08 Accepted:2022-10-17 Online:2022-10-25 Published:2023-07-10
Contact: Zhe DING
About author:YE Kunpei， born in 1998， M. S. candidate. His research interests include natural language processing， recommendation system.
XIONG Xi， born in 1983， Ph. D.， associate professor. His research interests include information extraction， natural language processing， recommendation system.
DING Zhe， born in 1982， Ph. D.， lecturer. His research interests include data mining.
Supported by:
National Natural Science Foundation of China(81901389);National Social Science Foundation of China(19BGL123);Sichuan Science and Technology Program(2021JDRC0046)

摘要/Abstract

摘要：

针对推荐系统使用嵌入层&多层感知机（Embedding&MLP）范式学习用户表示时强特征过拟合和弱特征欠拟合的问题，以及使用门控循环单元（GRU）学习用户兴趣时没有考虑到当前行为对用户最终兴趣的影响力会随时间推移逐渐减弱的问题，设计了一种基于领域融合和时间权重的招工推荐模型（RecRec）。首先，RecRec采用新的领域融合层来代替传统的串联层，而领域融合层在多域特征上表现出显著的优越性能。然后，RecRec在兴趣演化层将时间权重融入GRU，并提出时间戳门控循环单元（TSGRU），而TSGRU能更准确地学习用户兴趣。最终，RecRec通过预测用户拨通率来实现个性化推荐。实验结果表明，相较于YouTube DNN、Wide&Deep、融合注意力LSTM的协同过滤算法（ALAMF）和分期序列自注意力网络（LSSSAN），RecRec的AUC提高了0.03~0.36个百分点，说明RecRec能有效学习用户表示和用户兴趣。

Abstract:

To address the problem of strong feature overfitting and weak feature underfitting problem when learning user representations using Embedding layer & Multi-Layer Perceptron （Embedding&MLP） paradigm for recommendation systems and the problem of learning user interests using Gated Recurrent Unit （GRU） without considering that the influence of current behaviors on users’ final interests diminishes over time， a Recruitment Recommendation Model based on Field Fusion and Time Weight （RecRec） was proposed. In RecRec， firstly， a new domain fusion layer was adopted to replace the traditional tandem layer， and the domain fusion layer showed a significantly superior performance on multi-domain features. Then， time weight was incorporated into GRU in the interest evolution layer， and a TimeStamp Gated Recurrent Unit （TSGRU） was proposed， by which made the user interests were learned more accurately. Ultimately， personalised recommendations were achieved by predicting the dial-up rate of users. Experimental results show that the Area Under Curve （AUC） of RecRec improves by 0.03 to 0.36 percentage points compared to YouTube Deep Neural Network （DNN）， Wide&Deep， Auxiliary LSTM-Attention Matrix Factorization （ALAMF） and Long-term & Short-term Sequential Self-Attention Network （LSSSAN）， indicating that RecRec can effectively learn user representations and user interests.

Key words: recommendation system, deep learning, attention mechanism, recruitment information, Gated Recurrent Unit (GRU), field fusion, time weight

中图分类号:

TP183

叶坤佩, 熊熙, 丁哲. 基于领域融合和时间权重的招工推荐模型[J]. 计算机应用, 2023, 43(7): 2133-2139.

Kunpei YE, Xi XIONG, Zhe DING. Recruitment recommendation model based on field fusion and time weight[J]. Journal of Computer Applications, 2023, 43(7): 2133-2139.

图/表 7

图1 RecRec模型框架

Fig. 1 RecRec model framework

图2 BERT微调模型

Fig. 2 BERT fine-tuning model

图3 TSGRU结构

Fig. 3 TSGRU structure

图4 领域融合层

Fig. 4 Field fusion layer

表1 招工数据集上的模型对比

Tab. 1 Comparison of models on recruitment dataset

模型	AUC	RelaImpr/%
LR	0.578 3	-2.13
YouTube DNN	0.580 0	0.00
Wide&Deep	0.580 4	0.50
PNN	0.581 1	1.38
DeepFM	0.581 8	2.25
ALAMF	0.582 4	3.00
LSSSAN	0.583 3	4.12
RecRec	0.583 6	4.50

表2 消融实验结果的对比

Tab. 2 Comparison of ablation experimental results

模型	AUC	RelaImpr/%
RecRec-average	0.582 5	3.13
RecRec-GRU	0.583 1	3.87
RecRec	0.583 6	4.50

图5 不同模型特征输入和深度的AUC对比

Fig. 5 Comparison of AUC for different model feature inputs and depths

参考文献 24

1	ZAMANZADEH DARBAN Z， VALIPOUR M H. GHRS： graph-based hybrid recommendation system with application to movie recommendation［J］. Expert Systems with Applications， 2022， 200： No.116850. 10.1016/j.eswa.2022.116850
2	鲍维克，袁春.面向推荐系统的分期序列自注意力网络［J］.智能系统学报， 2021， 16（2）： 353-361. 10.11992/tis.202005028
	BAO W K， YUAN C. Recommendation system with long-term and short-term sequential self-attention network［J］. CAAI Transactions on Intelligent Systems， 2021， 16（2）： 353-361. 10.11992/tis.202005028
3	COVINGTON P， ADAMS J， SARGIN E. Deep neural networks for YouTube recommendations ［C］// Proceedings of the 10th ACM Conference on Recommender Systems. New York： ACM， 2016： 191-198. 10.1145/2959100.2959190
4	JAIS I K M， ISMAIL A R， NISA S Q. Adam optimization algorithm for wide and deep neural network［J］. Knowledge Engineering and Data Science， 2019， 2（1）： 41-46. 10.17977/um018v2i12019p41-46
5	TIAN X D， WANG J M， WEN Y， et al. Multi-attribute scientific documents retrieval and ranking model based on GBDT and LR［J］. Mathematical Biosciences and Engineering， 2022， 19（4）： 3748-3766. 10.3934/mbe.2022172
6	CHEN L， LIU Y， ZHENG Z B， et al. Heterogeneous neural attentive factorization machine for rating prediction ［C］// Proceedings of the 27th ACM International Conference on Information and Knowledge Management. New York： ACM， 2018： 833-842. 10.1145/3269206.3271759
7	RENDLE S. Factorization machines ［C］// Proceedings of the 2010 IEEE International Conference on Data Mining. Piscataway： IEEE， 2010： 995-1000. 10.1109/icdm.2010.127
8	KANG G S， LIU J X， XIAO Y， et al. Neural and attentional factorization machine-based Web API recommendation for mashup development［J］. IEEE Transactions on Network and Service Management， 2021， 18（4）： 4183-4196. 10.1109/tnsm.2021.3125028
9	ZHOU F， ZHOU H M， YANG Z H， et al. EMD2FNN： a strategy combining empirical mode decomposition and factorization machine based neural network for stock market trend prediction［J］. Expert Systems with Applications， 2019， 115： 136-151. 10.1016/j.eswa.2018.07.065
10	QU Y R， CAI H， REN K， et al. Product-based neural networks for user response prediction ［C］// Proceedings of the IEEE 16th International Conference on Data Mining. Piscataway： IEEE， 2016： 1149-1154. 10.1109/icdm.2016.0151
11	HE X N， CHUA T S. Neural factorization machines for sparse predictive analytics ［C］// Proceedings of the 40th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM， 2017： 355-364. 10.1145/3077136.3080777
12	LIAN J X， ZHOU X H， ZHANG F Z， et al. xDeepFM： combining explicit and implicit feature interactions for recommender systems ［C］// Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2018： 1754-1763. 10.1145/3219819.3220023
13	YU Z C， AMIN S U， ALHUSSEIN M， et al. Research on disease prediction based on improved DeepFM and IoMT［J］. IEEE Access， 2021， 9： 39043-39054. 10.1109/access.2021.3062687
14	SHAN Y， HOENS T R， JIAO J， et al. Deep crossing： web-scale modeling without manually crafted combinatorial features ［C］// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2016： 255-262. 10.1145/2939672.2939704
15	ZHAI S F， CHANG K H， ZHANG R F， et al. DeepIntent： learning attentions for online advertising with recurrent neural networks ［C］// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2016： 1295-1304. 10.1145/2939672.2939759
16	罗洋，夏鸿斌，刘渊.融合注意力LSTM的协同过滤推荐算法［J］.中文信息学报， 2019， 33（12）： 110-118. 10.3969/j.issn.1003-0077.2019.12.014
	LUO Y， XIA H B， LIU Y. Collaborative filtering based on attention LSTM［J］. Journal of Chinese Information Processing， 2019， 33（12）： 110-118. 10.3969/j.issn.1003-0077.2019.12.014
17	HUI B， ZHANG L Z， ZHOU X， et al. Personalized recommendation system based on knowledge embedding and historical behavior［J］. Applied Intelligence， 2022， 52（1）： 954-966. 10.1007/s10489-021-02363-w
18	POPOV A， IAKOVLEVA D. Adaptive look-alike targeting in social networks advertising［J］. Procedia Computer Science， 2018， 136： 255-264. 10.1016/j.procs.2018.08.264
19	GAO Z J， FENG A， SONG X Y， et al. Target-dependent sentiment classification with BERT［J］. IEEE Access， 2019， 7： 154290-154299. 10.1109/access.2019.2946594
20	孟开元，岳宇航，曹庆年.新闻推荐系统研究综述［J］.软件导刊， 2021， 20（1）： 249-252. 10.11907/rjdk.201896
	MENG K Y， YUE Y H， CAO Q N. Research review of news recommendation system［J］. Software Guide， 2021， 20（1）： 249-252. 10.11907/rjdk.201896
21	ACHEAMPONG F A， NUNOO-MENSAH H， CHEN W Y. Transformer models for text-based emotion detection： a review of BERT-based approaches［J］. Artificial Intelligence Review， 2021， 54（8）： 5789-5829. 10.1007/s10462-021-09958-2
22	TOMAZ NEVES P L， FORNARI J， BATISTA FLORINDO J. Self-attention generative adversarial networks applied to conditional music generation［J］. Multimedia Tools and Applications， 2022， 81（17）： 24419-24430. 10.1007/s11042-022-12116-7
23	EMMANUEL T， MAUPONG T， MPOELENG D， et al. A survey on missing data in machine learning［J］. Journal of Big Data， 2021， 8： No.140. 10.1186/s40537-021-00516-9
24	SUN Y N， YIN K， LIU H H， et al. Meta-learned specific scenario interest network for user preference prediction ［C］// Proceedings of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM， 2021： 1970-1974. 10.1145/3404835.3463077

[1]	拓雨欣, 薛涛. 融合指针网络与关系嵌入的三元组联合抽取模型[J]. 《计算机应用》唯一官方网站, 2023, 43(7): 2116-2124.
[2]	岑黎彬, 李靖东, 林淳波, 王晓玲. 基于深度自回归模型的近似查询处理方法[J]. 《计算机应用》唯一官方网站, 2023, 43(7): 2034-2039.
[3]	魏远, 林彦, 郭晟楠, 林友芳, 万怀宇. 融合出发地与目的地时空相关性的城市区域间出租车需求预测[J]. 《计算机应用》唯一官方网站, 2023, 43(7): 2100-2106.
[4]	张奕, 王真梅. 图自动编码器上二阶段融合实现的环状RNA-疾病关联预测[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1979-1986.
[5]	孙男男, 朴春慧, 马新娜. 基于社交关系和时序信息的团购推荐方法[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1719-1729.
[6]	张慧斌, 冯丽萍, 郝耀军, 王一宁. 基于注意力机制和迁移学习的古壁画朝代识别[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1826-1832.
[7]	郑智雄, 刘建华, 孙水华, 徐戈, 林鸿辉. 融合多窗口局部信息的方面级情感分析模型[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1796-1802.
[8]	王辉, 李建红. 基于Transformer的三维模型小样本识别方法[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1750-1758.
[9]	秦静, 马雪倩, 高福杰, 季长清, 汪祖民. 基于步态分析的帕金森病辅助诊断方法综述[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1687-1695.
[10]	陈一驰, 陈斌. 计算机视觉中的终身学习综述[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1785-1795.
[11]	方可, 刘蓉, 魏驰宇, 张心月, 刘杨. 复杂场景下的行人跌倒检测算法[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1811-1817.
[12]	鲁斌, 柳杰林. 基于特征增强的三维点云语义分割[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1818-1825.
[13]	靳鑫, 刘仰川, 朱叶晨, 张子健, 高欣. 基于残差编解码-生成对抗网络的正弦图修复的稀疏角度锥束CT图像重建[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1950-1957.
[14]	董润婷, 吴利, 王晓英, 曹腾飞, 黄建强, 管琴, 吴洁瑕. 深度学习在天气预报领域的应用分析及研究进展综述[J]. 《计算机应用》唯一官方网站, 2023, 43(6): 1958-1968.
[15]	刘阳, 陆志扬, 王骏, 施俊. 基于自注意力连接UNet的磁共振成像去吉布斯伪影算法[J]. 《计算机应用》唯一官方网站, 2023, 43(5): 1606-1611.

基于领域融合和时间权重的招工推荐模型

Recruitment recommendation model based on field fusion and time weight

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 7

参考文献 24

相关文章 15

编辑推荐

Metrics