基于领域融合和时间权重的招工推荐模型

doi:10.11772/j.issn.1001-9081.2022060802

《计算机应用》唯一官方网站 ›› 2023, Vol. 43 ›› Issue (7): 2133-2139.DOI: 10.11772/j.issn.1001-9081.2022060802

所属专题：人工智能

基于领域融合和时间权重的招工推荐模型

叶坤佩¹^,², 熊熙¹^,², 丁哲¹^,²()

^1.成都信息工程大学网络空间安全学院, 成都 610225
^2.先进密码技术与系统安全四川省重点实验室(成都信息工程大学), 成都 610225

收稿日期:2022-06-01 修回日期:2022-10-08 接受日期:2022-10-17 发布日期:2022-10-25 出版日期:2023-07-10
通讯作者: 丁哲
作者简介:叶坤佩（1998—），男，江苏泰兴人，硕士研究生，主要研究方向：自然语言处理、推荐系统；
熊熙（1983—），男，四川成都人，副教授，博士，CCF会员，主要研究方向：信息抽取、自然语言处理、推荐系统；
丁哲（1982—），男，四川成都人，讲师，博士，CCF会员，主要研究方向：数据挖掘。
基金资助:
国家自然科学基金资助项目(81901389);国家社会科学基金资助项目(19BGL123);四川省科技计划项目(2021JDRC0046)

Recruitment recommendation model based on field fusion and time weight

Kunpei YE¹^,², Xi XIONG¹^,², Zhe DING¹^,²()

^1.School of Cybersecurity，Chengdu University of Information Technology，Chengdu Sichuan 610225，China
^2.Advanced Cryptography and System Security Key Laboratory of Sichuan Province （Chengdu University of Information Technology），Chengdu Sichuan 610225，China

Received:2022-06-01 Revised:2022-10-08 Accepted:2022-10-17 Online:2022-10-25 Published:2023-07-10
Contact: Zhe DING
About author:YE Kunpei， born in 1998， M. S. candidate. His research interests include natural language processing， recommendation system.
XIONG Xi， born in 1983， Ph. D.， associate professor. His research interests include information extraction， natural language processing， recommendation system.
DING Zhe， born in 1982， Ph. D.， lecturer. His research interests include data mining.
Supported by:
National Natural Science Foundation of China(81901389);National Social Science Foundation of China(19BGL123);Sichuan Science and Technology Program(2021JDRC0046)

摘要/Abstract

摘要：

针对推荐系统使用嵌入层&多层感知机（Embedding&MLP）范式学习用户表示时强特征过拟合和弱特征欠拟合的问题，以及使用门控循环单元（GRU）学习用户兴趣时没有考虑到当前行为对用户最终兴趣的影响力会随时间推移逐渐减弱的问题，设计了一种基于领域融合和时间权重的招工推荐模型（RecRec）。首先，RecRec采用新的领域融合层来代替传统的串联层，而领域融合层在多域特征上表现出显著的优越性能。然后，RecRec在兴趣演化层将时间权重融入GRU，并提出时间戳门控循环单元（TSGRU），而TSGRU能更准确地学习用户兴趣。最终，RecRec通过预测用户拨通率来实现个性化推荐。实验结果表明，相较于YouTube DNN、Wide&Deep、融合注意力LSTM的协同过滤算法（ALAMF）和分期序列自注意力网络（LSSSAN），RecRec的AUC提高了0.03~0.36个百分点，说明RecRec能有效学习用户表示和用户兴趣。

Abstract:

To address the problem of strong feature overfitting and weak feature underfitting problem when learning user representations using Embedding layer & Multi-Layer Perceptron （Embedding&MLP） paradigm for recommendation systems and the problem of learning user interests using Gated Recurrent Unit （GRU） without considering that the influence of current behaviors on users’ final interests diminishes over time， a Recruitment Recommendation Model based on Field Fusion and Time Weight （RecRec） was proposed. In RecRec， firstly， a new domain fusion layer was adopted to replace the traditional tandem layer， and the domain fusion layer showed a significantly superior performance on multi-domain features. Then， time weight was incorporated into GRU in the interest evolution layer， and a TimeStamp Gated Recurrent Unit （TSGRU） was proposed， by which made the user interests were learned more accurately. Ultimately， personalised recommendations were achieved by predicting the dial-up rate of users. Experimental results show that the Area Under Curve （AUC） of RecRec improves by 0.03 to 0.36 percentage points compared to YouTube Deep Neural Network （DNN）， Wide&Deep， Auxiliary LSTM-Attention Matrix Factorization （ALAMF） and Long-term & Short-term Sequential Self-Attention Network （LSSSAN）， indicating that RecRec can effectively learn user representations and user interests.

Key words: recommendation system, deep learning, attention mechanism, recruitment information, Gated Recurrent Unit (GRU), field fusion, time weight

中图分类号:

TP183

叶坤佩, 熊熙, 丁哲. 基于领域融合和时间权重的招工推荐模型[J]. 计算机应用, 2023, 43(7): 2133-2139.

Kunpei YE, Xi XIONG, Zhe DING. Recruitment recommendation model based on field fusion and time weight[J]. Journal of Computer Applications, 2023, 43(7): 2133-2139.

图/表 7

图1 RecRec模型框架

Fig. 1 RecRec model framework

图2 BERT微调模型

Fig. 2 BERT fine-tuning model

图3 TSGRU结构

Fig. 3 TSGRU structure

图4 领域融合层

Fig. 4 Field fusion layer

表1 招工数据集上的模型对比

Tab. 1 Comparison of models on recruitment dataset

模型	AUC	RelaImpr/%
LR	0.578 3	-2.13
YouTube DNN	0.580 0	0.00
Wide&Deep	0.580 4	0.50
PNN	0.581 1	1.38
DeepFM	0.581 8	2.25
ALAMF	0.582 4	3.00
LSSSAN	0.583 3	4.12
RecRec	0.583 6	4.50

表2 消融实验结果的对比

Tab. 2 Comparison of ablation experimental results

模型	AUC	RelaImpr/%
RecRec-average	0.582 5	3.13
RecRec-GRU	0.583 1	3.87
RecRec	0.583 6	4.50

图5 不同模型特征输入和深度的AUC对比

Fig. 5 Comparison of AUC for different model feature inputs and depths

参考文献 24

1	ZAMANZADEH DARBAN Z， VALIPOUR M H. GHRS： graph-based hybrid recommendation system with application to movie recommendation［J］. Expert Systems with Applications， 2022， 200： No.116850. 10.1016/j.eswa.2022.116850
2	鲍维克，袁春.面向推荐系统的分期序列自注意力网络［J］.智能系统学报， 2021， 16（2）： 353-361. 10.11992/tis.202005028
	BAO W K， YUAN C. Recommendation system with long-term and short-term sequential self-attention network［J］. CAAI Transactions on Intelligent Systems， 2021， 16（2）： 353-361. 10.11992/tis.202005028
3	COVINGTON P， ADAMS J， SARGIN E. Deep neural networks for YouTube recommendations ［C］// Proceedings of the 10th ACM Conference on Recommender Systems. New York： ACM， 2016： 191-198. 10.1145/2959100.2959190
4	JAIS I K M， ISMAIL A R， NISA S Q. Adam optimization algorithm for wide and deep neural network［J］. Knowledge Engineering and Data Science， 2019， 2（1）： 41-46. 10.17977/um018v2i12019p41-46
5	TIAN X D， WANG J M， WEN Y， et al. Multi-attribute scientific documents retrieval and ranking model based on GBDT and LR［J］. Mathematical Biosciences and Engineering， 2022， 19（4）： 3748-3766. 10.3934/mbe.2022172
6	CHEN L， LIU Y， ZHENG Z B， et al. Heterogeneous neural attentive factorization machine for rating prediction ［C］// Proceedings of the 27th ACM International Conference on Information and Knowledge Management. New York： ACM， 2018： 833-842. 10.1145/3269206.3271759
7	RENDLE S. Factorization machines ［C］// Proceedings of the 2010 IEEE International Conference on Data Mining. Piscataway： IEEE， 2010： 995-1000. 10.1109/icdm.2010.127
8	KANG G S， LIU J X， XIAO Y， et al. Neural and attentional factorization machine-based Web API recommendation for mashup development［J］. IEEE Transactions on Network and Service Management， 2021， 18（4）： 4183-4196. 10.1109/tnsm.2021.3125028
9	ZHOU F， ZHOU H M， YANG Z H， et al. EMD2FNN： a strategy combining empirical mode decomposition and factorization machine based neural network for stock market trend prediction［J］. Expert Systems with Applications， 2019， 115： 136-151. 10.1016/j.eswa.2018.07.065
10	QU Y R， CAI H， REN K， et al. Product-based neural networks for user response prediction ［C］// Proceedings of the IEEE 16th International Conference on Data Mining. Piscataway： IEEE， 2016： 1149-1154. 10.1109/icdm.2016.0151
11	HE X N， CHUA T S. Neural factorization machines for sparse predictive analytics ［C］// Proceedings of the 40th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM， 2017： 355-364. 10.1145/3077136.3080777
12	LIAN J X， ZHOU X H， ZHANG F Z， et al. xDeepFM： combining explicit and implicit feature interactions for recommender systems ［C］// Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2018： 1754-1763. 10.1145/3219819.3220023
13	YU Z C， AMIN S U， ALHUSSEIN M， et al. Research on disease prediction based on improved DeepFM and IoMT［J］. IEEE Access， 2021， 9： 39043-39054. 10.1109/access.2021.3062687
14	SHAN Y， HOENS T R， JIAO J， et al. Deep crossing： web-scale modeling without manually crafted combinatorial features ［C］// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2016： 255-262. 10.1145/2939672.2939704
15	ZHAI S F， CHANG K H， ZHANG R F， et al. DeepIntent： learning attentions for online advertising with recurrent neural networks ［C］// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM， 2016： 1295-1304. 10.1145/2939672.2939759
16	罗洋，夏鸿斌，刘渊.融合注意力LSTM的协同过滤推荐算法［J］.中文信息学报， 2019， 33（12）： 110-118. 10.3969/j.issn.1003-0077.2019.12.014
	LUO Y， XIA H B， LIU Y. Collaborative filtering based on attention LSTM［J］. Journal of Chinese Information Processing， 2019， 33（12）： 110-118. 10.3969/j.issn.1003-0077.2019.12.014
17	HUI B， ZHANG L Z， ZHOU X， et al. Personalized recommendation system based on knowledge embedding and historical behavior［J］. Applied Intelligence， 2022， 52（1）： 954-966. 10.1007/s10489-021-02363-w
18	POPOV A， IAKOVLEVA D. Adaptive look-alike targeting in social networks advertising［J］. Procedia Computer Science， 2018， 136： 255-264. 10.1016/j.procs.2018.08.264
19	GAO Z J， FENG A， SONG X Y， et al. Target-dependent sentiment classification with BERT［J］. IEEE Access， 2019， 7： 154290-154299. 10.1109/access.2019.2946594
20	孟开元，岳宇航，曹庆年.新闻推荐系统研究综述［J］.软件导刊， 2021， 20（1）： 249-252. 10.11907/rjdk.201896
	MENG K Y， YUE Y H， CAO Q N. Research review of news recommendation system［J］. Software Guide， 2021， 20（1）： 249-252. 10.11907/rjdk.201896
21	ACHEAMPONG F A， NUNOO-MENSAH H， CHEN W Y. Transformer models for text-based emotion detection： a review of BERT-based approaches［J］. Artificial Intelligence Review， 2021， 54（8）： 5789-5829. 10.1007/s10462-021-09958-2
22	TOMAZ NEVES P L， FORNARI J， BATISTA FLORINDO J. Self-attention generative adversarial networks applied to conditional music generation［J］. Multimedia Tools and Applications， 2022， 81（17）： 24419-24430. 10.1007/s11042-022-12116-7
23	EMMANUEL T， MAUPONG T， MPOELENG D， et al. A survey on missing data in machine learning［J］. Journal of Big Data， 2021， 8： No.140. 10.1186/s40537-021-00516-9
24	SUN Y N， YIN K， LIU H H， et al. Meta-learned specific scenario interest network for user preference prediction ［C］// Proceedings of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM， 2021： 1970-1974. 10.1145/3404835.3463077

[1]	秦璟, 秦志光, 李发礼, 彭悦恒. 基于概率稀疏自注意力神经网络的重性抑郁疾患诊断[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2970-2974.
[2]	王熙源, 张战成, 徐少康, 张宝成, 罗晓清, 胡伏原. 面向手术导航3D/2D配准的无监督跨域迁移网络[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2911-2918.
[3]	李力铤, 华蓓, 贺若舟, 徐况. 基于解耦注意力机制的多变量时序预测模型[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2732-2738.
[4]	潘烨新, 杨哲. 基于多级特征双向融合的小目标检测优化模型[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2871-2877.
[5]	唐廷杰, 黄佳进, 秦进. 基于图辅助学习的会话推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2711-2718.
[6]	赵志强, 马培红, 黑新宏. 基于双重注意力机制的人群计数方法[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2886-2892.
[7]	薛桂香, 王辉, 周卫峰, 刘瑜, 李岩. 基于知识图谱和时空扩散图卷积网络的港口交通流量预测[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2952-2957.
[8]	黄云川, 江永全, 黄骏涛, 杨燕. 基于元图同构网络的分子毒性预测[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2964-2969.
[9]	李顺勇, 李师毅, 胥瑞, 赵兴旺. 基于自注意力融合的不完整多视图聚类算法[J]. 《计算机应用》唯一官方网站, 2024, 44(9): 2696-2703.
[10]	唐廷杰, 黄佳进, 秦进, 陆辉. 基于图共现增强多层感知机的会话推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2357-2364.
[11]	薛凯鹏, 徐涛, 廖春节. 融合自监督和多层交叉注意力的多模态情感分析网络[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2387-2392.
[12]	汪雨晴, 朱广丽, 段文杰, 李书羽, 周若彤. 基于交互注意力机制的心理咨询文本情感分类模型[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2393-2399.
[13]	高鹏淇, 黄鹤鸣, 樊永红. 融合坐标与多头注意力机制的交互语音情感识别[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2400-2406.
[14]	刘禹含, 吉根林, 张红苹. 基于骨架图与混合注意力的视频行人异常检测方法[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2551-2557.
[15]	李钟华, 白云起, 王雪津, 黄雷雷, 林初俊, 廖诗宇. 基于图像增强的低照度人脸检测[J]. 《计算机应用》唯一官方网站, 2024, 44(8): 2588-2594.

基于领域融合和时间权重的招工推荐模型

Recruitment recommendation model based on field fusion and time weight

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 7

参考文献 24

相关文章 15

编辑推荐

Metrics