基于多策略对比学习和自适应标签平滑的文本-ID序列推荐模型

doi:10.11772/j.issn.1001-9081.2025070928

《计算机应用》唯一官方网站 ›› 2026, Vol. 46 ›› Issue (8): 2477-2484.DOI: 10.11772/j.issn.1001-9081.2025070928

基于多策略对比学习和自适应标签平滑的文本-ID序列推荐模型

刘珈铭¹^,²^,³, 艾芳菊¹^,²^,³()

^1.湖北大学计算机学院，武汉 430062
^2.智慧政务与人工智能应用湖北省工程研究中心（湖北大学），武汉 430062
^3.大数据智能分析与行业应用湖北省重点实验室（湖北大学），武汉 430062

收稿日期:2025-08-14 修回日期:2025-10-31 接受日期:2025-10-31 发布日期:2025-12-22 出版日期:2026-08-10
通讯作者: 艾芳菊
作者简介:刘珈铭（2001—），男，四川广安人，硕士研究生，主要研究方向：自然语言处理、序列推荐
艾芳菊（1973—），女，湖北武汉人，副教授，博士，主要研究方向：数据挖掘、自然语言处理。
基金资助:
湖北省自然科学基金青年项目(2023AFB313)

Text-ID sequential recommendation model based on multi-strategy contrastive learning and adaptive label smoothing

Jiaming LIU¹^,²^,³, Fangju AI¹^,²^,³()

^1.School of Computer Science，Hubei University，Wuhan Hubei 430062，China
^2.Engineering Research Center of Hubei Province in Intelligent Government Affairs and Application of Artificial Intelligence （Hubei University），Wuhan Hubei 430062，China
^3.Hubei Key Laboratory of Big Data Intelligent Analysis and Application （Hubei University），Wuhan Hubei 430062，China

Received:2025-08-14 Revised:2025-10-31 Accepted:2025-10-31 Online:2025-12-22 Published:2026-08-10
Contact: Fangju AI
About author:LIU Jiaming， born in 2001， M. S. candidate. His research interests include natural language processing， sequential recommendation.
Supported by:
Youth Program of Hubei Provincial Natural Science Foundation(2023AFB313)

摘要/Abstract

摘要：

序列推荐系统在捕捉用户兴趣演变方面已取得显著进展，侧信息的有效利用发挥了关键作用，例如将项目的相关文本数据与序列推荐中的项目ID在变换后的域空间进行有效融合，再将这种文本-ID的语义融合用于序列推荐，从而提升推荐性能。针对现有模型面临的用户行为复杂、异构信息融合后的泛化能力有限以及数据稀疏等不足，提出基于多策略对比学习和自适应标签平滑的文本-ID序列推荐模型MCLALS（Multi-strategy Contrastive Learning and Adaptive Label Smoothing）。首先，通过领域专家融合网络处理文本表示，并动态整合不同特征子空间的知识；其次，将处理后的文本表示与ID表示进行序列级语义融合，借助频域变换捕捉异构信息间的深层交互；再次，在融合后的高级表示上应用多策略对比学习，利用多种互补的数据增强策略生成多样化的增强表示，有效缓解数据稀疏性；最后，采用自适应标签平滑机制优化训练目标，增强模型对噪声和长尾分布的鲁棒性。在Food、Office和OR这3个公开基准数据集上对MCLALS进行系统的性能评估。实验结果表明，所提模型在整体性能上优于包括SASRec（Self-Attentive Sequential Recommendation）和TedRec （Text-ID Semantic Fusion for Sequential Recommendation）在内的多个基线模型。其中，在OR数据集上MCLALS的NDCG@10指标相较于最优基线模型至少提升了6.69%，验证了该模型的有效性。

Abstract:

Significant progress has been made in sequential recommendation systems for capturing the evolution of user interests， where the effective use of side information plays a crucial role. For example， item-related text data is fused with item ID in sequential recommendation effectively in the transformed domain space， and this text-ID semantic fusion is then used for sequential recommendation， so as to enhance recommendation performance. The existing models suffer from limitations such as the complex user behaviors， limited generalization capability after heterogeneous information fusion， and data sparsity. Therefore， a text-ID sequential recommendation model based on multi-strategy contrastive learning and adaptive label smoothing named MCLALS （Multi-strategy Contrastive Learning and Adaptive Label Smoothing） was proposed. First， textual representations were processed through a domain-expert fusion network and knowledge from different feature subspaces were integrated dynamically. Second， the processed text and ID representations were fused semantically at sequence level through frequency-domain transformation to capture deep interactions among heterogeneous information. Third， on the fused high-level representation， multi-strategy contrastive learning was applied to generate diverse augmented representations using multiple complementary data augmentation strategies， thereby alleviating data sparsity effectively. Finally， adaptive label smoothing was adopted to optimize the training objective， thereby enhancing the model’s robustness to noise and long-tail distribution. MCLALS was evaluated systematically on three public benchmark datasets： Food， Office， and OR. Experimental results show that the proposed model outperforms several baseline models， including SASRec （Self-Attentive Sequential Recommendation） and TedRec （Text-ID Semantic Fusion for Sequential Recommendation）， in overall performance. In particular， on the OR dataset， MCLALS achieves at least 6.69% improvement in NDCG@10 compared to the best baseline model， verifying its effectiveness.

Key words: sequential recommendation, text-ID fusion, mixture-of-experts system, multi-strategy contrastive learning, adaptive label smoothing

中图分类号:

TP391.3

刘珈铭, 艾芳菊. 基于多策略对比学习和自适应标签平滑的文本-ID序列推荐模型[J]. 计算机应用, 2026, 46(8): 2477-2484.

Jiaming LIU, Fangju AI. Text-ID sequential recommendation model based on multi-strategy contrastive learning and adaptive label smoothing[J]. Journal of Computer Applications, 2026, 46(8): 2477-2484.

图/表 8

参考文献 34

[1]	Du X， Yuan H， Zhao P， et al. Frequency enhanced hybrid attention network for sequential recommendation［C］// SIGIR 2023. New York： ACM， 2023： 78-88.
[2]	Hou Y， Mu S， Zhao W X， et al. Towards universal sequence representation learning for recommender systems［C］// KDD 2022. New York： ACM， 2022： 585-593.
[3]	Li J， Ren P， Chen Z， et al. Neural attentive session-based recommendation［C］// CIKM 2017. New York： ACM， 2017： 1419-1428.
[4]	Tang J， Wang K. Personalized top-N sequential recommendation via convolutional sequence embedding［C］// WSDM 2018. New York： ACM， 2018： 565-573.
[5]	Tan Y K， Xu X， Liu Y. Improved recurrent neural networks for session-based recommendations［C］// DLRS 2016. New York： ACM， 2016： 17-22.
[6]	Kang W C， McAuley J. Self-attentive sequential recommendation［C］// ICDM 2018. Piscataway： IEEE， 2018： 197-206.
[7]	Sun F， Liu J， Wu J， et al. BERT4Rec： sequential recommendation with bidirectional encoder representations from Transformer［C］// CIKM 2019. New York： ACM， 2019： 1441-1450.
[8]	Fan X， Liu Z， Lian J， et al. Lighter and better： low-rank decomposed self-attention networks for next-item recommendation［C］// SIGIR 2021. New York： ACM， 2021： 1733-1737.
[9]	Chen J， Guan H， Li H， et al. PACIFIC： enhancing sequential recommendation via preference-aware causal intervention and counterfactual data augmentation［C］// CIKM 2024. New York： ACM， 2024： 249-258.
[10]	Gao J， Zhao X， Li M， et al. SMLP4Rec： an efficient all-MLP architecture for sequential recommendations［J］. ACM Transactions on Information Systems， 2024， 42（3）： No.86.
[11]	Liu Q， Chen N， Sakai T， et al. ONCE： boosting content-based recommendation with both open- and closed-source large language models［C］// WSDM 2024. New York： ACM， 2024： 452-461.
[12]	Xi Y， Liu W， Lin J， et al. Towards open-world recommendation with knowledge augmentation from large language models［C］// RecSys 2024. New York： ACM， 2024： 12-22.
[13]	Yuan Z， Yuan F， Song Y， et al. Where to go next for recommender systems？ ID-vs. modality-based recommender models revisited［C］// SIGIR 2023. New York： ACM， 2023： 2639-2649.
[14]	Zhang T， Zhao P， Liu Y， et al. Feature-level deeper self-attention network for sequential recommendation［C］// IJCAI 2019. California： IJCAI， 2019： 4320-4326.
[15]	Zhou K， Wang H， Zhao W X， et al. S³-Rec： self-supervised learning for sequential recommendation with mutual information maximization［C］// CIKM 2020. New York： ACM， 2020： 1893-1902.
[16]	Xu L， Tian Z， Li B， et al. Sequence-level semantic representation fusion for recommender systems［C］// CIKM 2024. New York： ACM， 2024： 5015-5022.
[17]	Xian Y K， Wang X， Liu M， et al. Contrastive self-supervised learning for sequential recommendation［C］// SIGIR 2021. New York： ACM， 2021： 1597-1606.
[18]	Zhou K， Yu H， Zhao W X， et al. Filter-enhanced MLP is all you need for sequential recommendation［C］// WWW 2022. New York： ACM， 2022： 2388-2399.
[19]	Liu H， Deng Z， Wang L， et al. Distribution-based learnable filters with side information for sequential recommendation［C］// RecSys 2023. New York： ACM， 2023： 78-88.
[20]	Kim H， Kim J， Choi M， et al. MARS： matching attribute-aware representations for text-based sequential recommendation［C］// CIKM 2024. New York： ACM， 2024： 3822-3826.
[21]	Wang Y， Ren Z， Sun W， et al. Content-based collaborative generation for recommender systems［C］// CIKM 2024. New York： ACM， 2024： 2420-2430.
[22]	Goodfellow I， Bengio Y， Courville A. Deep learning［M］. Cambridge： MIT Press， 2016.
[23]	Rendle S， Freudenthaler C， Gantner Z， et al. BPR： Bayesian personalized ranking from implicit feedback［C］// UAI 2009. Arlington， VA： AUAI Press， 2009： 452-461.
[24]	Szegedy C， Vanhoucke V， Ioffe S， et al. Rethinking the inception architecture for computer vision［C］// CVPR 2016. Piscataway： IEEE， 2016： 2818-2826.
[25]	Müller R， Kornblith S， Hinton G. When does label smoothing help？［C］// NeurIPS 2019. Red Hook： Curran Associates Inc.， 2019： 4694-4703.
[26]	Wang Y L， Chen Z Y， Sun Y F， et al. Sample-dependent label smoothing［C］// CVPR 2021. Piscataway： IEEE， 2021： 2494-2503.
[27]	Zhou Y Y， Zhong Z S， Li Y X， et al. Adaptive label smoothing regularization for out-of-distribution detection［PP/OL］. V1. arXiv （2024-08-08）［2025-01-15］..
[28]	Devlin J， Chang M W， Lee K， et al. BERT： pre-training of deep bidirectional transformers for language understanding［C］// NAACL-HLT 2019， Volume 1 （Long and Short Papers）. Stroudsburg： ACL， 2019： 4171-4186.
[29]	Chen D， Sain S L， Guo K. Data mining for the online retail industry： a case study of RFM model-based customer segmentation using data mining［J］. Journal of Database Marketing and Customer Strategy Management， 2012， 19（3）： 197-208.
[30]	Ni J， Li J， McAuley J. Justifying recommendations using distantly-labeled reviews and fine-grained aspects［C］// EMNLP-IJCNLP 2019. Stroudsburg： ACL， 2019： 188-197.
[31]	Järvelin K， Kekäläinen J. Cumulated gain-based evaluation of IR techniques［J］. ACM Transactions on Information Systems， 2002， 20（4）： 422-446.
[32]	Zhao W X， Mu S， Hou Y， et al. RecBole： towards a unified， comprehensive and efficient framework for recommendation algorithms［C］// CIKM 2021. New York： ACM， 2021： 4653-4664.
[33]	Hidasi B， Quadrana M， Karatzoglou A， et al. Parallel recurrent neural network architectures for feature-rich session-based recommendations［C］// RecSys 2016. New York： ACM， 2016： 241-248.
[34]	Xie Y， Zhou P， Kim S. Decoupled side information fusion for sequential recommendation［C］// SIGIR 2022. New York： ACM， 2022： 1611-1621.

数据集	用户数	项目数	交互数	平均序列长度	稀疏度/%
OR	16 521	3 470	503 386	30.5	99.12
Office	87 347	25 987	597 491	6.8	99.97
Food	115 350	39 671	912 064	7.9	99.98

数据集	用户数	项目数	交互数	平均序列长度	稀疏度/%
OR	16 521	3 470	503 386	30.5	99.12
Office	87 347	25 987	597 491	6.8	99.97
Food	115 350	39 671	912 064	7.9	99.98

超参数	值	超参数	值
batch_size	2 048	对比学习策略权重λ	0.1
学习率learning_rate	0.001	对比学习温度参数τ	0.1
训练轮数epochs	300	标签平滑系数α	0.45
权重衰减weight_decay	0.0	Transformer编码器层数	2
早停步数stopping_step	10	多头注意力机制中的头数	2
领域专家数k	8	隐藏层维度	300

超参数	值	超参数	值
batch_size	2 048	对比学习策略权重λ	0.1
学习率learning_rate	0.001	对比学习温度参数τ	0.1
训练轮数epochs	300	标签平滑系数α	0.45
权重衰减weight_decay	0.0	Transformer编码器层数	2
早停步数stopping_step	10	多头注意力机制中的头数	2
领域专家数k	8	隐藏层维度	300

模型	OR数据集				Office数据集				Food数据集
模型	Recall@10	Recall@20	NDCG@10	NDCG@20	Recall@10	Recall@20	NDCG@10	NDCG@20	Recall@10	Recall@20	NDCG@10	NDCG@20
SASRec	0.154 5	0.249 6	0.069 9	0.093 9	0.106 1	0.127 2	0.069 9	0.075 3	0.106 9	0.128 1	0.073 6	0.078 9
FMLP-Rec	0.149 2	0.249 0	0.069 0	0.092 3	0.113 8	0.136 7	0.072 3	0.078 1	0.113 3	0.138 5	0.074 5	0.080 9
SASRecF	0.147 9	0.234 4	0.074 4	0.096 2	0.108 1	0.127 6	0.084 1	0.089 0	0.108 4	0.128 5	0.084 1	0.089 2
FDSA	0.149 1	0.236 9	0.069 2	0.095 1	0.111 1	0.132 2	0.076 4	0.081 8	0.107 4	0.128 3	0.073 9	0.089 9
S³-Rec	0.146 4	0.239 5	0.069 2	0.095 1	0.111 1	0.132 2	0.076 4	0.081 8	0.107 4	0.128 3	0.073 9	0.079 2
DIF-SR	0.152 2	0.247 8	0.070 8	0.094 8	0.116 2	0.140 6	0.078 3	0.084 4	0.114 4	0.137 5	0.078 6	0.084 4
UniSRec	0.152 6	0.242 1	0.071 7	0.094 3	0.123 3	0.151 0	0.072 3	0.079 2	0.125 9	0.154 3	0.073 3	0.080 5
DLFS-Rec	0.163 4	0.228 5	0.095 2	0.111 5	0.113 1	0.129 1	0.091 6	0.095 7	0.114 6	0.132 9	0.091 2	0.095 8
SMLP4Rec	0.151 5	0.250 8	0.065 0	0.090 1	0.118 3	0.148 3	0.070 0	0.077 6	0.116 0	0.147 5	0.068 8	0.076 8
TedRec	0.223 4	0.307 3	0.131 6	0.152 7	0.135 6	0.159 8	0.105 2	0.111 3	0.132 7	0.160 4	0.101 2	0.108 2
本文模型	0.236 1	0.321 4	0.140 4	0.161 9	0.138 5	0.161 6	0.107 7	0.113 5	0.134 0	0.162 2	0.102 1	0.109 5

基于多策略对比学习和自适应标签平滑的文本-ID序列推荐模型

Text-ID sequential recommendation model based on multi-strategy contrastive learning and adaptive label smoothing

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 8

参考文献 34

相关文章 5

编辑推荐

Metrics

[1]	余肖生, 王智鑫. 基于多层次图对比学习的序列推荐模型[J]. 《计算机应用》唯一官方网站, 2025, 45(1): 106-114.
[2]	杨兴耀, 沈洪涛, 张祖莲, 于炯, 陈嘉颖, 王东晓. 基于层级过滤器和时间卷积增强自注意力网络的序列推荐[J]. 《计算机应用》唯一官方网站, 2024, 44(10): 3090-3096.
[3]	凌宇, 单志龙. 基于兴趣增强的知识概念推荐系统[J]. 《计算机应用》唯一官方网站, 2023, 43(12): 3697-3702.
[4]	韩滕跃, 牛少彰, 张文. 基于对比学习的多模态序列推荐算法[J]. 《计算机应用》唯一官方网站, 2022, 42(6): 1683-1688.
[5]	任柯舟, 彭甫镕, 郭鑫, 王喆, 张晓静. 动态融合社交信息的社会化推荐[J]. 计算机应用, 2021, 41(10): 2806-2812.