基于不确定性感知非似然学习的监督对比生成式情感分析方法

doi:10.11772/j.issn.1001-9081.2025050581

《计算机应用》唯一官方网站 ›› 2026, Vol. 46 ›› Issue (5): 1416-1423.DOI: 10.11772/j.issn.1001-9081.2025050581

• 人工智能 • 上一篇

基于不确定性感知非似然学习的监督对比生成式情感分析方法

张棣锐¹, 林佳瑜²(), 梁祖红¹^,³

^1.广东工业大学计算机学院，广州 510006
^2.广东工业大学图书馆，广州 510006
^3.广东工业大学实验教学部，广州 510006

收稿日期:2025-05-28 修回日期:2025-07-25 接受日期:2025-08-06 发布日期:2025-08-28 出版日期:2026-05-10
通讯作者: 林佳瑜
作者简介:张棣锐（2002—），男，广东汕头人，硕士研究生，主要研究方向：情感分析、数据增强
梁祖红（1980—），男，广东惠州人，教授级高级工程师，博士，主要研究方向：机器学习、智能计算。
基金资助:
2024年度广州市基础研究计划-市校院企联合资助专题项目(2024A03J1199)

Supervised contrastive generative sentiment analysis method with uncertainty-aware unlikelihood learning

Dirui ZHANG¹, Jiayu LIN²(), Zuhong LIANG¹^,³

^1.School of Computer Science and Technology，Guangdong University of Technology，Guangzhou Guangdong 510006，China
^2.Library，Guangdong University of Technology，Guangzhou Guangdong 510006，China
^3.Experimental Teaching Department，Guangdong University of Technology，Guangzhou Guangdong 510006，China

Received:2025-05-28 Revised:2025-07-25 Accepted:2025-08-06 Online:2025-08-28 Published:2026-05-10
Contact: Jiayu LIN
About author:ZHANG Dirui， born in 2002， M. S. candidate. His research interests include sentiment analysis， data augmentation.
LIANG Zuhong， born in 1980， Ph. D.， professor of engineering. His research interests include machine learning， intelligent computing.
Supported by:
City University-Institute-Enterprise Joint Funding Special Project of Guangzhou Basic Research Program(2024A03J1199)

摘要/Abstract

摘要：

现有模型在方面情感四元组预测（ASQP）任务中仍面临着多重挑战：它们在处理隐式情感表达（如隐含的方面或观点）时存在困难，隐式情感表达缺乏明确的词汇线索，导致模型难以准确捕捉情感倾向；只有当四元组预测的所有预测元素都与正确元素完全匹配时，模型才被认为是准确的，而模型会生成易混淆近义词或同义词，导致四元组预测完全错误。而且现有模型致力于提高预测正确词语的概率，忽略了抑制易混淆词的概率；同时，现有模型采用的交叉熵损失使模型对错误预测过于自信，缺乏对不确定性的建模，难以主动抑制高风险错误。这些问题限制了现有模型在基于方面的情感分析（ABSA）任务上的表现。为了解决这些问题，提出一种基于不确定性感知非似然学习的监督对比生成式情感分析方法（SCUAUL）。首先，采用监督对比学习，通过对比损失拉近同类样本（如相同情感极性）的语义空间距离，增强模型对输入数据的关键特征（如情感极性、隐式方面等）的区分能力；其次，利用蒙特卡洛Dropout（MC Dropout）捕捉模型内在不确定性，发现易混淆词，通过边缘化非似然学习动态抑制易混淆词汇的生成概率，保持正确词汇的生成概率，并结合最小熵约束平衡生成多样性与准确性。在Rest15和Rest16数据集上进行5次实验的平均结果显示，相较于次优模型AugABSA（data Augmentation by text generation for ABSA）和经典模型PARAPHRASE，SCUAUL的精确率分别提升了0.40、3.98和0.38、3.83个百分点，召回率分别提升了0.30、2.87和0.48、2.88个百分点，F1 score分别提升了0.35、3.43和0.42、3.37个百分点，验证了SCUAUL在ABSA任务上的有效性。

关键词: 基于方面的情感分析, 不确定性感知, 非似然学习, 最小熵, 对比学习

Abstract:

Existing models still face multiple challenges in Aspect Sentiment Quad Prediction （ASQP） task. They have difficulty in dealing with implicit sentiment expressions （such as implicit aspects or opinions） that lack explicit lexical cues， making it difficult for models to accurately capture sentiment tendencies. A quad prediction is considered correct only when all predicted elements of this prediction exactly match the correct elements. However， models may generate easily confused synonyms or synonymous words， leading to completely incorrect quad predictions. Moreover， existing models focus on improving the probability of predicting correct words， ignoring the suppression of easily confused words. Additionally， the cross-entropy loss used by these models makes them overconfident about incorrect predictions， lacking uncertainty modeling and thus failing in actively suppressing high-risk errors. These problems limit the performance of existing models in Aspect-Based Sentiment Analysis （ABSA） tasks. To address these problems， a Supervised Contrastive generative sentiment analysis method with Uncertainty-Aware Unlikelihood Learning （SCUAUL） was proposed. Firstly， supervised contrastive learning was used to shorten the semantic space distance of similar samples （e.g.， same sentiment polarity） through contrastive loss， enhancing the model's ability to distinguish key features （e.g.， sentiment polarity， implicit aspects） of input data. Secondly， Monte Carlo Dropout （MC Dropout） was used to capture the model's inherent uncertainty and identify easily confused words. By marginalizing unlikely learning， the generation probability of easily confused words was dynamically suppressed while maintaining the probability of generating correct words， and a minimum entropy constraint was combined to balance generation diversity and accuracy. Average results of five experiments on the Rest15 and Rest16 datasets showed that， compared with the suboptimal model AugABSA （data Augmentation by text generation for ABSA） and the classic model PARAPHRASE， SCUAUL improved precision by 0.40， 3.98 and 0.38， 3.83 percentage points， the recall by 0.30， 2.87 and 0.48， 2.88 percentage points， and the F1 score by 0.35， 3.43 and 0.42， 3.37 percentage points， respectively， verifying the effectiveness of SCUAUL in ABSA tasks.

Key words: Aspect-Based Sentiment Analysis (ABSA), uncertainty perception, unlikelihood learning, minimum entropy, contrastive learning

中图分类号:

TP391.1

张棣锐, 林佳瑜, 梁祖红. 基于不确定性感知非似然学习的监督对比生成式情感分析方法[J]. 计算机应用, 2026, 46(5): 1416-1423.

Dirui ZHANG, Jiayu LIN, Zuhong LIANG. Supervised contrastive generative sentiment analysis method with uncertainty-aware unlikelihood learning[J]. Journal of Computer Applications, 2026, 46(5): 1416-1423.

图/表 5

参考文献 20

[1]	ZHANG W， DENG Y， LI X， et al. Aspect sentiment quad prediction as paraphrase generation［C］// Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2021： 9209-9219.
[2]	HU M， BAI Y， WU Y， et al. Uncertainty-aware unlikelihood learning improves generative aspect sentiment quad prediction［C］// Findings of the Association for Computational Linguistics： ACL 2023. Stroudsburg： ACL， 2023： 13481-13494.
[3]	DEVLIN J， CHANG M W， LEE K， et al. BERT： pre-training of deep bidirectional Transformers for language understanding［C］// Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies， Volume 1 （Long and Short Papers）. Stroudsburg： ACL， 2019： 4171-4186.
[4]	RAFFEL C， SHAZEEER N， ROBERTS A， et al. Exploring the limits of transfer learning with a unified text-to-text Transformer［J］. Journal of Machine Learning Research， 2020， 21： 1-67.
[5]	WAN H， YANG Y， DU J， et al. Target-aspect-sentiment joint detection for aspect-based sentiment analysis［C］// Proceedings of the 34th AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2020： 9122-9129.
[6]	CAI H， XIA R， YU J. Aspect-category-opinion-sentiment quadruple extraction with implicit aspects and opinions［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 1： Long Papers）. Stroudsburg： ACL， 2021： 340-350.
[7]	ZHANG W， LI X， DENG Y， et al. Towards generative aspect-based sentiment analysis［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 2： Short Papers）. Stroudsburg： ACL， 2021： 504-510.
[8]	PEPER J， WANG L. Generative aspect-based sentiment analysis with contrastive learning and expressive structure［C］// Findings of the Association for Computational Linguistics： EMNLP 2022. Stroudsburg： ACL， 2022： 6089-6095.
[9]	BOLEDA G. Distributional semantics and linguistic theory［J］. Annual Review of Linguistics， 2020， 6： 213-234.
[10]	GAL Y， GHAHRAMANI Z. Dropout as a Bayesian approximation： representing model uncertainty in deep learning［C］// Proceedings of the 33rd International Conference on Machine Learning Research. New York： JMLR.org， 2016： 1050-1059.
[11]	KHOSLA P， TETERWAK P， WANG C， et al. Supervised contrastive learning［C］// Proceedings of the 34th International Conference on Neural Information Processing Systems. Red Hook： Curran Associates Inc.， 2020： 18661-18673.
[12]	SEDGHAMIZ H， RAVAL S， SANTUS E， et al. SupCL-Seq： supervised contrastive learning for downstream optimized sequence representations［C］// Findings of the Association for Computational Linguistics： EMNLP 2021. Stroudsburg： ACL， 2021： 3398-3403.
[13]	SCHROFF F， KALENICHENKO D， PHILBIN J. FaceNet： a unified embedding for face recognition and clustering［C］// Proceedings of the 2015 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway： IEEE， 2015： 815-823.
[14]	HINTON G E， OSINDERO S， TEH Y W. A fast learning algorithm for deep belief nets［J］. Neural Computation， 2006， 18（7）： 1527-1554.
[15]	WELLECK S， KULIKOV I， ROLLER S， et al. Neural text generation with unlikelihood training［EB/OL］. ［2025-03-17］. .
[16]	LI M， ROLLER S， KULIKOV I， et al. Don't say that！ making inconsistent dialogue unlikely with unlikelihood training［C］// Proceedings of the 58th Annual Meeting of the Association for Computational Linguistic. Stroudsburg： ACL， 2020： 4715-4728.
[17]	SONG H， WANG Y， ZHANG K， et al. BoB： BERT over BERT for training persona-based dialogue models from limited personalized data［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 1： Long Papers）. Stroudsburg： ACL， 2021： 167-177.
[18]	CAI H， TU Y， ZHOU X， et al. Aspect-category based sentiment analysis with hierarchical graph convolutional network［C］// Proceedings of the 28th International Conference on Computational Linguistics. ［S.l.］： International Committee on Computational Linguistics， 2020： 833-843.
[19]	HU M， WU Y， GAO H， et al. Improving aspect sentiment quad prediction via template-order data augmentation［C］// Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2022： 7889-7900.
[20]	WANG A， JIANG J， MA Y， et al. Generative data augmentation for aspect sentiment quad prediction［C］// Proceedings of the 12th Joint Conference on Lexical and Computational Semantics. Stroudsburg： ACL， 2023： 128-140.

数据集	#Text（样本数）
数据集	Rest15	Rest16
Train	834	1 264
Validation	209	316
Test	537	544

数据集	#Text（样本数）
数据集	Rest15	Rest16
Train	834	1 264
Validation	209	316
Test	537	544

实际情况	预测正类	预测负类
实际正类	真正类TP	假负类FN
实际负类	假正类FP	真负类TN

实际情况	预测正类	预测负类
实际正类	真正类TP	假负类FN
实际负类	假正类FP	真负类TN

预训练模型	方法	Rest15			Rest16
预训练模型	方法	P	R	F₁	P	R	F₁
BERT	HGCN-Linear	24.43	20.25	22.15	25.36	24.03	24.68
	HGCN-TFM	25.55	22.01	23.65	27.40	26.41	26.90
	TASO-Linear	41.86	26.50	32.46	49.73	40.70	44.77
	TASO-CRF	44.24	28.66	34.78	48.65	39.68	43.71
	Extract-Classify-ACOS	35.64	37.25	36.42	38.40	50.93	43.77
T5	GAS	45.31	46.70	45.98	54.54	57.62	56.04
	PARAPHRASE	46.16	47.72	46.93	56.63	59.30	57.93
	DLO	47.08	49.33	48.18	57.92	61.80	59.79
	ILO	47.78	50.38	49.05	57.58	61.17	59.32
	AugABSA	49.74	50.29	50.01	60.08	61.70	60.88
	SCUAUL	50.14	50.59	50.36	60.46	62.18	61.30

基于不确定性感知非似然学习的监督对比生成式情感分析方法

Supervised contrastive generative sentiment analysis method with uncertainty-aware unlikelihood learning

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 5

参考文献 20

相关文章 15

编辑推荐

Metrics

模型	Rest15			Rest16
模型	P	R	F₁	P	R	F₁
SCUAUL	50.14	50.59	50.36	60.46	62.18	61.30
SCUAUL-UAUL	47.60	47.36	47.46	58.33	59.70	59.01
SCUAUL-SCL	48.59	50.21	49.48	58.87	61.18	59.99

[1]	富坤, 魏昊宇, 刘伟静, 党兴, 刘泽政, 李建伟. 拓扑语义双域协同的图神经网络框架[J]. 《计算机应用》唯一官方网站, 2026, 46(5): 1378-1387.
[2]	赵海华, 胡怡君, 唐瑞, 莫先. 基于语义融合和对比增强的多模态推荐方法[J]. 《计算机应用》唯一官方网站, 2026, 46(4): 1058-1068.
[3]	刘晓霞, 况立群, 王松, 焦世超, 韩慧妍, 熊风光. 多尺度时空解耦的骨架行为识别对比学习[J]. 《计算机应用》唯一官方网站, 2026, 46(3): 767-774.
[4]	肖毓航, 李贯峰, 陈昱胤, 秦晶. 基于图的多视角对比学习小样本关系抽取模型[J]. 《计算机应用》唯一官方网站, 2026, 46(3): 732-740.
[5]	罗虎, 张明书. 基于跨模态注意力机制与对比学习的谣言检测方法[J]. 《计算机应用》唯一官方网站, 2026, 46(2): 361-367.
[6]	董莉梅, 李雁姿, 李家印, 许力. 基于邻域增强的无监督图异常检测[J]. 《计算机应用》唯一官方网站, 2026, 46(2): 458-466.
[7]	程梓洋, 黄瑞章, 薛菁菁. 深度演化主题聚类模型[J]. 《计算机应用》唯一官方网站, 2026, 46(1): 85-94.
[8]	李玟, 李开荣, 杨凯. 基于数据增强的子图感知对比学习[J]. 《计算机应用》唯一官方网站, 2026, 46(1): 1-9.
[9]	杨兴耀, 齐正, 于炯, 张祖莲, 马帅, 沈洪涛. 时间感知和空间增强的双通道图神经网络会话推荐模型[J]. 《计算机应用》唯一官方网站, 2026, 46(1): 104-112.
[10]	许志雄, 李波, 边小勇, 胡其仁. 对抗样本嵌入注意力U型网络的3D医学图像分割[J]. 《计算机应用》唯一官方网站, 2025, 45(9): 3011-3016.
[11]	刘超, 余岩化. 融合降噪策略与多视图对比学习的知识感知推荐模型[J]. 《计算机应用》唯一官方网站, 2025, 45(9): 2827-2837.
[12]	王祉苑, 彭涛, 杨捷. 分布外检测中训练与测试的内外数据整合[J]. 《计算机应用》唯一官方网站, 2025, 45(8): 2497-2506.
[13]	谢劲, 褚苏荣, 强彦, 赵涓涓, 张华, 高勇. 用于胸片中硬负样本识别的双支分布一致性对比学习模型[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2369-2377.
[14]	王震洲, 郭方方, 宿景芳, 苏鹤, 王建超. 面向智能巡检的视觉模型鲁棒性优化方法[J]. 《计算机应用》唯一官方网站, 2025, 45(7): 2361-2368.
[15]	余明峰, 秦永彬, 黄瑞章, 陈艳平, 林川. 基于对比学习增强双注意力机制的多标签文本分类方法[J]. 《计算机应用》唯一官方网站, 2025, 45(6): 1732-1740.