基于代码生成的细粒度情感分析方法

doi:10.11772/j.issn.1001-9081.2024060885

《计算机应用》唯一官方网站 ›› 2025, Vol. 45 ›› Issue (6): 1827-1832.DOI: 10.11772/j.issn.1001-9081.2024060885

• 人工智能 • 上一篇

基于代码生成的细粒度情感分析方法

帅健, 王中卿(), 陈嘉沥

苏州大学计算机科学与技术学院，江苏苏州 215008

收稿日期:2024-07-08 修回日期:2024-10-17 接受日期:2024-10-22 发布日期:2024-10-30 出版日期:2025-06-10
通讯作者: 王中卿
作者简介:帅健（2001—），男，江西南昌人，硕士研究生，主要研究方向：自然语言处理、细粒度情感分析
王中卿（1987—），男，江苏苏州人，副教授，博士，CCF会员，主要研究方向：自然语言处理、情感分析 wangzq@suda.edu.cn
陈嘉沥（2001—），男，广东佛山人，硕士研究生，主要研究方向：自然语言处理、情感分析。
基金资助:
国家自然科学基金资助项目(62076175)

Aspect-based sentiment analysis method based on code generation

Jian SHUAI, Zhongqing WANG(), Jiali CHEN

School of Computer Science and Technology，Soochow University，Suzhou Jiangsu 215008，China

Received:2024-07-08 Revised:2024-10-17 Accepted:2024-10-22 Online:2024-10-30 Published:2025-06-10
Contact: Zhongqing WANG
About author:SHUAI Jian， born in 2001， M. S. candidate. His research interests include natural language processing， aspect-based sentiment analysis.
WANG Zhongqing， born in 1987， Ph. D.， associate professor. His research interests include natural language processing， sentiment analysis.
CHEN Jiali， born in 2001， M. S. candidate. His research interests include natural language processing， sentiment analysis.
Supported by:
National Natural Science Foundation of China(62076175)

摘要/Abstract

摘要：

细粒度情感分析（ABSA）任务越来越受到人们的关注。针对目前主流的ABSA方法无法充分利用语义关系且无法充分学习各情感元素之间联系的局限，提出一种基于代码生成的ABSA方法。首先，对应各情感元素与编程语言（PL）；其次，按照对应原则将实验数据集构造成代码生成任务的数据样式，代码样式可以更好地表达各情感元素之间的联系；最后，利用当前大语言模型（LLM）的强大性能及代码生成方法在事件抽取任务上的良好表现得到更准确的结果。为了验证所提方法的有效性，使用Paraphrase、Seq2Path和意见树生成（OTG）方法进行对比实验。实验结果表明，所提方法在ABSA任务中的餐厅数据集上F1分数比OTG方法高2.82个百分点，具有更好的效果。

关键词: 细粒度情感分析, 结构化生成, 代码生成, 预训练生成模型, 四重提取

Abstract:

Tasks of Aspect-Based Sentiment Analysis （ABSA） are receiving increasing attention from people. An ABSA method based on code generation was proposed to address the limitations of current mainstream ABSA methods that cannot fully utilize semantic relationships and learn connections among various emotional elements. Firstly， each emotional element was correspond to the Programming Language （PL）. Secondly， the experimental dataset was constructed into data patterns of code generation task which can better express relationships among various emotional elements according to the principle of correspondence. Finally， the powerful performance of current Large Language Models （LLMs） and the excellent performance of code generation methods were utilized in event extraction tasks to obtain more accurate results. To verify the effectiveness of the proposed method， comparison experiments were conducted using Paraphrase， Seq2Path， and Opinion Tree Generation （OTG） methods. Experimental results show that the proposed method achieves F1 score improvement of 2.82 percentage points compared to OTG method on the restaurant dataset in ABSA tasks， which meaning better results.

Key words: Aspect-Based Sentiment Analysis (ABSA), structure generation, code generation, pre-trained generation model, quadruple extraction

中图分类号:

TP391.1

帅健, 王中卿, 陈嘉沥. 基于代码生成的细粒度情感分析方法[J]. 计算机应用, 2025, 45(6): 1827-1832.

Jian SHUAI, Zhongqing WANG, Jiali CHEN. Aspect-based sentiment analysis method based on code generation[J]. Journal of Computer Applications, 2025, 45(6): 1827-1832.

图/表 7

参考文献 29

1	QIU G， LIU B， BU J， et al. Opinion word expansion and target extraction through double propagation［J］. Computational Linguistics， 2011， 37（1）： 9-27.
2	TANG D， QIN B， FENG X， et al. Effective LSTMs for target-dependent sentiment classification［C］// Proceedings of the 26th International Conference on Computational Linguistics： Technical Papers. ［S.l.］： The COLING 2016 Organizing Committee， 2016： 3298-3307.
3	PENG H， XU L， BING L， et al. Knowing what， how and why： a near complete solution for aspect-based sentiment analysis［C］// Proceedings of the 34th AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2020： 8600-8607.
4	CAI H， XIA R， YU J. Aspect-category-opinion-sentiment quadruple extraction with implicit aspects and opinions［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 1： Long Papers）. Stroudsburg： ACL， 2021： 340-350.
5	ZHANG W， LI X， DENG Y， et al. Towards generative aspect-based sentiment analysis［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 2： Short Papers）. Stroudsburg： ACL， 2021： 504-510.
6	YAN H， DAI J， JI T， et al. A unified generative framework for aspect-based sentiment analysis［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 1： Long Papers）. Stroudsburg： ACL， 2021： 2416-2429.
7	ZHANG W， DENG Y， LI X， et al. Aspect sentiment quad prediction as paraphrase generation［C］// Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2021： 9209-9219.
8	BAO X， WANG Z， JIANG X， et al. Aspect-based sentiment analysis with opinion tree generation［C］// Proceedings of the 31st International Joint Conference on Artificial Intelligence. California： ijcai.org， 2022： 4044-4050.
9	BU J， REN L， ZHENG S， et al. ASAP： a Chinese review dataset towards aspect category sentiment analysis and rating prediction［C］// Proceedings of the 2021 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies. Stroudsburg： ACL， 2021： 2069-2079.
10	XU L， LI H， LU W， et al. Position-aware tagging for aspect sentiment triplet extraction［C］// Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2020： 2339-2349.
11	ZHANG M， QIAN T. Convolution over hierarchical syntactic and lexical graphs for aspect level sentiment analysis ［C］// Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2020： 3540-3549.
12	CAI H， TU Y， ZHOU X， et al. Aspect-category based sentiment analysis with hierarchical graph convolutional network［C］// Proceedings of the 28th International Conference on Computational Linguistics. ［S.l.］： International Committee on Computational Linguistics， 2020： 833-843.
13	李自亮，朱广丽，张玉雷，等. 集成句法与情感知识的方面级情感分析模型［J/OL］. 计算机应用［2024-09-01］..
	LI Z L， ZHU G L， ZHANG Y L， et al. Aspect-based sentiment analysis model integrating syntax and sentiment knowledge［J/OL］. Journal of Computer Applications ［2024-09-01］..
14	MADAAN A， ZHOU S， ALON U， et al. Language models of code are few-shot commonsense learners［C］// Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2022： 1384-1403.
15	GAO L， MADAAN A， ZHOU S， et al. PAL： program-aided language models［C］// Proceedings of the 40th International Conference on Machine Learning. New York： JMLR.org， 2023： 10764-10799.
16	WANG X， LI S， JI H. Code4Struct： code generation for few-shot event structure prediction［C］// Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics （Volume 1： Long Papers）. Stroudsburg： ACL， 2023： 3640-3663.
17	LI Q， JI H， HUANG L. Joint event extraction via structured prediction with global features［C］// Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics （Volume 1： Long Papers）. Stroudsburg： ACL， 2013： 73-82.
18	LIU J， CHEN Y， LIU K， et al. Event extraction as machine reading comprehension［C］// Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2020： 1641-1651.
19	LI S， JI H， HAN J. Document-level event argument extraction by conditional generation［C］// Proceedings of the 2021 Conference of the North American Chapter of the Association for Computational Linguistics： Human Language Technologies. Stroudsburg： ACL， 2021： 894-908.
20	LU Y， LIN H， XU J， et al. Text2Event： controllable sequence-to-structure generation for end-to-end event extraction［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing （Volume 1： Long Papers）. Stroudsburg： ACL， 2021： 2795-2806.
21	VASWANI A， SHAZEER N， PARMAR N， et al. Attention is all you need ［C］// Proceedings of the 31st International Conference on Neural Information Processing Systems. Red Hook： Curran Associates Inc.， 2017： 6000-6010 .
22	TOUVRON H， MARTIN L， STONE K， et al. Llama 2： open foundation and fine-tuned chat models［EB/OL］. ［2024-04-21］..
23	RAFFEL C， SHAZEER N， ROBERTS A， et al. Exploring the limits of transfer learning with a unified text-to-text transformer［J］. Journal of Machine Learning Research， 2020， 21： 1-67.
24	FENG Z， GUO D， TANG D， et al. CodeBERT： a pre-trained model for programming and natural languages ［C］// Findings of the Association for Computational Linguistics： EMNLP 2020. Stroudsburg： ACL， 2020： 1536-1547.
25	WANG Y， WANG W， JOTY S， et al. CodeT5： identifier-aware unified pre-trained encoder-decoder models for code understanding and generation［C］// Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2021： 8696-8708.
26	WANG Y， LE H， GOTMARE A， et al. CodeT5+： open code large language models for code understanding and generation［C］// Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2023： 1069-1088.
27	FRIED D， AGHAJANYAN A， LIN J， et al. InCoder： a generative model for code infilling and synthesis ［EB/OL］. ［2024-04-21］..
28	ZHANG W， DENG Y， LI X， et al. Aspect sentiment quad prediction as paraphrase generation ［C］// Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing. Stroudsburg： ACL， 2021： 9209-9219.
29	MAO Y， SHEN Y， YANG J， et al. Seq2path： generating sentiment tuples as paths of a tree ［C］// Findings of the Association for Computational Linguistics： ACL 2022. Stroudsburg： ACL， 2022： 2215-2225.

自然语言	PL
基类	class Root（）
四元组派生类	class Quad（Root）
成员函数1	def Func1（）
成员函数2	def Func2（）
成员函数参数	aspect/category/opinion/sentiment

自然语言	PL
基类	class Root（）
四元组派生类	class Quad（Root）
成员函数1	def Func1（）
成员函数2	def Func2（）
成员函数参数	aspect/category/opinion/sentiment

超参数	值
批大小	8
学习率	3×10^-4
权重衰减	10^-3
训练轮数	10
损失函数	交叉熵

超参数	值
批大小	8
学习率	3×10^-4
权重衰减	10^-3
训练轮数	10
损失函数	交叉熵

LoRA参数	值
lora_r	8
lora_alpha	16
lora dropout	0.05
lora_target_modules	q_proj， v_proj k_proj， o_proj down_proj， up_proj

基于代码生成的细粒度情感分析方法

Aspect-based sentiment analysis method based on code generation

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 7

参考文献 29

相关文章 5

编辑推荐

Metrics

模型/方法	餐厅			笔记本
模型/方法	P	R	F₁	P	R	F₁
T5	0.554 1	0.497 2	0.524 2	0.402 6	0.386 4	0.394 4
CodeBERT	0.395 3	0.429 6	0.411 7	0.326 1	0.285 4	0.304 3
CodeT5	0.421 6	0.479 3	0.448 6	0.371 4	0.304 8	0.334 8
CodeT5+	0.446 4	0.481 1	0.463 1	0.382 9	0.315 8	0.346 1
InCoder	0.362 8	0.413 7	0.386 5	0.319 6	0.292 5	0.305 4
Llama2	0.595 0	0.580 7	0.587 8	0.428 5	0.373 4	0.399 1
Paraphrase	0.589 8	0.591 1	0.590 4	0.417 7	0.450 4	0.433 4
Seq2Path	0.602 9	0.596 1	0.599 5	0.443 8	0.437 5	0.440 1
OTG	0.613 8	0.619 0	0.616 4	0.440 8	0.438 1	0.439 4
本文方法	0.649 6	0.639 7	0.644 6	0.444 6	0.435 8	0.440 2

样式	餐厅			笔记本
样式	P	R	F₁	P	R	F₁
代码样式1	0.635 4	0.614 6	0.624 8	0.434 8	0.425 4	0.430 1
代码样式2	0.649 6	0.649 6	0.649 6	0.444 6	0.435 8	0.440 2

[1]	曹鹏, 温广琪, 杨金柱, 陈刚, 刘歆一, 季学纯. 面向测试用例生成的大模型高效微调方法[J]. 《计算机应用》唯一官方网站, 2025, 45(3): 725-731.
[2]	孙蒴, 张伟, 冯温迪, 张俞炜. 基于源码分析的自动化外部函数接口生成方法[J]. 《计算机应用》唯一官方网站, 2024, 44(7): 2151-2159.
[3]	蒋建春, 陈慧玲, 邓露, 赵建朋. 基于多核实时操作系统的配置工具设计[J]. 计算机应用, 2016, 36(3): 765-769.
[4]	胡征宇, 沈备军. 一种移动平台儿童教育游戏的最终用户编程语言[J]. 计算机应用, 2015, 35(2): 540-544.
[5]	刘丽, 王永恒, 韦航. 面向产品评论的细粒度情感分析[J]. 计算机应用, 2015, 35(12): 3481-3486.