• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

面向双注意力网络的特定方面情感分析模型

孙小婉, 王英, 王鑫, 孙玉东

孙小婉, 王英, 王鑫, 孙玉东. 面向双注意力网络的特定方面情感分析模型[J]. 计算机研究与发展, 2019, 56(11): 2384-2395. DOI: 10.7544/issn1000-1239.2019.20180823
引用本文: 孙小婉, 王英, 王鑫, 孙玉东. 面向双注意力网络的特定方面情感分析模型[J]. 计算机研究与发展, 2019, 56(11): 2384-2395. DOI: 10.7544/issn1000-1239.2019.20180823
Sun Xiaowan, Wang Ying, Wang Xin, Sun Yudong. Aspect-Based Sentiment Analysis Model Based on Dual-Attention Networks[J]. Journal of Computer Research and Development, 2019, 56(11): 2384-2395. DOI: 10.7544/issn1000-1239.2019.20180823
Citation: Sun Xiaowan, Wang Ying, Wang Xin, Sun Yudong. Aspect-Based Sentiment Analysis Model Based on Dual-Attention Networks[J]. Journal of Computer Research and Development, 2019, 56(11): 2384-2395. DOI: 10.7544/issn1000-1239.2019.20180823
孙小婉, 王英, 王鑫, 孙玉东. 面向双注意力网络的特定方面情感分析模型[J]. 计算机研究与发展, 2019, 56(11): 2384-2395. CSTR: 32373.14.issn1000-1239.2019.20180823
引用本文: 孙小婉, 王英, 王鑫, 孙玉东. 面向双注意力网络的特定方面情感分析模型[J]. 计算机研究与发展, 2019, 56(11): 2384-2395. CSTR: 32373.14.issn1000-1239.2019.20180823
Sun Xiaowan, Wang Ying, Wang Xin, Sun Yudong. Aspect-Based Sentiment Analysis Model Based on Dual-Attention Networks[J]. Journal of Computer Research and Development, 2019, 56(11): 2384-2395. CSTR: 32373.14.issn1000-1239.2019.20180823
Citation: Sun Xiaowan, Wang Ying, Wang Xin, Sun Yudong. Aspect-Based Sentiment Analysis Model Based on Dual-Attention Networks[J]. Journal of Computer Research and Development, 2019, 56(11): 2384-2395. CSTR: 32373.14.issn1000-1239.2019.20180823

面向双注意力网络的特定方面情感分析模型

基金项目: 国家自然科学基金项目(61872161,61602057,61976103);吉林省科技发展计划项目(2018101328JC);吉林省科技厅优秀青年人才基金项目(20170520059JH);吉林省技术攻关项目(20190302029GX);吉林省发改委项目(2019C053-8);吉林省教育厅科研项目(JJKH20191257KJ)
详细信息
  • 中图分类号: TP391

Aspect-Based Sentiment Analysis Model Based on Dual-Attention Networks

  • 摘要: 特定方面情感分析已经成为自然语言处理领域的研究热点,其通过学习文本上下文的信息判别文本中特定方面的情感极性,可以更加有效地帮助人们了解用户对不同方面的情感表达.当前,将注意力机制和神经网络相结合的模型在解决特定方面情感分析任务时大多仅考虑单一层面的注意力信息,并且卷积神经网络无法获取全局结构信息、循环神经网络训练时间过长且单词间的依赖程度随着距离增加而逐渐减弱.针对上述问题,提出一种面向双注意力网络的特定方面情感分析(dual-attention networks for aspect-level sentiment analysis, DANSA)模型.首先,引入多头注意力机制,通过对输入进行多次不同的线性变换操作,获取更全面的注意力信息,同时,多头注意力机制可以实现并行化计算,保证了DANSA的训练速度.其次,DANSA引入自注意力机制,通过计算输入中每个单词与其他所有单词的注意力得分获取全局结构信息,并且单词间的依赖程度不会受到时间和句子长度的影响.最后,融合上下文自注意力信息与特定方面单词注意力信息,共同作为特定方面情感预测的依据,最终实现特定方面情感极性的预测.相比结合注意力机制的神经网络,DANSA弥补了注意力信息单一问题,不仅可以有效获取全局结构信息,还能够实现并行化计算,大大降低了训练时间.在SemEval2014数据集和Twitter数据集上进行实验,DANSA获得了更好的分类效果,进一步证明了DANSA的有效性.
    Abstract: Aspect-based sentiment analysis has become one of the hottest research issues in the field of natural language processing. It identifies the aspect sentiment polarity of texts by learning from context information, which can effectively help people understand the sentiment expression on different aspects. Currently, the most models with combining attention mechanism and neural network only consider a single level of attention information. When solving aspect-based sentiment analysis tasks, theses models have a lot of limitations. The convolutional neural network cannot capture the global structural information. For the recurrent neural network, the training time-consuming is too long, and the degree of dependence between words gradually decreases as the distance increases. To solve the above problems, we propose the dual-attention networks for aspect-level sentiment analysis (DANSA) model. Firstly, by introducing the multi-head attention mechanism, the model performs multiple linear transformation on the input to obtain more comprehensive attention information, which can realize parallel computing and enhance the training speed. Secondly, the self-attention mechanism is introduced to obtain global structural information by calculating the attention scores between each word and all other words in the input, and the degree of dependence between words is not affected by time and sentence length. Finally, the model makes a prediction of aspects sentiment polarity by combining the context self-attention information and the aspect of the word attention information. The extensive experiments on the SemEval2014 datasets and the Twitter datasets show that the DANSA achieves better classification performance, which further demonstrates the validity of DANSA.
  • 期刊类型引用(18)

    1. 陈万志,刘久龙,王天元. 关系图注意力网络的方面级情感分析模型. 辽宁工程技术大学学报(自然科学版). 2024(02): 232-240 . 百度学术
    2. 王娅丽,张凡,余增,李天瑞. 基于交互注意力和图卷积网络的方面级情感分析. 计算机科学. 2023(04): 196-203 . 百度学术
    3. 孔茸,那日萨. 基于直觉模糊情感和双注意力BILSTM的商家排序方法. 系统管理学报. 2023(04): 719-732 . 百度学术
    4. 周艳玲,兰正寅,张??,刘司摇. 融合交替归一化的细粒度情感分类研究. 中文信息学报. 2023(09): 140-149 . 百度学术
    5. 周如,朱浩泽,郭文雅,于胜龙,张莹. 基于多模态方面术语提取和方面级情感分类的统一框架. 计算机研究与发展. 2023(12): 2877-2889 . 本站查看
    6. 张克,张文俊,朱蕴文,邢毅雪. 基于内联关系的方面级情感分析方法. 上海大学学报(自然科学版). 2022(01): 157-169 . 百度学术
    7. 卢绍帅,陈龙,卢光跃,管子玉,谢飞. 面向小样本情感分类任务的弱监督对比学习框架. 计算机研究与发展. 2022(09): 2003-2014 . 本站查看
    8. 曹柳文,周艳艳,邬昌兴,黄兆华. 基于互学习的多词向量融合情感分类框架. 中文信息学报. 2022(07): 164-172 . 百度学术
    9. 付朝帅,李攀,吴亚东,张贵宇,高婧. 基于意象的诗词情感分析研究. 现代计算机. 2022(12): 9-16 . 百度学术
    10. 谢珺,王雨竹,陈波,张泽华,刘琴. 基于双指导注意力网络的属性情感分析模型. 计算机研究与发展. 2022(12): 2831-2843 . 本站查看
    11. 余本功,王惠灵,朱晓洁. 基于BG-DATT-CNN网络的方面级别情感分析. 计算机工程与应用. 2022(24): 151-157 . 百度学术
    12. 覃俊,孟凯,刘晶,廖立婷,毛养勤. 子句级别的自注意力机制的情感原因抽取模型. 中南民族大学学报(自然科学版). 2021(01): 64-73 . 百度学术
    13. 杜永萍,刘杨,贺萌. 基于对抗式分布对齐的跨域方面级情感分析. 模式识别与人工智能. 2021(01): 87-94 . 百度学术
    14. 陈港,张石清,赵小明. 结合数据平衡和注意力机制的CNN+LSTM的自然语音情感识别. 计算机系统应用. 2021(05): 269-275 . 百度学术
    15. 黄泽民,吴晓鸰,吴迎岗,凌捷. 结合BERT和BiSRU-AT的中文文本情感分类. 计算机工程与科学. 2021(09): 1668-1675 . 百度学术
    16. 李梦莹,王晓东,阮书岚,张琨,刘淇. 基于双路注意力机制的学生成绩预测模型. 计算机研究与发展. 2020(08): 1729-1740 . 本站查看
    17. 蒋国璋,张翼翔,向峰,李公法. 基于售后服务记录的卡车动力转向系统漏油分析与预测. 武汉科技大学学报. 2020(05): 362-369 . 百度学术
    18. 陈艳君,周欣,卿粼波,王正勇. 基于多头注意机制的用户评论情感可视分析. 智能计算机与应用. 2020(08): 33-36 . 百度学术

    其他类型引用(35)

计量
  • 文章访问数:  1616
  • HTML全文浏览量:  8
  • PDF下载量:  944
  • 被引次数: 53
出版历程
  • 发布日期:  2019-10-31

目录

    /

    返回文章
    返回