KinGDOM: Knowledge-Guided DOMain adaptation for sentiment analysis论文研读
Posted xbsdloo
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了KinGDOM: Knowledge-Guided DOMain adaptation for sentiment analysis论文研读相关的知识,希望对你有一定的参考价值。
KinGDOM: Knowledge-Guided DOMain adaptation for sentiment analysis(ACL 2020)
近年来,跨域情感分析受到了广泛的关注,这是由于需要克服不同应用之间的领域差距,利用情感分析进行跨领域分析。在这篇论文中,我们以一种全新的视角来探讨外部常识知识的作用。我们引入了一个新的框架KinGDOM,该框架利用ConceptNet知识图来丰富文档的语义,同时提供特定领域和领域通用的背景概念。这些概念是通过训练一个图形卷积自动编码器来学习的,该编码器以一种域不变的方式利用域间概念。用这些学习到的概念来调整一个流行的领域对抗性基线方法有助于提高其性能。1、跨领域情感分析的相关方法:
- 学习特定领域的情感词/词汇(Sarma等人,2018年;Hamilton等人,2016b)
- 基于共现的学习(Blitzer等人,2007a)
- 领域对抗性学习(Ganin等人,2016年)
在论文中,采用了领域对抗框架,并试图通过使用ConceptNet——一个大规模的知识图(Speer et al.,2017)引入常识知识来进一步改进。
2、为什么要引入外部知识库(KB)来做领域对抗性学习的改进:
- 使用外部知识库(KB)增强神经模型在一系列NLP应用中显示除了它的优势(Peters等人,2019;Li等人,2019;IV等人,2019;liu等人,2019;Bi等人,2019)。尽管KBs很受欢迎,但将KBs纳入领域适应框架的工作很少(Wang等人,2008年;Xiang等人,2010年)。为此,论文引入使用常识知识库进行域适应。
- 常识知识库,提供了丰富的背景概念来源(通过常识链接相关),通过提供特定领域和领域一般概念,可以增强文本的语义(Yang等人,2019年;Zhong等人,2019年;Agarwal等人,2015年;Zhong等人,2019年)。
- 在特定领域的场景中,常识知识提供了一种动态的方式来增强上下文,并帮助模型通过其结构关系来理解情感化术语和观点目标(Cambria等人,2018)。它们也常常有助于挖掘含蓄表达的情感(Balahur等人,2011年)。
- 域通常通过潜在的语义概念共享关系(Kim等人,2017a)。多关系知识库为利用这种域间关系提供了一种自然的连接方式。这些连接可以通过将已知的领域通用概念甚至特定域的概念关联起来,帮助模型理解特定于目标的术语。
3、KinGDOM模块化框架
- 1、KinGDOM首先在ConceptNet上使用图卷积网络(GCN)训练一个共享图自动编码器。
- 2、学习:1)通过多个相邻概念的推理步骤实现域间概念链接;2)共享自动编码产生的域不变概念表示。
- 3、提取特定于文档的子图嵌入,并将其提供给领域对抗模型DANN(Ganin等人,2016)。
- 4、在这些提取的图嵌入上训练一个共享的自动编码器,以促进域不变性(Glorot等人,2011)。
4、相关工作
以上是关于KinGDOM: Knowledge-Guided DOMain adaptation for sentiment analysis论文研读的主要内容,如果未能解决你的问题,请参考以下文章
Kingdom and its Cities - CF613D