论文解读基于TransS驱动的隐式篇章关系识别的联合学习框架
Posted 刘炫320
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了论文解读基于TransS驱动的隐式篇章关系识别的联合学习框架相关的知识,希望对你有一定的参考价值。
本文的出发点
- 现有的工作不能够充分挖掘标注的关系标记。
- 忽略了在低维空间中的额外信息。
- 论文地址
本文贡献
- 提出使用TransS驱动的联合学习框架包括学习潜在的集合结构信息(GSL)和语义特征信息(SFL)
- 提出基于TransS的方法将篇章关系映射到地位向量空间能够捕获集合结构信息。
- 使用了联合学习来优化论元的表示。
- 实验显示模型的有效性。
本文做法
- 将篇章关系映射到低维向量空间中能够挖掘论元关系的几何结构信息。
- 进一步捕捉论元的语义特征。
- 将两个部分联合学习。
模型图
左边是它所谓的集合结构学习(GSL)使用的是TransS模型,也就是将论元和关系映射到同一个向量空间中,从而获得两个论元的表示,以及损失。右边是它所谓的语义结构学习(SFL)就是将刚才学习到的Arg1和Arg2再进一步的进行关系分类。中间就是一个共享编码器,以及共享损失的联合学习框架。
本文缺点
- 整体性能提升不大,没有进行显著性检验。
- 尽管说利用TransS可以使得关系映射到低维空间,获得更好的表示,但是最后的实验中提及这个部分非常少,使用了一个简单的例子解释了可以转移其原有的注意力。
- 文章说,没有直接利用TransS来识别篇章关系是因为每个论元不能够被复用。(论元不重复?)但是对于论元的编码是可以复用的啊。(个人猜测应该是性能不好)
- 还有一些描述重复和不一致的情况出现。
本文新词
Intuitively 直观的
algebraic 代数的
geometric 几何的
以上是关于论文解读基于TransS驱动的隐式篇章关系识别的联合学习框架的主要内容,如果未能解决你的问题,请参考以下文章
论文解读NAACL 2021 对比自监督学习的上下文和一般句子表征:以篇章关系分析为例