cs224n第六讲依存分析

Posted 2021-01-23 py-fwg

1、句法结构：成分结构和依存结构

 两种角度的语言结构：

句子成分语法=短语结构语法=上下文无关语法

Constituency = phrase structure grammar = context-free grammars（CFGs）

依存句法结构（找到词之间的依赖关系，或者说是修饰关系，一般用箭头来表示）

Dependency structure

依存句法的难点：依附的语义模糊性

标注型数据的发展：通用依存树库的建立，给自然语言处理的工作带来很多方便

2、依存句法结构

依存语法和依存结构

依存语法组成：

• 头部
• 独立的依赖项
• 箭头（依赖关系）
• 无环

依存分析的参考根据：

• 双关语（discussion of issues）
• 依赖距离，大多数是相邻近的单词
• 介入信息（标点符号一些介入）
• 头部的分析（比如哪侧有多少依赖项是正常的）

做依存分析的方法：动态编程法；基于图的算法（如最小生成树）；约束补偿方法；基于转换的依存解析方法，也叫确定性依存句法分析。

3、基于转换的依存分析方法

Greedy transition-based dependency parsing（Nivre 2003）

基于基本转换的依存分析器的组成：

基于弧标准转换的依存分析：

• Shift：从右边的buffer取顶部元素放到左边stack的顶部（stack的顶部在最右，buffer的顶部在最左）
• Left-Arc：从stack中取栈顶第二个元素出去
• Right-Arc：从stack中取栈顶元素出去

如何找到下一个要操作的动作：

MaltParser [Nivre and Hall 2005]

4、神经依存分析

为什么要训练一个神经依存分析器？指示特征的重新访问

问题：稀疏性；不完整；计算耗费大

A neural dependency parser [Chen and Manning 2014]

模型框架：