第二章 语义分析研究进展、现状及趋势
-
语义分析
- 定义:运用各种机器学习方法,学习理解一段文本的语义内容。
-
分类
-
词汇级:获取区分单词语义
-
词义消歧
- 在词典中描述词语的意义
- 在语料中进行词义的自动消歧
-
问题
- 词典的构建
- 上下文的建模
-
词义表示和学习
-
One-hot表示法:
- 方法:把词表示为一个很长的向量,向量的维度是词表的大小,绝大多数元素为0,只有一个维度为1,该维度即为当前词。
- 问题:任意两个词都是孤立的,看不出两者关系。
- Word embedding词嵌入法:
- 方法通过训练将某种语言中的没歌词映射成一个固定维数的向量,形成词向量空间,向量可视为一个点,引入“距离”表示词间相似性。
-
One-hot表示法:
-
词义消歧
-
句子级:句子表达的语义
-
浅层语义分析
-
语义角色标注SRL(以谓词为中心)
- 核心语义角色who
- 附属语义角色where when how why
-
分类
- 动词性谓词SRL
- 名词性谓词SRL
- 严重依赖于词法分析结果
-
语义角色标注SRL(以谓词为中心)
-
深层语义分析(句子形式化)
- 谓词逻辑表达式
- 基于依存的组合式语义表达式
-
问题:
- 普通文本到实体、关系谓词之间的映射
- 面向开放领域的语义分析
-
浅层语义分析
-
词汇级:获取区分单词语义
- 注:谓词是用来描述或判定客体性质、特征或者客体之间关系的词项。
- 显式篇章关系:连接词存在于文本
- 隐式篇章关系:根据上下文语境推倒连接词
- 简历有效的模型和系统
- 实现在各个语言单位的自动语义分析
- 理解整个文本的真实语义
-
词义消歧
- 基于词典的词义消歧:消歧性能差
- 有监督词义消歧:使用词义标注语料建立消歧模型,重点是特征的表示
- 无监督或半监督词义消歧:无需大规模人工标注数据,依赖于大规模未标注语料,及该语料的句法分析结果。
- 词嵌入学习:词嵌入的学习通常与语言模型是捆绑在一起的,即训练语言模型的同时也学习和优化了词嵌入。
-
语义角色标注:即给定一个谓词及其所在的句子,找出句子中该谓词的相应语义角色成分。角色识别和角色分类过程中,计算两个对象之间的相似度。
- 角色剪枝:制定启发式规则,过滤非角色成分
- 角色识别:二元分类器,判定是否给定谓词的语义角色
- 角色分类:多元分类器,判断角色类别
-
句子级深层语义分析方法
- 基于知识库的语义分析
- 有监督的语义分析
- 半监督或无监督的语义分析:EM算法
-
篇章分析(初始阶段)
- 基于Penn Discourse TreeBank的篇章分析
- (PDTB是最大的篇章语料库)
- 论元:带有论元角色的体词性成分,而论元角色是由谓词根据其与相关的名词短语之间语义关系而指派给这些名词短语的语义角色,即与动词连用的论元在与动词所表示的动作或状态里扮演的语义角色。
- 篇章连接词识别
- 论元识别
- 显式篇章关系识别
- 隐式篇章关系识别
-
基于RST的篇章分析
- 篇章基本单元(EDU)识别
- 篇章结构生成
- 中文篇章分析
- 主要在语料资源建设方面
- 基于PDTB体系的标注
- 基于RST体系的标注
- 基于连接依存书的标注
- 苏州大学发布了中文篇章分析语料(Chinese Tiscourse Treebank)CDTB(自顶向下的标注策略,先找上层关系,递归地对切分后的内容进行标注)
-
语法分析的发展趋势
- 短语、句嵌入学习
- 基于句子级语义分析的篇章融合
- 中文篇章分析
- 非规范文本的语义分析