自然语言表示学习：文本语义向量化表示研究与应用

封面

版权信息

内容简介

前言

第1章 绪论

1.1 研究背景及意义

1.2 基本定义及问题描述

第2章 语义表示学习的基础信息

2.1 发展历史

2.2 实际应用

第3章 分布式表示方法

3.1 概述

3.2 基于矩阵分解的方法

3.3 基于神经网络的方法

3.4 方法总结与对比

第4章 预训练语言模型

4.1 ELMo模型

4.2 GPT模型

4.3 BERT模型

4.4 RoBERTa模型

4.5 XLNet模型

4.6 方法总结与对比

第5章 增强关联模式的语义表示方法

5.1 引言

5.2 相关工作

5.3 预备知识

5.3.1 基于上下文信息的语义表示模型

5.3.2 关联模式挖掘

5.4 增强关联模式的语义表示模型

5.4.1 基于CBOW的APWE模型

5.4.2 基于Skip-gram的APWE模型

5.5 实验

5.5.1 对比方法

5.5.2 实验Ⅰ：文本分类

5.5.3 实验Ⅱ：查询词扩展

5.5.4 参数分析

5.5.5 实例分析

5.6 本章小结

第6章 基于知识的语义向量化表示

6.1 引言

6.2 相关工作

6.2.1 知识库表示

6.2.2 知识与文本联合表示

6.3 基于语义结构的语义表示模型

6.3.1 语义结构定义

6.3.2 SENSE模型

6.4 实验

6.4.1 对比方法

6.4.2 参数设置

6.4.3 任务Ⅰ：词相似度测量

6.4.4 任务Ⅱ：词类比推理

6.4.5 任务Ⅲ：文本分类

6.4.6 任务Ⅳ：查询词扩展

6.5 本章小结

第7章 文本分类中任务导向的语义表示方法

7.1 引言

7.2 相关工作

7.3 任务导向的语义表示模型

7.3.1 语义特征表示

7.3.2 任务特征表示

7.3.3 联合表示模型及优化

7.4 实验

7.4.1 数据集

7.4.2 对比方法

7.4.3 实验参数设置

7.4.4 整体评测效果

7.5 实例分析

7.6 本章小结

第8章 文本语义向量化表示在机器阅读理解任务中的应用

8.1 引言

8.2 机器阅读理解

8.3 机器阅读理解基础方法

8.4 多粒度语义匹配的MGRC模型

8.4.1 多粒度语义表示

8.4.2 多粒度语义匹配

8.4.3 联合模型及其优化

8.5 实验

8.5.1 数据集

8.5.2 评测指标及对比方法

8.5.3 整体性能评测

8.5.4 参数分析

8.5.5 模块有效性验证

8.5.6 实例分析

8.6 本章小结

第9章 总结与展望

9.1 本书总结

9.2 未来研究方向展望