软件学报

北大核心,INSPEC,JST,Pж(AJ),EI

国内刊号:11-2560/TP

国际刊号:1000-9825

软件学报杂志2020年第7期:基于神经网络的机器阅读理解综述

发布日期:

作者:顾迎捷,桂小林,李德福,沈毅,廖东

单位:顾迎捷,西安交通大学 电子与信息工程学部, 陕西 西安 710049;陕西省计算机网络重点实验室(西安交通大学), 陕西 西安 71004911,桂小林,西安交通大学 电子与信息工程学部, 陕西 西安 710049;陕西省计算机网络重点实验室(西安交通大学), 陕西 西安 71004902,李德福,西安交通大学 电子与信息工程学部, 陕西 西安 710049;陕西省计算机网络重点实验室(西安交通大学), 陕西 西安 71004903,沈毅,西安交通大学 电子与信息工程学部, 陕西 西安 710049;陕西省计算机网络重点实验室(西安交通大学), 陕西 西安 71004904,廖东,西安交通大学 电子与信息工程学部, 陕西 西安 710049;陕西省计算机网络重点实验室(西安交通大学), 陕西 西安 71004905

关键词:机器阅读理解;自然语言处理;注意力机制;神经阅读理解模型

基金:国家重点研发计划(2018YFB1800304);陕西省重点研发项目(2019GY-005,2017ZDXM-GY-011,2020GY-033)

机器阅读理解的目标是使机器理解自然语言文本,并能够正确回答与文本相关的问题.由于数据集规模的制约,早期的机器阅读理解方法大多基于人工特征以及传统机器学习方法进行建模.近年来,随着知识库、众包群智的发展,研究者们陆续提出了高质量的大规模数据集,为神经网络模型以及机器阅读理解的发展带来了新的契机.对基于神经网络的机器阅读理解相关的最新研究成果进行了详尽的归纳:首先,概述了机器阅读理解的发展历程、问题描述以及评价指标;然后,针对当前最流行的神经阅读理解模型架构,包括嵌入层、编码层、交互层和输出层中所使用的相关技术进行了全面的综述,同时阐述了最新的BERT预训练模型及其优势;之后,归纳了近年来机器阅读理解数据集和神经阅读理解模型的研究进展,同时,详细比较分析了最具代表性的数据集以及神经网络模型;最后展望了机器阅读理解研究所面临的挑战和未来的研究方向.

来源:2020年第7期

《软件学报》期刊编辑部

查看软件学报杂志2020年第7期

联系我们

  • 地址:北京8718信箱
  • 电话:010-62562563
  • E-mail:jos (a) iscas. ac. cn

咨询工作人员