软件学报

作者：余笑岩，何世柱，宋燃，刘康，赵军，周永彬

单位：余笑岩，中国科学院大学 人工智能学院, 北京 100049;中国科学院 自动化研究所, 北京 100190;中国科学院 信息工程研究所, 北京 10009311,何世柱，中国科学院大学 人工智能学院, 北京 100049;中国科学院 自动化研究所, 北京 10019002,宋燃，中国科学院 自动化研究所, 北京 10019003,刘康，中国科学院大学 人工智能学院, 北京 100049;中国科学院 自动化研究所, 北京 10019004,赵军，中国科学院大学 人工智能学院, 北京 100049;中国科学院 自动化研究所, 北京 10019005,周永彬，中国科学院 信息工程研究所, 北京 100093;南京理工大学 网络空间安全学院, 江苏 南京 21009406

关键词：选择式阅读理解;多视角图编码;证据抽取;答案预测;联合学习

基金：国家重点研发计划(2020AAA0106400); 国家自然科学基金(61922085, 61976211, U1936209, 62002353); 中国博士后科学基金(2021M701726); 中国科学院重点研究计划(ZDBS-SSW-JSC006)

选择式阅读理解通常采用证据抽取和答案预测的两阶段流水线框架, 答案预测的效果非常依赖于证据句抽取的效果. 传统的证据抽取多依赖词段匹配或利用噪声标签监督证据抽取的方法, 准确率不理想, 这极大地影响了答案预测的性能. 针对该问题, 提出一种联合学习框架下基于多视角图编码的选择式阅读理解方法, 从多视角充分挖掘文档句子之间以及文档句子和问句之间的关联关系, 实现证据句及其关系的有效建模; 同时通过联合训练证据抽取和答案预测任务, 利用证据和答案之间强关联关系提升证据抽取与答案预测的性能. 具体来说, 所提方法首先基于多视角图编码模块对文档、问题和候选答案联合编码, 从统计特性、相对距离和深度语义3个视角捕捉文档、问题和候选答案之间的关系, 获得问答对感知的文档编码特征; 然后, 构建证据抽取和答案预测的联合学习模块, 通过协同训练强化证据与答案之间的关系, 证据抽取子模块实现证据句的选择, 并将其结果和文档编码特征进行选择性融合, 并用于答案预测子模块完成答案预测. 在选择式阅读理解数据集ReCO和RACE上的实验结果表明, 所提方法提升了从文档中选择证据句子的能力, 进而提高答案预测的准确率. 同时, 证据抽取与答案预测联合学习很大程度减缓了传统流水线所导致的误差累积问题.

来源：2023年第11期

《软件学报》期刊编辑部

查看软件学报杂志2023年第11期