软件学报

北大核心,INSPEC,JST,Pж(AJ),EI

国内刊号:11-2560/TP

国际刊号:1000-9825

软件学报杂志2022年第3期:基于多覆盖模型的神经机器翻译

发布日期:

作者:刘俊鹏,黄锴宇,李玖一,宋鼎新,黄德根

单位:刘俊鹏,大连理工大学 计算机科学与技术学院, 辽宁 大连 11602411,黄锴宇,大连理工大学 计算机科学与技术学院, 辽宁 大连 11602402,李玖一,大连理工大学 计算机科学与技术学院, 辽宁 大连 11602403,宋鼎新,大连理工大学 计算机科学与技术学院, 辽宁 大连 11602404,黄德根,大连理工大学 计算机科学与技术学院, 辽宁 大连 11602405

关键词:神经机器翻译;注意力机制;序列到序列模型;多覆盖模型;过度翻译;漏翻译

基金:国家重点研发计划(2020AAA0108004);国家自然科学基金(61672127,U1936109)

覆盖模型可以缓解神经机器翻译中的过度翻译和漏翻译问题.现有方法通常依靠覆盖向量或覆盖分数等单一方式存储覆盖信息,而未考虑不同覆盖信息之间的关联性,因此对信息的利用并不完善.针对该问题,基于翻译历史信息的一致性和模型之间的互补性,提出了多覆盖融合模型.首先定义词级覆盖分数概念;然后利用覆盖向量和覆盖分数存储的信息同时指导注意力机制,降低信息存储损失对注意力权重计算的影响.根据两种覆盖信息融合方式的不同,提出了两种多覆盖融合方法.利用序列到序列模型在中英翻译任务上进行了实验,结果表明,所提方法能够显著提升翻译性能,并改善源语言和目标语言的对齐质量.与只使用覆盖向量的模型相比,过度翻译和漏翻译问题的数量得到进一步减少.

来源:2022年第3期

《软件学报》期刊编辑部

查看软件学报杂志2022年第3期

联系我们

  • 地址:北京8718信箱
  • 电话:010-62562563
  • E-mail:jos (a) iscas. ac. cn

咨询工作人员