国内刊号:11-2560/TP
国际刊号:1000-9825
发布日期:
作者:于志强,余正涛,黄于欣,郭军军,线岩团
单位:于志强,昆明理工大学 信息工程与自动化学院, 云南 昆明 650500;云南民族大学 数学与计算机科学学院, 云南 昆明 650500;云南省人工智能重点实验室(昆明理工大学), 云南 昆明 65050011,余正涛,昆明理工大学 信息工程与自动化学院, 云南 昆明 650500;云南省人工智能重点实验室(昆明理工大学), 云南 昆明 65050002,黄于欣,昆明理工大学 信息工程与自动化学院, 云南 昆明 650500;云南省人工智能重点实验室(昆明理工大学), 云南 昆明 65050003,郭军军,昆明理工大学 信息工程与自动化学院, 云南 昆明 650500;云南省人工智能重点实验室(昆明理工大学), 云南 昆明 65050004,线岩团,昆明理工大学 信息工程与自动化学院, 云南 昆明 650500;云南省人工智能重点实验室(昆明理工大学), 云南 昆明 65050005
关键词:神经机器翻译;低资源;多策略;原型
基金:国家重点研发计划(2019QY1800); 国家自然科学基金(61732005, 61672271, 61761026, 61762056, 61866020); 云南省重大科技专项(202002AD080001); 云南省高新技术产业专项(201606); 云南省自然科学基金(2018FB104)
资源丰富场景下, 利用相似性翻译作为目标端原型序列, 能够有效提升神经机器翻译的性能. 然而在低资源场景下, 由于平行语料资源匮乏, 导致不能匹配得到原型序列或序列质量不佳. 针对此问题, 提出一种基于多种策略进行原型生成的方法. 首先结合利用关键词匹配和分布式表示匹配检索原型序列, 如未能获得匹配, 则利用伪原型生成方法产生可用的伪原型序列. 其次, 为有效地利用原型序列, 对传统的编码器-解码器框架进行改进. 编码端使用额外的编码器接收原型序列输入; 解码端在利用门控机制控制信息流动的同时, 使用改进的损失函数减少低质量原型序列对模型的影响. 多个数据集上的实验结果表明, 相比基线模型, 所提出的方法能够有效提升低资源场景下的机器翻译性能.
来源:2023年第11期
《软件学报》期刊编辑部