软件学报

北大核心,INSPEC,JST,Pж(AJ),EI

国内刊号:11-2560/TP

国际刊号:1000-9825

软件学报杂志2025年第4期:基于槽依赖建模的跨领域槽填充方法

发布日期:

作者:王泽,周夏冰,鞠鑫,王中卿,周国栋

单位:王泽,苏州大学 计算机科学与技术学院, 江苏 苏州 21500611,周夏冰,苏州大学 计算机科学与技术学院, 江苏 苏州 21500602,鞠鑫,苏州大学 计算机科学与技术学院, 江苏 苏州 21500603,王中卿,苏州大学 计算机科学与技术学院, 江苏 苏州 21500604,周国栋,苏州大学 计算机科学与技术学院, 江苏 苏州 21500605

关键词:槽填充;对话系统;提示学习

基金:国家自然科学基金(62176174, 61936010)

作为任务型对话系统的一个核心部分, 槽填充任务通过识别话语中存在的特定槽实体来服务于后续的下游任务. 但是, 针对一个特定领域, 需要大量有标记的数据作为支撑, 收集成本较高. 在此背景下, 跨领域槽填充任务出现, 该任务通过迁移学习的方式高效地解决了数据稀缺问题. 已有的跨领域槽填充方法都忽视了槽类型之间在话语中存在的依赖, 导致现有的模型在迁移到新领域时性能欠佳. 为了弥补这个缺陷, 提出基于槽依赖建模的跨领域槽填充方法. 基于生成式预训练模型的提示学习方法, 设计一种融入槽依赖信息的提示模板, 该模板建立了不同槽类型之间的隐式依赖关系, 充分挖掘预训练模型的实体预测性能. 此外, 为了进一步提高槽类型和槽实体与话语文本之间的语义依赖, 增加了话语填充子任务, 通过反向填充的方式增强话语与槽实体的内在联系. 通过对多个领域的迁移实验表明, 所提模型在零样本和少样本的设置上取得了较大的性能提升. 此外, 对模型中的主要结构进行了详细地分析和消融实验.

来源:2025年第4期

《软件学报》期刊编辑部

查看软件学报杂志2025年第4期

联系我们

  • 地址:北京8718信箱
  • 电话:010-62562563
  • E-mail:jos (a) iscas. ac. cn

咨询工作人员