软件学报

北大核心,INSPEC,JST,Pж(AJ),EI

国内刊号:11-2560/TP

国际刊号:1000-9825

软件学报杂志2024年第7期:面向合同信息抽取的动态多任务学习方法

发布日期:

作者:王浩畅,郑冠彧,赵铁军

单位:王浩畅,东北石油大学 计算机与信息技术学院, 黑龙江 大庆 16331811,郑冠彧,东北石油大学 计算机与信息技术学院, 黑龙江 大庆 16331802,赵铁军,哈尔滨工业大学 计算机科学与技术学院, 黑龙江 哈尔滨 15000103

关键词:多任务学习;合同文本;信息联合抽取;注意力机制;实体嵌套

基金:国家自然科学基金(61402099, 61702093)

对于合同文本中要素和条款两类信息的准确提取, 可以有效提升合同的审查效率, 为贸易各方提供便利化服务. 然而当前的合同信息抽取方法一般训练单任务模型对要素和条款分别进行抽取, 并没有深挖合同文本的特征, 忽略了不同任务间的关联性. 因此, 采用深度神经网络结构对要素抽取和条款抽取两个任务间的相关性进行研究, 并提出多任务学习方法. 所提方法首先将上述两种任务进行融合, 构建一种应用于合同信息抽取的基本多任务学习模型; 然后对其进行优化, 利用Attention机制进一步挖掘其相关性, 形成基于Attention机制的动态多任务学习模型; 最后针对篇章级合同文本中复杂的语义环境, 在前两者的基础上提出一种融合词汇知识的动态多任务学习模型. 实验结果表明, 所提方法可以充分捕捉任务间的共享特征, 不仅取得了比单任务模型更好的信息抽取结果, 而且能够有效解决合同文本中要素与条款间实体嵌套的问题, 实现合同要素与条款的信息联合抽取. 此外, 为了验证该方法的鲁棒性, 在多个领域的公开数据集上进行实验, 结果表明该方法的效果均优于基线方法.

来源:2024年第7期

《软件学报》期刊编辑部

查看软件学报杂志2024年第7期

联系我们

  • 地址:北京8718信箱
  • 电话:010-62562563
  • E-mail:jos (a) iscas. ac. cn

咨询工作人员