国内刊号:11-2560/TP
国际刊号:1000-9825
发布日期:
作者:史鼎元,王晏晟,郑鹏飞,童咏昕
单位:史鼎元,软件开发环境国家重点实验室(北京航空航天大学), 北京 100191;大数据科学与脑机智能高精尖创新中心(北京航空航天大学), 北京 100191;北京航空航天大学 计算机学院, 北京 10019111,王晏晟,软件开发环境国家重点实验室(北京航空航天大学), 北京 100191;大数据科学与脑机智能高精尖创新中心(北京航空航天大学), 北京 100191;北京航空航天大学 计算机学院, 北京 10019102,郑鹏飞,软件开发环境国家重点实验室(北京航空航天大学), 北京 100191;大数据科学与脑机智能高精尖创新中心(北京航空航天大学), 北京 100191;北京航空航天大学 计算机学院, 北京 10019103,童咏昕,软件开发环境国家重点实验室(北京航空航天大学), 北京 100191;大数据科学与脑机智能高精尖创新中心(北京航空航天大学), 北京 100191;北京航空航天大学 计算机学院, 北京 10019104
关键词:排序学习;企业数据孤岛;联邦学习;略图;差分隐私
基金:国家重点研发计划(2018AAA0101100);国家自然科学基金(61822201,U1811463);软件开发环境国家重点实验室(北京航空航天大学)开放课题(SKLSDE-2020ZX-15)
排序学习(learning-to-rank,简称LTR)模型在信息检索领域取得了显著成果,而该模型的传统训练方法需要收集大规模文本数据.然而,随着数据隐私保护日渐受到人们重视,从多个数据拥有者(如企业)手中收集数据训练排序学习模型的方式变得不可行.各企业之间数据被迫独立存储,形成了数据孤岛.由于排序模型训练需要使用查询记录、文档等诸多隐私信息,数据孤岛难以融合打通,这制约了排序学习模型的训练.联邦学习能够让多数据拥有方在隐私保护的前提下联合训练模型,是一种打通数据孤岛的新方法.在其启发下,提出了一种新的框架,即面向企业数据孤岛的联邦排序学习,它同时解决了联邦学习场景下排序学习所面临的两大挑战,即交叉特征生成与缺失标签处理.为了应对多方交叉特征的生成问题,使用了一种基于略图(sketch)数据结构与差分隐私的方法,其相比于传统加密方法具有更高的效率,同时还具有隐私性与结果精度的理论保证.为了应对缺失标签问题,提出了一种新的联邦半监督学习方法.最终,通过在公开数据集上的大量实验,验证了所提方法的有效性.
来源:2021年第3期
《软件学报》期刊编辑部