软件学报

作者：马舒岑，史建琦，黄滟鸿，秦胜潮，侯哲

单位：马舒岑，国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 200062;华东师范大学 软件工程学院, 上海 20006211,史建琦，国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 200062;华东师范大学 软件工程学院, 上海 20006202,黄滟鸿，国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 200062;华东师范大学 软件工程学院, 上海 20006203,秦胜潮，深圳大学计算机与软件学院, 广东 深圳 51806004,侯哲，School of Information and Communication Technology, Griffith University, Brisbane 4111, Australia05

关键词：机器学习可解释性;特征重要性;反事实样本;形式化方法;逻辑推理

基金：国家重点研发计划(2019YFB2102602)

随着机器学习在安全关键领域的应用愈加广泛,对于机器学习可解释性的要求也愈加提高.可解释性旨在帮助人们理解模型内部的运作原理以及决策依据,增加模型的可信度.然而,对于随机森林等机器学习模型的可解释性相关研究尚处于起步阶段.鉴于形式化方法严谨规范的特性以及近年来在机器学习领域的广泛应用,提出一种基于形式化和逻辑推理方法的机器学习可解释性方法,用于解释随机森林的预测结果.即将随机森林模型的决策过程编码为一阶逻辑公式,并以最小不满足核为核心,提供了关于特征重要性的局部解释以及反事实样本生成方法.多个公开数据集的实验结果显示,所提出的特征重要性度量方法具有较高的质量,所提出的反事实样本生成算法优于现有的先进算法;此外,从用户友好的角度出发,可根据基于反事实样本分析结果生成用户报告,在实际应用中,能够为用户改善自身情况提供建议.

来源：2022年第7期

《软件学报》期刊编辑部

查看软件学报杂志2022年第7期