软件学报

作者：侯中妮，靳小龙，陈剑赟，官赛萍，王元卓，程学旗

单位：侯中妮，中国科学院网络数据科学与技术重点实验室(中国科学院 计算技术研究所), 北京 100190;中国科学院大学 计算机科学与技术学院, 北京 10004911,靳小龙，中国科学院网络数据科学与技术重点实验室(中国科学院 计算技术研究所), 北京 100190;中国科学院大学 计算机科学与技术学院, 北京 10004902,陈剑赟，北京市信息技术研究所, 北京 10009403,官赛萍，中国科学院网络数据科学与技术重点实验室(中国科学院 计算技术研究所), 北京 10019004,王元卓，中国科学院网络数据科学与技术重点实验室(中国科学院 计算技术研究所), 北京 10019005,程学旗，中国科学院网络数据科学与技术重点实验室(中国科学院 计算技术研究所), 北京 100190;中国科学院大学 计算机科学与技术学院, 北京 10004906

关键词：可解释性;知识推理;知识图谱;事后可解释;事前可解释

基金：国家自然科学基金（61772501，62002341，U1911401，U1836206）；国家重点研发计划（2018YFC0825205）

面向知识图谱的知识推理旨在通过已有的知识图谱事实，去推断新的事实，进而实现知识库的补全.近年来，尽管基于分布式表示学习的方法在推理任务上取得了巨大的成功，但是他们的黑盒属性使得模型无法为预测出的事实做出解释.所以，如何设计用户可理解、可信赖的推理模型成为了人们关注的问题.从可解释性的基本概念出发，系统梳理了面向知识图谱的可解释知识推理的相关工作，具体介绍了事前可解释推理模型和事后可解释推理模型的研究进展；根据可解释范围的大小，将事前可解释推理模型进一步细分为全局可解释的推理和局部可解释的推理；在事后解释模型中，回顾了推理模型的代表方法，并详细介绍提供事后解释的两类解释方法.此外，还总结了可解释知识推理在医疗、金融领域的应用.随后，对可解释知识推理的现状进行概述，最后展望了可解释知识推理的未来发展方向，以期进一步推动可解释推理的发展和应用.

来源：2022年第12期

《软件学报》期刊编辑部

查看软件学报杂志2022年第12期