软件学报

作者：李长升，汪诗烨，李延铭，张成喆，袁野，王国仁

单位：李长升，北京理工大学 计算机学院, 北京 10008111,汪诗烨，北京理工大学 计算机学院, 北京 10008102,李延铭，北京理工大学 计算机学院, 北京 10008103,张成喆，北京理工大学 计算机学院, 北京 10008104,袁野，北京理工大学 计算机学院, 北京 10008105,王国仁，北京理工大学 计算机学院, 北京 10008106

关键词：反向智能;人工智能安全;逆向还原;缺陷分析

基金：国家自然科学基金优秀青年科学基金（62122013）；国家自然科学基金广东联合基金重点项目（U2001211）；北京理工大学青年教师学术启动计划（3070012222010）

在大数据时代，人工智能得到了蓬勃发展，尤其以机器学习、深度学习为代表的技术更是取得了突破性进展.随着人工智能在实际场景中的广泛应用，人工智能的安全和隐私问题也逐渐暴露出来，并吸引了学术界和工业界的广泛关注.以机器学习为代表，许多学者从攻击和防御的角度对模型的安全问题进行了深入的研究，并且提出了一系列的方法.然而，当前对机器学习安全的研究缺少完整的理论架构和系统架构.从训练数据逆向还原、模型结构反向推演、模型缺陷分析等角度进行了总结和分析，建立了反向智能的抽象定义及其分类体系.同时，在反向智能的基础上，将机器学习安全作为应用对其进行简要归纳.最后探讨了反向智能研究当前面临的挑战以及未来的研究方向.建立反向智能的理论体系，对于促进人工智能健康发展极具理论意义.

来源：2023年第2期

《软件学报》期刊编辑部

查看软件学报杂志2023年第2期