软件学报

作者：李功源，刘博涵，杨雨豪，邵栋

单位：李功源，南京大学 软件学院, 江苏 南京 210023;计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002311,刘博涵，南京大学 软件学院, 江苏 南京 210023;计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002302,杨雨豪，南京大学 软件学院, 江苏 南京 210023;计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002303,邵栋，南京大学 软件学院, 江苏 南京 210023;计算机软件新技术国家重点实验室(南京大学), 江苏 南京 21002304

关键词：人工智能系统;可信;质量属性;实践

基金：国家自然科学基金(62072227, 62202219); 国家重点研发计划(2019YFE0105500); 江苏省重点研发计划(BE2021002-2); 南京大学计算机软件新技术国家重点实验室创新项目(ZZKT2022A25); 海外开放课题(KFKT2022A09)

人工智能系统以一种前所未有的方式, 被广泛地用于解决现实世界的各种挑战, 其已然成为推动人类社会发展的核心驱动力. 随着人工智能系统在各行各业的迅速普及, 人们对人工智能系统的可信性愈发感到担忧, 其主要原因在于, 传统软件系统的可信性已不足以完全描述人工智能系统的可信性. 对于人工智能系统的可信性的研究, 具有迫切需要. 目前已有大量相关研究, 且各有侧重, 但缺乏一个整体性、系统性的认识. 研究是一项以现有二级研究为研究对象的三级研究, 旨在揭示人工智能系统的可信性相关的质量属性和实践的研究现状, 建立一个更加全面的可信人工智能系统质量属性框架. 收集、整理和分析2022年3月前发表的34项二级研究, 识别21种与可信性相关的质量属性及可信性的度量方法和保障实践. 研究发现, 现有研究主要关注在安全性和隐私性上, 对于其他质量属性缺乏广泛且深入的研究. 对于需要跨学科协作的两个研究方向, 需要在未来的研究中引起重视, 一方面是人工智能系统本质上还是一个软件系统, 其作为一个软件系统的可信值得人工智能和软件工程专家合作研究; 另一方面, 人工智能是人类对于机器拟人化的探索, 如何从系统层面保障机器在社会环境下的可信, 如怎样满足人本主义, 值得人工智能和社会科学专家合作研究.

来源：2023年第9期

《软件学报》期刊编辑部

查看软件学报杂志2023年第9期