软件学报

作者：刘文炎，沈楚云，王祥丰，金博，卢兴见，王晓玲，查宏远，何积丰

单位：刘文炎，华东师范大学 软件工程学院, 上海 20006211,沈楚云，华东师范大学 计算机科学与技术学院, 上海 20006202,王祥丰，华东师范大学 计算机科学与技术学院, 上海 200062;上海自主智能无人系统科学中心 可信人工智能研究所, 上海 20009203,金博，华东师范大学 计算机科学与技术学院, 上海 200062;上海自主智能无人系统科学中心 可信人工智能研究所, 上海 20009204,卢兴见，华东师范大学 计算机科学与技术学院, 上海 20006205,王晓玲，华东师范大学 计算机科学与技术学院, 上海 200062;上海自主智能无人系统科学中心 可信人工智能研究所, 上海 20009206,查宏远，华东师范大学 计算机科学与技术学院, 上海 200062;上海自主智能无人系统科学中心 可信人工智能研究所, 上海 20009207,何积丰，华东师范大学 软件工程学院, 上海 200062;上海自主智能无人系统科学中心 可信人工智能研究所, 上海 20009208

关键词：可信人工智能;可信机器学习;公平性;统计公平;因果公平;公平表征;公平建模;公平决策

基金：上海市科委创新行动计划人工智能科技支持专项（20DZ1100300，20511101100）；国家自然科学基金（61972155，61672231，12071145）；上海市自然科学基金（19ZR1414200）；国家重点研发计划（2020AAA0107400，2018YFB2101300）

人工智能在与人类生活息息相关的场景中自主决策时，正逐渐面临法律或伦理的问题或风险.可信机器学习是建立安全人工智能系统的核心技术，是人工智能领域的热门研究方向，而公平性是可信机器学习的重要考量.公平性旨在研究机器学习算法决策对个人或群体不存在因其固有或后天属性所引起的偏见或偏爱.从公平表征、公平建模和公平决策这3个角度出发，以典型案例中不公平问题及其危害为驱动，分析数据和算法中造成不公平的潜在原因，建立机器学习中的公平性抽象定义及其分类体系，进一步研究用于消除不公平的机制.可信机器学习中的公平性研究在人工智能多个领域中处于起步阶段，如计算机视觉、自然语言处理、推荐系统、多智能体系统和联邦学习等.建立具备公平决策能力的人工智能算法，是加速推广人工智能落地的必要条件，且极具理论意义和应用价值.

来源：2021年第5期

《软件学报》期刊编辑部

查看软件学报杂志2021年第5期