软件学报

作者：梁震，刘万伟，吴陶然，薛白，王戟，杨文婧

单位：梁震，量子信息研究所兼高性能计算国家重点实验室(国防科技大学), 湖南 长沙 41007311,刘万伟，国防科技大学 计算机学院, 湖南 长沙 410073;复杂系统软件工程实验室(国防科技大学), 湖南 长沙 41007302,吴陶然，计算机科学国家重点实验室(中国科学院 软件研究所), 北京 100190;中国科学院大学 计算机科学与技术学院, 北京 10019003,薛白，计算机科学国家重点实验室(中国科学院 软件研究所), 北京 100190;中国科学院大学 计算机科学与技术学院, 北京 10019004,王戟，量子信息研究所兼高性能计算国家重点实验室(国防科技大学), 湖南 长沙 41007305,杨文婧，量子信息研究所兼高性能计算国家重点实验室(国防科技大学), 湖南 长沙 41007306

关键词：深度神经网络修复;错误行为;重训练;微调;错误定位

基金：国家重点研发计划(2022YFA1005101,2021ZD014030);国家自然科学基金(91948303-1,61836005,61872371,6203202)

随着智能信息时代的发展,深度神经网络在人类社会众多领域中的应用,尤其是在自动驾驶、军事国防等安全攸关系统中的部署,引起了学术界和工业界对神经网络模型可能表现出的错误行为的担忧.虽然神经网络验证和神经网络测试可以提供关于错误行为的定性或者定量结论,但这种事后分析并不能防止错误行为的发生,如何修复表现出错误行为的预训练神经网络模型依然是极具挑战性的问题.为此,深度神经网络修复这一领域应运而生,旨在消除有缺陷的神经网络产生的错误预测,使得神经网络满足特定的规约性质.目前为止,典型的神经网络修复范式有3种:重训练、无错误定位的微调和包含错误定位的微调.介绍深度神经网络的发展和神经网络修复的必要性;厘清相近概念;明确神经网络修复的挑战;详尽地调研目前已有的神经网络修复策略,并对内在联系与区别进行分析和比较;调研整理神经网络修复策略常用的评价指标和基准测试;展望未来神经网络修复领域研究中需要重点关注的可行方向.

来源：2024年第3期

《软件学报》期刊编辑部

查看软件学报杂志2024年第3期