软件学报

作者：刘泽垣，王鹏江，宋晓斌，张欣，江奔奔

单位：刘泽垣，清华大学, 北京 10008411,王鹏江，清华大学, 北京 10008402,宋晓斌，清华大学, 北京 10008403,张欣，对外经济贸易大学, 北京 10002904,江奔奔，清华大学, 北京 10008405

关键词：可信人工智能;大语言模型;幻觉;幻觉评估与缓解

基金：国家重点研发计划(2022YFE0197600)

随着以Transformer为代表的预训练模型等深度学习技术的发展, 大语言模型(LLM)日益展现出强大的理解力和创造力, 对抽象摘要、对话生成、机器翻译和数据到文本生成等下游任务产生了重要影响, 同时也在图像说明、视觉叙事等多模态领域展现出了广阔的应用前景. 虽然大语言模型具备显著的性能优势, 但深度学习架构使其难以避免内容幻觉问题, 这不仅会削减系统性能, 还严重影响其可信性和应用广泛性, 由此衍生的法律风险和伦理风险成为掣肘其进一步发展与落地的主要障碍. 聚焦大语言模型的幻觉问题, 首先, 对大语言模型的幻觉问题展开系统概述, 分析其来源及成因; 其次, 系统概述大语言模型幻觉问题的评估方法和缓解方法, 对不同任务的评估和缓解方法类型化并加以深入比较; 最后, 从评估和缓解角度展望应对幻觉问题的未来趋势和应对方案.

来源：2025年第3期

《软件学报》期刊编辑部

查看软件学报杂志2025年第3期