软件学报

作者：赵凯琳，靳小龙，王元卓

单位：赵凯琳，中国科学院 计算技术研究所 网络数据科学与技术重点实验室, 北京 100190;中国科学院大学 计算机与控制学院, 北京 10004911,靳小龙，中国科学院 计算技术研究所 网络数据科学与技术重点实验室, 北京 100190;中国科学院大学 计算机与控制学院, 北京 10004902,王元卓，中国科学院 计算技术研究所 网络数据科学与技术重点实验室, 北京 100190;中国科学院大学 计算机与控制学院, 北京 10004903

关键词：小样本学习;微调;数据增强;迁移学习;度量学习;元学习

基金：国家重点研发计划；国家自然科学基金（U1836206，61772501，61572473，61572469）

小样本学习旨在通过少量样本学习到解决问题的模型.近年来，在大数据训练模型的趋势下，机器学习和深度学习在许多领域中取得了成功.但是在现实世界中的很多应用场景中，样本量很少或者标注样本很少，而对大量无标签样本进行标注工作将会耗费很大的人力.所以，如何用少量样本进行学习就成为目前人们需要关注的问题.系统地梳理了当前小样本学习的相关工作，具体来说介绍了基于模型微调、基于数据增强和基于迁移学习这3大类小样本学习模型与算法的研究进展；将基于数据增强的方法细分为基于无标签数据、基于数据合成和基于特征增强这3类，将基于迁移学习的方法细分为基于度量学习、基于元学习和基于图神经网络这3类；总结了目前常用的小样本数据集和代表性的小样本学习模型在这些数据集上的实验结果；随后对小样本学习的现状和挑战进行了概述；最后展望了小样本学习的未来发展方向.

来源：2021年第2期

《软件学报》期刊编辑部

查看软件学报杂志2021年第2期