软件学报

作者：吕天根，洪日昌，何军，胡社教

单位：吕天根，合肥工业大学 计算机与信息学院, 安徽 合肥 23003111,洪日昌，合肥工业大学 计算机与信息学院, 安徽 合肥 230031;合肥综合性国家科学中心数据空间研究院, 安徽 合肥 23003602,何军，合肥工业大学 计算机与信息学院, 安徽 合肥 230031;合肥综合性国家科学中心数据空间研究院, 安徽 合肥 23003603,胡社教，合肥工业大学 计算机与信息学院, 安徽 合肥 23003104

关键词：小样本学习;多模态融合;图像分类;表示学习

基金：国家自然科学基金（61932009）

深度学习模型取得了令人瞩目的成绩，但其训练依赖于大量的标注样本，在标注样本匮乏的场景下模型表现不尽人意.针对这一问题，近年来以研究如何从少量样本快速学习的小样本学习被提了出来，方法主要采用元学习方式对模型进行训练，取得了不错的学习效果.但现有方法：1）通常仅基于样本的视觉特征来识别新类别，信息源较为单一；2）元学习的使用使得模型从大量相似的小样本任务中学习通用的、可迁移的知识，不可避免地导致模型特征空间趋于一般化，存在样本特征表达不充分、不准确的问题.为解决上述问题，将预训练技术和多模态学习技术引入小样本学习过程，提出基于多模态引导的局部特征选择小样本学习方法.所提方法首先在包含大量样本的已知类别上进行模型预训练，旨在提升模型的特征表达能力；而后在元学习阶段，方法利用元学习对模型进行进一步优化，旨在提升模型的迁移能力或对小样本环境的适应能力，所提方法同时基于样本的视觉特征和文本特征进行局部特征选择来提升样本特征的表达能力，以避免元学习过程中模型特征表达能力的大幅下降；最后所提方法利用选择后的样本特征进行小样本学习.在MiniImageNet、CIFAR-FS和FC-100这3个基准数据集上的实验表明，所提的小样本学习方法能够取得更好的小样本学习效果.

来源：2023年第5期

《软件学报》期刊编辑部

查看软件学报杂志2023年第5期