软件学报

作者：胡聪，吴小俊，舒振球，陈素根

单位：胡聪，江南大学 人工智能与计算机学院, 江苏 无锡 21412211,吴小俊，江南大学 人工智能与计算机学院, 江苏 无锡 21412202,舒振球，江南大学 物联网工程学院, 江苏 无锡 214122;江苏理工学院 计算机工程学院, 江苏 常州 21300103,陈素根，安庆师范大学 数学与计算科学学院, 安徽 安庆 24613304

关键词：阶梯网络;流形正则化;图拉普拉斯;深度自编码;半监督学习

基金：国家自然科学基金（61373055，61672265，61603159，61702012，U1836218）；教育部111引智计划（B12018）；江苏省自然科学基金（BK20160293）；安徽省高等学校优秀青年人才支持计划（gxyq2017026）

阶梯网络不仅是一种基于深度学习的特征提取器，而且能够应用于半监督学习中.深度学习在实现了复杂函数逼近的同时，也缓解了多层神经网络易陷入局部最小化的问题.传统的自编码、玻尔兹曼机等方法易忽略高维数据的低维流形结构信息，使用这些方法往往会获得无意义的特征表示，这些特征不能有效地嵌入到后续的预测或识别任务中.从流形学习的角度出发，提出一种基于阶梯网络的深度表示学习方法，即拉普拉斯阶梯网络LLN （Laplacian ladder network）.拉普拉斯阶梯网络在训练的过程中不仅对每一编码层嵌入噪声并进行重构，而且在各重构层引入图拉普拉斯约束，将流形结构嵌入到多层特征学习中，以提高特征提取的鲁棒性和判别性.在有限的有标签数据情况下，拉普拉斯阶梯网络将监督学习损失和非监督损失融合到了统一的框架进行半监督学习.在标准手写数据数据集MNIST和物体识别数据集CIFAR-10上进行了实验，结果表明，相对于阶梯网络和其他半监督方法，拉普拉斯阶梯网络都得到了更好的分类效果，是一种有效的半监督学习算法.

来源：2020年第5期

《软件学报》期刊编辑部

查看软件学报杂志2020年第5期