软件学报

北大核心,INSPEC,JST,Pж(AJ),EI

国内刊号:11-2560/TP

国际刊号:1000-9825

软件学报杂志2022年第12期:一种基于各向异性高斯核核惩罚的PCA特征提取算法

发布日期:

作者:刘俊,李威,陈蜀宇,徐光侠

单位:刘俊,重庆邮电大学 软件工程学院, 重庆 40006511,李威,重庆邮电大学 软件工程学院, 重庆 40006502,陈蜀宇,重庆大学 大数据与软件学院, 重庆 40133103,徐光侠,重庆邮电大学 软件工程学院, 重庆 40006504

关键词:各向异性高斯核;特征惩罚函数;主成分分析;梯度下降法

基金:国家自然科学基金(61772099,61772098);重庆市自然科学基金(cstc2021jcyj-msxmX0530);重庆市“三百”科技创新领军人才支持计划(CSTCCXLJRC201917);重庆市创新创业示范团队培育计划(CSTC2017kjrc-cxcytd0063)

提出了一种基于各向异性高斯核核惩罚的主成分分析的特征提取算法.该算法不同于传统的核主成分分析算法.在非线性数据降维中,传统的核主成分分析算法忽略了原始数据的无量纲化.此外,传统的核函数在各维度上主要由一个相同的核宽参数控制,该方法无法准确反映各维度不同特征的重要性,从而导致降维过程中准确率低下.为了解决上述问题,首先针对现原始数据的无量纲化问题,提出了一种均值化算法,使得原始数据的总方差贡献率有明显的提高.其次,引入了各向异性高斯核函数,该核函数每个维度拥有不同的核宽参数,各核宽参数能够准确地反映所在维度数据特征的重要性.再次,基于各向异性高斯核函数建立了核主成分分析的特征惩罚目标函数,以便用较少的特征表示原始数据,并反映每个主成分信息的重要性.最后,为了寻求最佳特征,引入梯度下降算法来更新特征惩罚目标函数中的核宽度和控制特征提取算法的迭代过程.为了验证所提出算法的有效性,各算法在UCI公开数据集上和KDDCUP99数据集上进行了比较.实验结果表明,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法在9种公开的UCI公开数据集上准确率平均提高了4.49%.在KDDCUP99数据集上,所提基于各向异性高斯核核惩罚的主成分分析的特征提取算法比传统的主成分分析算法准确率提高了8%.

来源:2022年第12期

《软件学报》期刊编辑部

查看软件学报杂志2022年第12期

联系我们

  • 地址:北京8718信箱
  • 电话:010-62562563
  • E-mail:jos (a) iscas. ac. cn

咨询工作人员