软件学报

作者：宋冰冰，张浩，吴子锋，刘俊晖，梁宇，周维

单位：宋冰冰，云南大学信息学院, 云南 昆明 65050411,张浩，云南大学软件学院, 云南 昆明 650504;云南大学跨境网络空间安全工程研究中心, 云南 昆明 65050402,吴子锋，云南大学软件学院, 云南 昆明 650504;云南大学跨境网络空间安全工程研究中心, 云南 昆明 65050403,刘俊晖，云南大学软件学院, 云南 昆明 650504;云南大学跨境网络空间安全工程研究中心, 云南 昆明 65050404,梁宇，云南大学软件学院, 云南 昆明 650504;云南大学跨境网络空间安全工程研究中心, 云南 昆明 65050405,周维，云南大学软件学院, 云南 昆明 650504;云南大学跨境网络空间安全工程研究中心, 云南 昆明 65050406

关键词：张量分解;卷积神经网络;自动化机器学习;神经网络压缩;神经网络加速

基金：国家自然科学基金（61762089，61863036，61663047）

近年来，卷积神经网络（CNN）展现了强大的性能，被广泛应用到了众多领域.由于CNN参数数量庞大，且存储和计算能力需求高，其难以部署在资源受限设备上.因此，对CNN的压缩和加速成为一个迫切需要解决的问题.随着自动化机器学习（AutoML）的研究与发展，AutoML对神经网络发展产生了深远的影响.受此启发，提出了基于参数估计和基于遗传算法的两种自动化加速卷积神经网络算法.该算法能够在给定精度损失范围内自动计算出最优的CNN加速模型，有效地解决了张量分解中，人工选择秩带来的误差问题，能够有效地提升CNN的压缩和加速效果.通过在MNIST和CIFAR-10数据集上的严格测试，与原网络相比，在MNIST数据集上准确率稍微下降了0.35%，模型的运行时间获得了4.1倍的大幅提升；在CIFAR-10数据集上，准确率稍微下降了5.13%，模型的运行时间获得了0.8倍的大幅提升.

来源：2021年第11期

《软件学报》期刊编辑部

查看软件学报杂志2021年第11期