国内刊号:11-2560/TP
国际刊号:1000-9825
发布日期:
作者:刘佳玮,高岩,张犬俊,尚也,房春荣,陈振宇
单位:刘佳玮,计算机软件新技术全国重点实验室(南京大学), 江苏 南京 210046;南京大学 软件学院, 江苏 南京 21009311,高岩,计算机软件新技术全国重点实验室(南京大学), 江苏 南京 210046;南京大学 软件学院, 江苏 南京 21009302,张犬俊,南京理工大学 计算机科学与工程学院 (人工智能学院、软件学院), 江苏 南京 21009403,尚也,计算机软件新技术全国重点实验室(南京大学), 江苏 南京 210046;南京大学 软件学院, 江苏 南京 21009304,房春荣,计算机软件新技术全国重点实验室(南京大学), 江苏 南京 210046;南京大学 软件学院, 江苏 南京 21009305,陈振宇,计算机软件新技术全国重点实验室(南京大学), 江苏 南京 210046;南京大学 软件学院, 江苏 南京 21009306
关键词:深度学习算子;差分测试;RISC-V;算子部署
基金:国家重点研发计划(2024YFF0908004); 国家自然科学基金(U24A20337, 62372228); 深港澳科技计划(C类) (SGDX20230821091559018)
随着边缘计算和端侧智能软件的发展, RISC-V 架构因其开源、模块化及低成本优势在学术界和产业界受到广泛关注. 然而, 将智能软件部署到RISC-V架构上面临诸多挑战. 智能软件的运行依赖于执行卷积、矩阵乘法、归一化等基本张量运算的深度学习算子, 一旦算子出现问题, 将直接影响上层大量智能软件的执行效率、准确性和可靠性, 因此算子质量的评估至关重要. 现有算子测试方法主要针对 x86 架构, 难以刻画不同计算复杂度对 RISC-V 架构下受限内存、功耗与系统资源使用行为的影响差异. 为此, 提出 RIVdoo, 一种面向 RISC-V 架构的深度学习算子质量评估方法. RIVdoo 通过基于算子输入空间复杂度的分组策略系统性地覆盖不同计算负载, 结合多维度指标评估精度、执行效率、内存占用及系统开销, 并引入复杂度放大系数的差分测试机制, 有效识别性能异常及架构适配问题. 在覆盖计算密集型、内存密集型和轻量型的47个算子的实验中, RIVdoo揭示了不同算子库和优化策略在 RISC-V 架构下呈现出的显著性能权衡与适配差异: TFLite以1.5–2倍内存开销换取30%–50%速度提升的策略在资源受限场景下面临内存瓶颈; TVM的动态存储调度因RISC-V有限的TLB和缓存容量导致缺页率比TFLite高60%–150%; RVV向量化在部分算子和低复杂度场景下因软件模拟和启动开销导致性能劣化, 说明现有优化策略缺乏对RISC-V平台特性的针对性设计. 实验结果表明, 不同算子实现和优化策略在 RISC-V 架构下的运行行为具有明显的复杂度相关特征, 仅依赖输出正确性验证难以全面反映其真实部署表现. RIVdoo为面向 RISC-V 架构的算子适配性分析与优化提供了一种系统化的评估手段.
来源:2026年第6期
《软件学报》期刊编辑部