基于强化学习和3σ准则的组合剪枝方法

XU Shao-ming,LI Yu,YUAN Qing-long

Journal of Zhejiang University(Engineering Science)(2023)

引用 0|浏览2
暂无评分
摘要
针对结构复杂、参数冗余的深度神经网络无法部署到资源受限的嵌入式系统的问题,受稀疏率对性能影响的启示,提出基于强化学习和3σ准则的组合剪枝方法.根据稀疏率对准确率的影响,确定最佳全局稀疏率,使稀疏率和精度达到较好平衡.在最佳全局稀疏率的指导下,利用强化学习方法自动搜索每层卷积层的最佳剪枝率,根据剪枝率剪去不重要的权重.通过3σ准则确定全连接层每层的权重剪枝阈值,对全连接层进行权重剪枝.通过再训练来恢复模型识别的精度.实验结果表明,所提剪枝方法可以将网络VGG16、ResNet56和ResNet50的参数,分别压缩83.33%、70.1%和80.9%,模型的识别准确率分别降低1.55%、1.98%和1.86%.
更多
AI 理解论文
溯源树
样例
生成溯源树,研究论文发展脉络
Chat Paper
正在生成论文摘要