一种基于特征图稀疏化的卷积神经网络剪枝方法[发明专利]
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
专利名称:一种基于特征图稀疏化的卷积神经网络剪枝方法专利类型:发明专利
发明人:卓成,闫心刚
申请号:CN202010066747.2
申请日:20200120
公开号:CN110874631A
公开日:
20200310
专利内容由知识产权出版社提供
摘要:本发明公开了一种基于特征图稀疏化的卷积神经网络剪枝方法,涉及如何压缩卷积神经网络减少其参数量和计算量以便于实际部署;在训练过程中,通过在损失函数中增加对激活层之后的特征图L1或L2正则化,使相应的特征图通道具有不同的稀疏度,在一定剪枝率下根据特征图通道的稀疏度剪去相应通道对应的卷积核,微调剪枝后网络获得新的准确度,根据剪枝前后的准确度变化调节剪枝率,经过多次迭代,寻找近最优剪枝率,在满足准确度不下降的条件下,实现最大程度的剪枝。
该方法大大减少了卷积神经网络的参数量和计算量。
申请人:浙江大学
地址:310058 浙江省杭州市西湖区余杭塘路866号
国籍:CN
代理机构:杭州求是专利事务所有限公司
代理人:刘静
更多信息请下载全文后查看。