卷积神经网络剪枝优化方法、装置、电子设备及存储介质与流程

技术特征：
1.一种卷积神经网络剪枝优化方法，其特征在于，包括：获取完成训练的卷积神经网络模型，所述卷积神经网络模型能够对输入的图像进行分类识别；对于所述卷积神经网络模型的每一个类别，确定对应的语义信息图，并基于所述语义信息图，确定每个滤波器在各类别中的滤波器重要性因子；其中，一个类别对应的所述语义信息图包含该类别相关的所有语义特征；根据滤波器重要性因子及剪枝目标，对滤波器进行重要程度排序；其中，剪枝目标包括目标类别；基于排序结果及剪枝目标，逐步剪除重要程度小的滤波器，直至达成剪枝目标，得到剪枝优化后的卷积神经网络模型；对剪枝优化后的卷积神经网络模型进行重训练。2.根据权利要求1所述的方法，其特征在于，所述对于所述卷积神经网络模型的每一个类别，确定对应的语义信息图，包括：对每一个类别，构建多层的语义信息图；其中，语义信息图的层数与所述卷积神经网络模型的层数相同，语义信息图的每层包括多个节点，每个节点代表一个用于分类至该类别的语义特征；根据各语义特征在训练数据集上被激活的激活值，确定语义特征的重要性值。3.根据权利要求2所述的方法，其特征在于，所述根据各语义特征在训练数据集上被激活的激活值，确定语义特征的重要性值，包括：对于每一个语义特征，确定其在训练数据集上被激活的所有激活值；取数值最大的k个激活值求和，作为该语义特征的重要性值；其中，k小于训练数据集的数据总量n。4.根据权利要求2所述的方法，其特征在于，基于所述语义信息图，确定每个滤波器在各类别中的滤波器重要性因子，包括：基于卷积神经网络模型，确定各个卷积层中的滤波器；对于每一个类别，基于所述语义信息图，确定各滤波器能够提取的语义特征及相应的重要性值；对于每一个滤波器，基于滤波器在各类别中能够提取的语义特征的重要性值，确定在各类别下的滤波器重要性因子。5.根据权利要求4所述的方法，其特征在于，所述对于每一个滤波器，基于滤波器在各类别中能够提取的语义特征的重要性值，确定在各类别下的滤波器重要性因子，包括：对于每一个滤波器，以滤波器在一个类别中能够提取的语义特征的重要性值中的最大值，作为该滤波器在该类别中的第一重要性因子；对同一卷积层、对应同一类别的滤波器的第一重要性因子，进行归一化处理，得到滤波器在相应单类别中的滤波器重要性因子。6.根据权利要求4所述的方法，其特征在于，所述对于每一个滤波器，基于滤波器在各类别中能够提取的语义特征的重要性值，确
定在各类别下的滤波器重要性因子，包括：对于每一个滤波器，以滤波器在一个类别中能够提取的语义特征的重要性值的n次幂之和，作为该滤波器在该类别中的第二重要性因子，n≥1；对同一卷积层、对应同一类别的滤波器的第二重要性因子，进行归一化处理，得到滤波器在相应单类别中的滤波器重要性因子。7.根据权利要求4所述的方法，其特征在于，所述根据滤波器重要性因子及剪枝目标，对滤波器进行重要程度排序，包括：确定目标类别及相关的滤波器；根据滤波器在相应单类别中的滤波器重要性因子，计算滤波器在目标类别中的第三重要性因子；其中，第三重要性因子为相关各单类别中的滤波器重要性因子的k次幂之和，k大于等于1；根据第三重要性因子的大小进行重要程度排序。8.一种卷积神经网络剪枝优化装置，其特征在于，包括：获取模块，用于获取完成训练的卷积神经网络模型；计算模块，用于对于所述卷积神经网络模型的每一个类别，确定对应的语义信息图，并基于所述语义信息图，确定每个滤波器在各类别中的滤波器重要性因子；其中，一个类别对应的所述语义信息图包含该类别相关的所有语义特征；排序模块，用于根据滤波器重要性因子及剪枝目标，对滤波器进行重要程度排序；其中，剪枝目标包括目标类别；剪枝模块，用于基于排序结果及剪枝目标，逐步剪除重要程度小的滤波器，直至达成剪枝目标，得到剪枝优化后的卷积神经网络模型；重训练模块，用于对剪枝优化后的卷积神经网络模型进行重训练。9.一种电子设备，包括存储器和处理器，所述存储器中存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时，实现如权利要求1-7中任一项所述的方法。10.一种存储介质，其上存储有计算机程序，其特征在于，当所述计算机程序在计算机中执行时，令计算机执行权利要求1-7中任一项所述的方法。

技术总结
本发明提供了一种卷积神经网络剪枝优化方法、装置、电子设备及存储介质，该方法包括：获取完成训练的卷积神经网络模型；对于卷积神经网络模型的每一个类别，确定对应的语义信息图，并基于语义信息图，确定每个滤波器在各类别中的滤波器重要性因子；根据滤波器重要性因子及剪枝目标，对滤波器进行重要程度排序；基于排序结果及剪枝目标，逐步剪除重要程度小的滤波器，直至达成剪枝目标，得到剪枝优化后的卷积神经网络模型；对剪枝优化后的卷积神经网络模型进行重训练。本发明能够实现有针对性的、效果更佳的卷积神经网络剪枝压缩。效果更佳的卷积神经网络剪枝压缩。效果更佳的卷积神经网络剪枝压缩。


技术研发人员：翟佳 何伟 董毅 陈峰 谢晓丹
受保护的技术使用者：北京环境特性研究所
技术研发日：2022.03.08
技术公布日：2022/4/12