一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

基于剪枝卷积神经网络的分类方法及相关设备与流程

2022-08-11 05:52:16 来源:中国专利 TAG:


1.本发明涉及模型剪枝技术领域,尤其涉及一种基于剪枝卷积神经网络的分类方法及相关设备。


背景技术:

2.模型剪枝是神经网络模型压缩领域的常用方法,用来压缩模型大小以及加速模型计算,通常情况下是通过裁剪掉神经网络权重中不重要的张量来达到降低整个神经网络的计算量的目的。按照剪枝粒度由小到大来分,具体的剪枝粒度包括:细粒度剪枝(fine-grained)、向量剪枝(vector-level)、核剪枝(kernel-level)、滤波器剪枝(filter-level)以及层剪枝(layer-level)。
3.其中,细粒度剪枝就是对连接或者神经元进行剪枝,它是粒度最小的剪枝。向量剪枝相对于细粒度剪枝粒度更大,属于对卷积核内部(intra-kernel)的剪枝。核剪枝则是去除某个卷积核,它将丢弃对输入通道中对应计算通道的响应。滤波器剪枝是对整个卷积核组进行剪枝,会造成推理过程中输出特征通道数的改变。
4.上述细粒度剪枝、向量剪枝、核剪枝方法在参数量与模型性能之间取得了一定的平衡,但是网络的拓扑结构本身发生了变化,需要专门的算法设计来支持这种稀疏的运算,被称之为非结构化剪枝。
5.而滤波器剪枝只改变了网络中的滤波器组和特征通道数目,所获得的模型不需要专门的算法设计就能够运行,被称为结构化剪枝。除此之外还有对整个网络层的剪枝,它可以被看作是滤波器剪枝的变种,即所有的滤波器都丢弃。
6.混合剪枝就是从不同剪枝粒度入手对整个模型进行剪枝,而现有混合剪枝,常以压缩率为目标来剪枝模型,但剪枝之后模型性能下降多少无法控制,且在混合剪枝时,仅混合1-2种剪枝粒度,不能充分挖掘既定目标下的模型剪枝极限。
7.因此,如何在既定剪枝目标下通过混合多种剪枝粒度来最大程度压缩简化模型是亟需解决的问题。


技术实现要素:

8.本发明提供一种基于剪枝卷积神经网络的分类方法及相关设备,用以解决上述问题。
9.本发明提供一种基于剪枝卷积神经网络的分类方法,包括:
10.基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型;
11.在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型;
12.获取待分类的图片;
13.将所述待分类的图片输入所述剪枝后的分类模型,得到对应的分类结果。
14.根据本发明提供的一种基于剪枝卷积神经网络的分类方法,所述结构化剪枝包括
卷积层剪枝与过滤器剪枝;
15.相应地,所述剪枝后的分类模型是在预设的模型目标性能基础上通过对预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到,包括:
16.s1、对预先训练好的分类模型中的每个卷积层的各个过滤器进行过滤器剪枝敏感度分析,得到满足预设的模型目标性能的最大卷积层剪枝率;
17.s2、判断所述最大卷积层剪枝率是否大于预设的卷积层剪枝率阈值;
18.在所述最大卷积层剪枝率大于预设的卷积层剪枝率阈值的情况下,对所述最大卷积层剪枝率所对应的卷积层进行卷积层剪枝;
19.在所述最大卷积层剪枝率不大于预设的卷积层剪枝率阈值的情况下,对所述最大卷积层剪枝率所对应的过滤器进行过滤器剪枝;
20.s3、重复所述s2直到穷尽所有最大卷积层剪枝率,从而得到第一剪枝后模型;
21.s4、对所述第一剪枝后模型进行非结构化剪枝,得到第二剪枝后模型作为剪枝后的分类模型。
22.根据本发明提供的一种基于剪枝卷积神经网络的分类方法,所述对预先训练好的分类模型中的每个卷积层的各个过滤器进行过滤器剪枝敏感度分析,得到满足预设的模型目标性能的最大卷积层剪枝率,包括:
23.为每个卷积层配置待分析剪枝率集合;其中,所述待分析剪枝率集合包括多个待分析剪枝率;
24.依次计算每个卷积层在各个待分析剪枝率下的模型性能,并判断计算得到的模型性能是否满足所述预设的模型目标性能;
25.在计算得到的模型性能满足所述预设的模型目标性能的情况下,将每个卷积层中数值最大的待分析剪枝率作为最大卷积层剪枝率。
26.根据本发明提供的一种基于剪枝卷积神经网络的分类方法,所述非结构剪枝为卷积核剪枝;
27.相应地,所述s4、对所述第一剪枝后模型进行非结构化剪枝,得到第二剪枝后模型作为剪枝后的分类模型,包括:
28.s41、对所述第一剪枝后模型中所有权重进行规范化处理,得到规范后参数;
29.s42、按照数值大小对所述规范后参数进行排序,得到规范后参数序列;
30.s43、利用预定的权重剪枝定位方法,从所述规范后参数序列中确定待剪枝权重;
31.s44、判断所述待剪枝权重对应的核剪枝率是否大于预设的核剪枝率阈值,
32.在所述待剪枝权重对应的核剪枝率大于预设的核剪枝率阈值的情况下,对所述核剪枝率对应的卷积核进行卷积核剪枝;
33.在所述待剪枝权重对应的核剪枝率不大于预设的核剪枝率阈值的情况下,对所述待剪枝权重进行权重剪枝;
34.s45、重复所述s44直到穷尽所有待剪枝权重,从而得到第二剪枝后模型,将第二剪枝后模型作为剪枝后的分类模型。
35.根据本发明提供的一种基于剪枝卷积神经网络的分类方法,所述按照数值大小对所述规范后参数进行排序是从小到大对所述规范后参数进行排序,从而得到规范后参数序列;
36.相应地,所述s43、利用预定的权重剪枝定位方法,从所述规范后参数序列中确定待剪枝权重,包括:
37.s431、对所述规范后参数序列中前i个规范后参数进行剪枝,得到初始第二剪枝后模型,其中,i初始值为1且小于所述规范后参数序列中所有规范后参数的总数量;
38.s432、判断所述初始第二剪枝后模型是否满足所述预设的模型目标性能;
39.s433、在所述初始第二剪枝后模型满足所述预设的模型目标性能的情况下,将i 1作为新的i,并重复所述s431至所述s432,直到所述初始第二剪枝后模型不满足所述预设的模型目标性能,根据所述新的i将所述规范后参数序列中前i个规范后参数对应的权重确定为待剪枝权重。
40.根据本发明提供的一种基于剪枝卷积神经网络的分类方法,所述预设的模型目标性能为剪枝后的分类模型性能下降不超过性能阈值。
41.本发明还提供一种基于剪枝卷积神经网络的分类装置,包括:
42.模型训练模块,用于基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型;
43.模型剪枝模块,用于在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型;
44.图片获取模块,用于获取待分类的图片;
45.分类模块,用于将所述待分类的图片输入剪枝后的分类模型,得到对应的分类结果。
46.本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时实现如上述任一种基于剪枝卷积神经网络的分类方法。
47.本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现如上述任一种基于剪枝卷积神经网络的分类方法。
48.本发明还提供一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现如上述任一种基于剪枝卷积神经网络的分类方法。
49.本发明提供的基于剪枝卷积神经网络的分类方法及相关设备,通过结构化与非结构化两个剪枝维度,在预设的模型目标性能基础上对分类模型完成剪枝,从而最大程度上压缩简化模型,并利用剪枝后的分类模型对待分类的图片进行分类,快速得到分类结果。
附图说明
50.为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
51.图1是本发明实施例提供的基于剪枝卷积神经网络的分类方法的流程示意图;
52.图2是本发明实施例提供的剪枝方法实现的示意图;
53.图3为本发明实施例提供的基于剪枝卷积神经网络的分类装置结构示意图;
54.图4为本发明实施例提供的一种电子设备的实体结构示意图。
具体实施方式
55.为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
56.图1是本发明实施例提供的基于剪枝卷积神经网络的分类方法的流程示意图;如图1所示,一种基于剪枝卷积神经网络的分类方法,包括如下步骤:
57.s101,基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型。
58.在本实施例中,利用自动驾驶场景训练数据以及训练数据对应的标签预先训练一个自动驾驶场景分类模型。在其他实施例中,也可以是通过食材训练数据与对应的标签训练得到的食材分类模型,或者是通过动物训练数据与对应的标签训练得到的动物分类模型,本发明对分类模型不做具体限定。
59.s102,在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型。
60.在本步骤中,根据设定的模型目标性能(例如,剪枝后的模型性能下降不能超过5%)从结构化剪枝与非结构化剪枝两个维度对预先训练好的分类模型进行剪枝,从而获得一个模型体积小且计算速率快的剪枝后的分类模型。
61.s103,获取待分类的图片。
62.在本步骤中,待分类的图片可以直接在自动驾驶情境下拍摄得到,也可以从网上下载得到,或是数据库中获取,本发明对待分类的图片的获取方式不做限定。
63.s104,将所述待分类的图片输入剪枝后的分类模型,得到对应的分类结果。
64.在本步骤中,将待分类的图片输入剪枝后的分类模型后得到分类结果,剪枝后的分类模型能够对待分类的图片快速实现分类,得到分类结果。
65.在本实例中,与上述自动驾驶场景分类模型对应的,分类结果为自动驾驶场景分类结果,其包括雨天黑夜、雨天白天、晴天黑夜和晴天白天四种。在本发明的其他实施例中,可以为雨天、晴天、雪天等,本发明对此不做限定。
66.本发明实施例提供的基于剪枝卷积神经网络的分类方法,通过结构化与非结构化两个剪枝维度,在预设的模型目标性能基础上对分类模型完成剪枝,从而最大程度上压缩简化模型,并利用剪枝后的分类模型对待分类的图片进行分类,快速得到分类结果。
67.图2是本发明实施例提供的剪枝方法实现的示意图;如图2所示,所述结构化剪枝包括卷积层剪枝与过滤器剪枝。
68.相应地,在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型,包括:
69.s1、对预先训练好的分类模型中的每个卷积层的各个过滤器进行过滤器剪枝敏感度分析,得到满足预设的模型目标性能的最大卷积层剪枝率。
70.在本步骤中,一个卷积层中至少包含一个过滤器,通过对每一个卷积层中所有滤波器进行过滤器剪枝敏感度分析,从而确定每个滤波器裁剪后对模型性能的影响,确定各个卷积层的剪枝率配置,确定的剪枝率配置即为过滤器剪枝敏感度分析结果。
71.假设模型目标性能为剪枝后模型性能下降不超过5%,基于各个卷积层的过滤器
剪枝敏感度分析结果(即卷积层的剪枝率配置)依次分析各卷积层不同剪枝率配置下的模型性能下降,从而得到性能下降不超过5%时各层的剪枝率上限值,此上限值即为每一卷积层的剪枝率。
72.s2、判断所述最大卷积层剪枝率是否大于预设的卷积层剪枝率阈值;
73.在所述最大卷积层剪枝率大于预设的卷积层剪枝率阈值的情况下,对所述最大卷积层剪枝率所对应的卷积层进行卷积层剪枝;
74.在所述最大卷积层剪枝率不大于预设的卷积层剪枝率阈值的情况下,对所述最大卷积层剪枝率所对应的过滤器进行过滤器剪枝。
75.在本步骤中,预设的卷积层剪枝率阈值设为0.9,若通过敏感度分析得到的最大卷积层剪枝率大于0.9,则直接对整个卷积层进行剪枝。
76.若最大卷积层剪枝率小于等于0.9,则根据对应的卷积层中各个滤波器(filter)中的l1取值大小进行剪枝,具体地,计算最大卷积层剪枝率小于等于0.9的卷据层中各个滤波器的值,并由小到大对l1值进行排序,对排名靠前的滤波器进行剪枝。
77.需要说明的是,在本发明的其他实施例中,卷积层剪枝率阈值设为0.9可以依据需求设定,本发明对此不做限定。
78.s3、重复所述s2直到穷尽所有最大卷积层剪枝率,从而得到第一剪枝后模型。
79.在步骤中,由于每个卷积层都对应有一个最大卷积层剪枝率,因而需要对每个卷积层进行是裁剪卷积层(即4d剪枝)还是裁剪卷积层中单个滤波器(即3d剪枝)的判断,从而穷尽所有最大卷积层剪枝率,完成对整个预先训练好的分类模型的结构化剪枝。
80.s4、对所述第一剪枝后模型进行非结构化剪枝,得到第二剪枝后模型作为剪枝后的分类模型。
81.在本步骤中,经过上述结构化剪枝之后(即大粒度剪枝),再从非结构化剪枝角度进行进一步地剪枝,即进行小粒度剪枝。通过结构化剪枝与非结构化剪枝之后得到的第二剪枝后模型作为剪枝后的分类模型。
82.需要说明的是,非结构化剪枝可以是细粒度剪枝、向量剪枝、核剪枝方法中的一种或多种。
83.本发明实施例提供的基于剪枝卷积神经网络的分类方法,通过卷积层剪枝与滤波器剪枝两个较大剪枝粒度维度考虑,快速实现结构化剪枝,在结构化剪枝完成的基础上进一步从小剪枝粒度出发,进行更精细的裁剪,从而能够快速且最大限度的完成目标模型性能下的模型剪枝。
84.进一步地,所述对预先训练好的分类模型中的每个卷积层的各个过滤器进行过滤器剪枝敏感度分析,得到满足预设的模型目标性能的最大卷积层剪枝率,包括:
85.为每个卷积层配置待分析剪枝率集合;其中,所述待分析剪枝率集合包括多个待分析剪枝率;
86.依次计算每个卷积层在各个待分析剪枝率下的模型性能,并判断计算得到的模型性能是否满足所述预设的模型目标性能;
87.在计算得到的模型性能满足所述预设的模型目标性能的情况下,将每个卷积层中数值最大的待分析剪枝率作为最大卷积层剪枝率。
88.具体地,为每个卷积层配置一个待分析剪枝率集合(0.1,0.15,0.2,0.25,

,0.8,
0.85,0.9,0.95)。
89.将第一个卷积层作为待剪枝卷积层,其他卷积层中的权重保持不变,然后基于各个待分析剪枝率计算模型性能(例如准确率acc的下降情况),并与模型目标性能(假设准确率acc下降不超过5%)进行比较,若计算得到的模型性能满足目标性能,则将当前的待分析剪枝率作为待评估剪枝率。
90.在利用待分析剪枝率集合中每个待分析剪枝率计算得到模型性能并与目标性能比较之后,得到多个待评估剪枝率,将其中数值最大的待评估剪枝率作为当前第一个卷积层的最大卷积层剪枝率。
91.依次类推,获取第二个卷积层、第三个卷积层等各个卷积层对应的最大卷积层剪枝率。
92.需要说明的是,待分析剪枝率集合可以通过如下方式获得:
93.预先设定待分析剪枝率的取值范围以及剪枝率步长,例如取值范围设定为[0.1,0.95],步长为0.05。则通过穷尽的方式获取待分析剪枝率集合(0.1,0.15,0.2,0.25,

,0.8,0.85,0.9,0.95)。
[0094]
本发明实施例提供的基于剪枝卷积神经网络的分类方法,通过对每个卷积层所有可能的剪枝率进行模型性能分析,从而确定在满足目标性能的情况下,最大限度地剪枝。
[0095]
进一步地,所述非结构剪枝为卷积核剪枝;
[0096]
相应地,所述s4、对所述第一剪枝后模型进行非结构化剪枝,得到第二剪枝后模型作为剪枝后的分类模型,包括:
[0097]
s41、对所述第一剪枝后模型中所有权重进行规范化处理,得到规范后参数。
[0098]
本实施例中,计算模型所有参数的l1范数(l1 norm)从而得到规范后权重参数。在本发明的其他实施例中,规范化处理也可以通过l2范数公式、l3范数公式等实现,本发明对此不做限定。
[0099]
s42、按照数值大小对所述规范后参数进行排序,得到规范后参数序列。
[0100]
在本步骤中,按照从小到大依次对上述规范后权重参数进行排序,从而得到规范后参数序列。
[0101]
s43、利用预定的权重剪枝定位方法,从所述规范后参数序列中确定待剪枝权重。
[0102]
在本步骤中,预定的权重剪枝定位方法是指通过对每个权重进行剪枝分析,从而判断哪些权重裁剪后能够满足模型目标性能,从而在规范后参数序列中确定待剪枝权重。
[0103]
s44、判断所述待剪枝权重对应的核剪枝率是否大于预设的核剪枝率阈值,
[0104]
在所述待剪枝权重对应的核剪枝率大于预设的核剪枝率阈值的情况下,对所述核剪枝率对应的卷积核进行卷积核剪枝;
[0105]
在所述待剪枝权重对应的核剪枝率不大于预设的核剪枝率阈值的情况下,对所述待剪枝权重进行权重剪枝。
[0106]
在本步骤中,预设的核剪枝率阈值为0.8,若待剪枝权重对应的核剪枝率大于0.8,则直接对整个卷积核进行裁剪;若待剪枝权重对应的核剪枝率小于等于0.8,则按该卷积核中各个权重值的由小到大排序,对排名靠前的权重值进行剪枝。
[0107]
需要说明的是,待剪枝权重对应的核剪枝率通过如下方式获得(与卷积层的最大卷积层剪枝率类似):
[0108]
依次分析各个卷积核中权重剪枝后的模型性能下降,从而得到性能下降不超过5%时各层的剪枝率上限值,此上限值即为该卷积核(kernel)的剪枝率。
[0109]
s45、重复所述s44直到穷尽所有待剪枝权重,从而得到第二剪枝后模型,将第二剪枝后模型作为剪枝后的分类模型。
[0110]
在本步骤中,对每个待剪枝权重进行是卷积核剪枝(即2d剪枝)还是向量剪枝(即1d剪枝)的判断之后,完成整个第一剪枝后模型的非结构化剪枝,从而得到第二剪枝后模型,该第二剪枝后模型即为剪枝后的分类模型。
[0111]
本发明实施例提供的基于剪枝卷积神经网络的分类方法,在非结构化剪枝层面,融合了卷积核剪枝与向量剪枝两个不同的剪枝粒度来实现更精细的剪枝,加上结构化剪枝中的卷积层剪枝与滤波器剪枝,能够自适应地实现各种粒度的混合,获得更高的模型参数的压缩比,实现模型剪枝极限的同时,保证了模型的效果。
[0112]
进一步地,所述按照数值大小对所述规范后参数进行排序是从小到大对所述规范后参数进行排序,从而得到规范后参数序列;
[0113]
相应地,所述s43、利用预定的权重剪枝定位方法,从所述规范后参数序列中确定待剪枝权重,包括:
[0114]
s431、对所述规范后参数序列中前i个规范后参数进行剪枝,得到初始第二剪枝后模型,其中,i初始值为1且小于所述规范后参数序列中所有规范后参数的总数量。
[0115]
在本步骤中,假设所述规范后参数序列中共有n个规范后参数,则在第一轮待剪枝权重的确定过程,i为1(i<n),即将规范后参数序列中数值最小的规范后参数对应的权重进行剪枝,从而得到初始第二剪枝后模型。
[0116]
s432、判断所述初始第二剪枝后模型是否满足所述预设的模型目标性能。
[0117]
在本步骤中,延续上述的第一轮待剪枝权重的确定过程,对只裁剪了一个权重的初始第二剪枝后模型进行性能评估,判断性能评估结果是否满足预设的模型目标性能(假设模型性能下降不超过5%)。
[0118]
s433、在所述初始第二剪枝后模型满足所述预设的模型目标性能的情况下,将i 1作为新的i,并重复所述s431至所述s432,直到所述初始第二剪枝后模型不满足所述预设的模型目标性能,根据所述新的i将所述规范后参数序列中前i个规范后参数对应的权重确定为待剪枝权重。
[0119]
在本步骤中,延续上述第一轮待剪枝权重的确定过程,若是初始第二剪枝后模型对应的性能满足所述预设的模型目标性能,则认为初始第二剪枝后模型还能继续剪枝,从而在i的基础上新增1,开始第二轮的待剪枝权重的确定过程,也即对规范后参数序列中前2个规范后参数对应的权重进行裁剪,从而得到新的初始第二剪枝后模型,再进行模型性能分析与目标性能的判断,若是依旧满足模型目标性能,则进行下一轮的待剪枝权重的确定;若初始第二剪枝后模型不能满足模型目标性能,则循环终止,并将前i个规范后参数对应的权重均作为待剪枝权重。
[0120]
本发明实施例提供的基于剪枝卷积神经网络的分类方法,能够自适应地实现各种粒度的混合,获得更高的模型参数的压缩比,实现模型剪枝极限的同时,保证了模型的效果。
[0121]
进一步地,所述预设的模型目标性能为剪枝后的分类模型性能下降不超过性能阈
值。
[0122]
在本实施例中,预设的模型目标性能为目标准确率acc,设定剪枝后的分类模型性能acc下降不超过5%。在本发明的其他实施例中,目标性能也可以是误检率(false positive)、精确率(precision)、召回率(recall)等等其他模型性能评价指标。
[0123]
另外,需要说明的是预先训练好的分类模型的训练过程为先构建初始分类模型,然后将训练数据以及对应的标签输入初始分类模型,通过前向传播、损失函数计算以及反向传播不断更新初始分类模型中的权重,直到初始分类模型收敛,从而得到训练好的分类模型。基于训练好的分类模型进行混合剪枝。
[0124]
经过结构化剪枝后得到的第一剪枝后模型,以及经过非结构化剪枝后的第二剪枝后模型均可以进行微调(fine-tuning)。
[0125]
下面对本发明提供的基于剪枝卷积神经网络的分类装置进行描述,下文描述的基于剪枝卷积神经网络的分类装置与上文描述的基于剪枝卷积神经网络的分类方法可相互对应参照。
[0126]
图3为本发明实施例提供的基于剪枝卷积神经网络的分类装置结构示意图,如图3所示,一种基于剪枝卷积神经网络的分类装置,包括:
[0127]
模型训练模块301,用于基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型。
[0128]
在本实施例中,利用自动驾驶场景训练数据以及训练数据对应的标签预先训练一个自动驾驶场景分类模型。在其他实施例中,也可以是通过食材训练数据与对应的标签训练得到的食材分类模型,或者是通过动物训练数据与对应的标签训练得到的动物分类模型,本发明对分类模型不做具体限定。
[0129]
模型剪枝模块302,用于在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型。
[0130]
在本模块中,根据设定的模型目标性能(例如,剪枝后的模型性能下降不能超过5%)从结构化剪枝与非结构化剪枝两个维度对预先训练好的分类模型进行剪枝,从而获得一个模型体积小且计算速率快的剪枝后的分类模型。
[0131]
图片获取模块303,用于获取待分类的图片。
[0132]
在本模块中,待分类的图片可以直接在自动驾驶情境下拍摄得到,也可以从网上下载得到,或是数据库中获取,本发明对待分类的图片的获取方式不做限定。
[0133]
分类模块304,用于将所述待分类的图片输入剪枝后的分类模型,得到对应的分类结果。
[0134]
在本模块中,将待分类的图片输入剪枝后的分类模型后得到分类结果,剪枝后的分类模型能够对待分类的图片快速实现分类,得到分类结果。
[0135]
在本实例中,与上述自动驾驶场景分类模型对应的,分类结果为自动驾驶场景分类结果,其包括雨天黑夜、雨天白天、晴天黑夜和晴天白天四种。在本发明的其他实施例中,可以为雨天、晴天、雪天等,本发明对此不做限定。
[0136]
本发明实施例提供的基于剪枝卷积神经网络的分类装置,通过结构化与非结构化两个剪枝维度,在预设的模型目标性能基础上对分类模型完成剪枝,从而最大程度上压缩简化模型,并利用剪枝后的分类模型对待分类的图片进行分类,快速得到分类结果。
[0137]
本发明实施例提供的基于剪枝卷积神经网络的分类装置,仅需要客户提供目标契约信息就能进行基于剪枝卷积神经网络的分类,简单且不涉及客户过多的隐私,并且基于区块链的鉴权过程更加可靠、安全,不会过分依赖可信中心存储的数据,从而保障了客户的权益。
[0138]
图4为本发明实施例提供的一种电子设备的实体结构示意图,如图4所示,该电子设备可以包括:处理器(processor)410、通信接口(communications interface)420、存储器(memory)430和通信总线440,其中,处理器410,通信接口420,存储器430通过通信总线440完成相互间的通信。处理器410可以调用存储器430中的逻辑指令,以执行基于剪枝卷积神经网络的分类方法,所述基于剪枝卷积神经网络的分类方法,包括:
[0139]
基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型;
[0140]
在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型;
[0141]
获取待分类的图片;
[0142]
将所述待分类的图片输入所述剪枝后的分类模型,得到对应的分类结果。
[0143]
此外,上述的存储器430中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read only memory)、随机存取存储器(ram,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
[0144]
另一方面,本发明还提供一种计算机程序产品,计算机程序产品包括计算机程序,计算机程序可存储在非暂态计算机可读存储介质上,计算机程序被处理器执行时,计算机能够执行上述各方法所提供的一种基于剪枝卷积神经网络的分类方法,所述基于剪枝卷积神经网络的分类方法,包括:
[0145]
基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型;
[0146]
在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型;
[0147]
获取待分类的图片;
[0148]
将所述待分类的图片输入所述剪枝后的分类模型,得到对应的分类结果。
[0149]
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述个方法所提供的基于剪枝卷积神经网络的分类方法,所述基于剪枝卷积神经网络的分类方法,包括:
[0150]
基于训练数据以及训练数据对应的标签训练得到预先训练好的分类模型;
[0151]
在预设的模型目标性能基础上通过对所述预先训练好的分类模型分别进行结构化剪枝与非结构化剪枝后得到剪枝后的分类模型;
[0152]
获取待分类的图片;
[0153]
将所述待分类的图片输入所述剪枝后的分类模型,得到对应的分类结果。
[0154]
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
[0155]
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如rom/ram、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分的方法。
[0156]
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献