信息处理设备及信息处理方法与流程

摘要: 本公开总体上涉及一种信息处理设备以及一种信息处理方法。背景技术:1、通常,已知有卷积神经网络(“cnn”),其是一种人工神经网络(“ann”),可用于实现人工智...
信息处理设备及信息处理方法与流程

本公开总体上涉及一种信息处理设备以及一种信息处理方法。

背景技术:

1、通常,已知有卷积神经网络(“cnn”),其是一种人工神经网络(“ann”),可用于实现人工智能。

2、一些已知的ann用于处理图像数据,例如,用于向更高级别的应用(例如,高级驾驶辅助系统(“adas”))提供对象检测和识别功能。然而,随着ann的复杂度增加,cnn的在设备上的推理时间以及内存使用量也可能会增加。

3、已知可对ann进行剪枝(prune)以提高其效率,然而在某些情况下,剪枝后的ann可能不是最优的,尤其是,剪枝后的ann可能未针对执行其的特定电路或者其被设计用于运行的任务进行优化。

4、尽管存在用于对ann进行剪枝的技术,但通常期望改进现有技术。

技术实现思路

1、根据第一方面,本公开提供了一种信息处理设备,包括电路,该电路被配置为:

2、使用参考卷积神经网络执行处理表征,以确定所述电路的处理的元数据;

3、对卷积神经网络执行模型表征,以估计每个滤波器的在电路上的处理成本以及每个滤波器的重要性;以及

4、对卷积神经网络执行迭代剪枝,使得剪枝后的卷积神经网络的滤波器的重要性总和最大化,并且剪枝后的卷积神经网络的滤波器的电路上处理成本总和满足处理要求,其中,所述剪枝是在所述处理的元数据的约束下执行的。

5、根据第二方面,本公开提供了一种信息处理方法,包括:

6、使用参考卷积神经网络执行处理表征,以确定电路的处理元数据;

7、对卷积神经网络执行模型表征,以估计每个滤波器的在电路上的处理成本以及每个滤波器的重要性;以及

8、对卷积神经网络执行迭代剪枝,使得剪枝后的卷积神经网络的滤波器的重要性总和最大化,并且剪枝后的卷积神经网络的滤波器的电路上的处理成本总和满足处理要求,其中,所述剪枝是在所述处理的元数据的约束下执行的。

9、进一步的方面在从属权利要求、附图和以下描述中阐述。

1.一种信息处理设备,包括电路,所述电路被配置为:

2.根据权利要求1所述的信息处理设备,其中,所述处理元数据包括滤波器多重数,所述滤波器多重数指示所述电路能够并行执行的最大乘累加运算数。

3.根据权利要求1所述的信息处理设备,其中,所述处理要求包括电路上干扰时间要求和存储器使用量要求中的至少一个。

4.根据权利要求3所述的信息处理设备,其中,所述处理要求对应于被配置为使用所述卷积神经网络的应用程序的应用要求。

5.根据权利要求1所述的信息处理设备,其中,每个滤波器的处理成本包括电路上处理时间和存储器使用量中的至少一个。

6.根据权利要求1所述的信息处理设备,其中,执行所述模型表征包括:

7.根据权利要求1所述的信息处理设备,其中,执行所述处理表征包括确定所述参考卷积神经网络的多个不同版本中的每一个的电路上推理时间。

8.根据权利要求1所述的信息处理设备,其中,所述电路还被配置为重新训练所述剪枝后的卷积神经网络。

9.根据权利要求1所述的信息处理设备,其中,所述电路还被配置为指示对所述剪枝后的卷积神经网络进行重新训练。

10.根据权利要求8或9所述的信息处理设备,其中,所述电路还被配置为部署所述剪枝后的卷积神经网络以测试性能,并且当质量度量要求未被满足时重新训练或指示重新训练。

11.一种信息处理方法,包括:

12.根据权利要求11所述的信息处理方法,其中,所述处理元数据包括滤波器多重数,所述滤波器多重数指示所述电路能够并行执行的最大乘累加运算数。

13.根据权利要求11所述的信息处理方法,其中,所述处理要求包括电路上干扰时间要求和存储器使用量要求中的至少一个。

14.根据权利要求13所述的信息处理方法,其中,所述处理要求对应于被配置为使用所述卷积神经网络的应用程序的应用要求。

15.根据权利要求11所述的信息处理方法,其中,每个滤波器的处理成本包括电路上处理时间和存储器使用量中的至少一个。

16.根据权利要求11所述的信息处理方法,其中,执行所述模型表征包括:

17.根据权利要求11所述的信息处理方法,其中,执行所述处理表征包括确定所述参考卷积神经网络的多个不同版本中的每一个的电路上推理时间。

18.根据权利要求11所述的信息处理方法,还包括重新训练所述剪枝后的卷积神经网络。

19.根据权利要求11所述的信息处理方法,还包括指示对所述剪枝后的卷积神经网络进行重新训练。

20.根据权利要求18或19所述的信息处理方法,还包括部署所述剪枝后的卷积神经网络以测试性能,并且当质量度量要求未被满足时重新训练或指示重新训练。