在机器学习作业期间基于改善的存储器压缩传输的相似性的特征重排序的制作方法

技术特征：
1.一种用于执行机器学习神经网络操作的处理设备，所述处理设备包括：存储器；和处理器，所述处理器被配置为：在所述机器学习神经网络操作的层处接收输入数据；接收要应用于所述输入数据的多个排序过滤器；将所述多个排序过滤器应用于所述输入数据以产生多个不同的特征图；根据所述特征图相对于彼此的相似性来压缩所述多个不同的特征图；以及将所述多个不同的特征图存储在所述存储器中。2.根据权利要求1所述的处理设备，其中在推断阶段执行所述机器学习神经网络操作，并且在所述推断阶段执行所述机器学习神经网络操作之前在训练期间对所述排序过滤器进行排序。3.根据权利要求1所述的处理设备，其中所述处理器被配置为使用nhwc格式化将所述多个不同的特征图存储在所述存储器中。4.根据权利要求1所述的处理设备，其中所述处理器被配置为使用基于增量的压缩来压缩所述多个不同的特征图。5.根据权利要求1所述的处理设备，其中所述输入数据是张量。6.根据权利要求5所述的处理设备，其中所述不同的特征图的所述相似性是所述不同的特征图的平均元素幅度相对于彼此的相似性。7.根据权利要求1所述的处理设备，其中所述处理器被进一步配置为根据所述相似性通过链路传输所述压缩的不同特征图而将所述压缩的不同特征图存储在所述存储器中，并且用于存储由所述排序过滤器产生的所述压缩的不同特征图的存储器传输量小于用于存储由未排序过滤器产生的所述压缩的不同特征图的存储器传输量。8.根据权利要求1所述的处理设备，其中所述处理器被进一步配置为当以压缩格式从所述存储器读取所述输入数据时对所述输入数据进行解压缩。9.根据权利要求8所述的处理设备，其中所述处理器被进一步配置为将所述输入数据以所述压缩格式写入所述存储器，并将未压缩格式的所述输入数据用作所述机器学习神经网络的下一层的下一输入数据。10.一种机器学习处理方法，所述机器学习处理方法包括：在机器学习神经网络的层处接收输入数据；接收要应用于所述输入数据的多个排序过滤器；将所述多个排序过滤器应用于所述输入数据以产生多个不同的特征图；根据所述特征图相对于彼此的相似性来压缩所述多个不同的特征图；以及将所述多个不同的特征图存储在存储器中。11.根据权利要求10所述的方法，其中在推断阶段执行机器学习神经网络操作，并且在所述推断阶段执行所述机器学习神经网络操作之前在训练期间对所述排序过滤器进行排序。12.根据权利要求10所述的方法，所述方法进一步包括使用nhwc格式化将所述多个不同的特征图存储在所述存储器中。
13.根据权利要求10所述的方法，所述方法进一步包括使用基于增量的压缩来压缩所述多个不同的特征图。14.根据权利要求10所述的方法，其中所述输入数据是张量。15.根据权利要求14所述的方法，其中每个特征图是所述张量的不同表示，并且所述不同的特征图的所述相似性是所述不同的特征图的平均元素幅度相对于彼此的相似性。16.根据权利要求10所述的方法，所述方法进一步包括根据所述相似性通过链路传输所述压缩的不同特征图而将所述压缩的不同特征图存储在所述存储器中，并且用于存储由所述排序过滤器产生的所述压缩的不同特征图的存储器传输量小于用于存储由未排序过滤器产生的所述压缩的不同特征图的存储器传输量。17.根据权利要求10所述的方法，所述方法进一步包括当以压缩格式从所述存储器读取所述输入数据时对所述输入数据进行解压缩。18.根据权利要求17所述的方法，所述方法进一步包括将所述输入数据以所述压缩格式写入所述存储器，并将未压缩格式的所述输入数据用作所述机器学习神经网络的下一层的下一输入数据。19.一种非暂态计算机可读介质，所述非暂态计算机可读介质具有用于使计算机执行机器学习处理方法的存储指令，所述机器学习处理方法包括：在机器学习神经网络的层处接收输入数据；接收要应用于所述输入数据的多个排序过滤器；对所述输入数据进行解压缩；将所述多个排序过滤器应用于所述输入数据以产生多个不同的特征图；根据所述特征图相对于彼此的相似性来压缩所述多个不同的特征图；以及将所述多个不同的特征图存储在存储器中。20.根据权利要求19所述的计算机可读介质，其中在推断阶段执行机器学习神经网络操作，并且在所述推断阶段执行所述机器学习神经网络操作之前在训练期间对所述排序过滤器进行排序。

技术总结
一种用于执行机器学习神经网络操作的处理设备包括存储器和处理器。该处理器被配置为在该机器学习神经网络操作的层处接收输入数据，接收要应用于该输入数据的多个排序过滤器，将该多个排序过滤器应用于该输入数据以产生多个不同的特征图，根据这些特征图相对于彼此的相似性来压缩该多个不同的特征图，以及将该多个不同的特征图存储在该存储器中。该多个不同的特征图存储在该存储器中。该多个不同的特征图存储在该存储器中。


技术研发人员：阿拉什
受保护的技术使用者：ATI科技无限责任公司
技术研发日：2021.03.05
技术公布日：2022/11/18