存储介质、量化方法和量化装置与流程

技术特征：
1.一种存储量化程序的非暂态计算机可读存储介质，所述量化程序使至少一个计算机执行处理，所述处理包括：针对神经网络的所有层，计算分别在信赖域半径阈值与第一位宽的量化误差之间的差，所述第一位宽比第二位宽窄一级；基于所述差来计算所有层的每个缩放系数；通过使用所述缩放系数中的最小值来更新信赖域半径；以及通过基于信赖域设置的第三位宽来量化所述神经网络的参数。2.根据权利要求1所述的非暂态计算机可读存储介质，其中，所述处理还包括：通过将所述信赖域半径乘以所述缩放系数中的最小值来更新所述信赖域半径。3.根据权利要求2所述的非暂态计算机可读存储介质，其中，所述处理还包括：通过将所述信赖域半径乘以下述值中的较大值来更新所述信赖域半径：所述缩放系数中的最小值和用于更新所述信赖域半径的常数。4.一种用于使计算机执行处理的量化方法，所述处理包括：针对神经网络的所有层，计算分别在信赖域半径阈值与第一位宽的量化误差之间的差，所述第一位宽比第二位宽窄一级；基于所述差来计算所有层的每个缩放系数；通过使用所述缩放系数中的最小值来更新信赖域半径；以及通过基于信赖域设置的第三位宽来量化所述神经网络的参数。5.根据权利要求4所述的量化方法，其中，所述处理还包括：通过将所述信赖域半径乘以所述缩放系数中的最小值来更新所述信赖域半径。6.根据权利要求5所述的量化方法，其中，所述处理还包括：通过将所述信赖域半径乘以下述值中的较大值来更新所述信赖域半径：所述缩放系数中的最小值和用于更新所述信赖域半径的常数。7.一种量化装置，包括：一个或更多个存储器；以及耦接至所述一个或更多个存储器的一个或更多个处理器，并且所述一个或更多个处理器被配置成：针对神经网络的所有层，计算分别在信赖域半径阈值与第一位宽的量化误差之间的差，所述第一位宽比第二位宽窄一级；基于所述差来计算所有层的每个缩放系数；通过使用所述缩放系数中的最小值来更新信赖域半径；以及通过基于信赖域设置的第三位宽来量化所述神经网络的参数。8.根据权利要求7所述的量化装置，其中，所述一个或更多个处理器还被配置成：通过将所述信赖域半径乘以所述缩放系数中的最小值来更新所述信赖域半径。9.根据权利要求8所述的量化装置，其中，所述一个或更多个处理器还被配置成：通过将所述信赖域半径乘以下述值中的较大值来更新所述信赖域半径：所述缩放系数中的最小值和用于更新所述信赖域半径的常数。

技术总结
公开了一种存储量化程序的非暂态计算机可读存储介质、量化方法和量化装置，所述量化程序使至少一个计算机执行处理，所述处理包括：针对神经网络的所有层，计算分别在信赖域半径阈值与第一位宽的量化误差之间的差，第一位宽比第二位宽窄一级；基于所述差来计算所有层的每个缩放系数；通过使用缩放系数中的最小值来更新信赖域半径；以及通过基于信赖域设置的第三位宽来量化神经网络的参数。的第三位宽来量化神经网络的参数。的第三位宽来量化神经网络的参数。


技术研发人员：坂井靖文
受保护的技术使用者：富士通株式会社
技术研发日：2021.11.01
技术公布日：2022/6/4