神经网络模型的运行方法、可读介质和电子设备与流程

技术特征：
1.一种神经网络模型的运行方法，应用于电子设备，其特征在于，包括：在运行所述神经网络模型的过程中检测到第一运算，所述第一运算包括第一运算部分，其中，所述第一运算部分包括至少一个非线性运算因子；从第一数据矩阵中，获取所述第一运算的第一输入数据；生成所述第一输入数据的第一查表参数；确定索引表中与所述第一查表参数对应的第一索引值，所述第一索引值对应的浮点数与所述第一查表参数对应的浮点数数值相同；获取所述索引表中与所述第一索引值对应的第一查表结果，其中，所述第一查表参数与所述第一索引值为定点数，并且所述第一查表结果为预先将所述第一索引值作为所述第一运算部分的输入数据计算得到的定点数结果；基于所述第一查表结果确定所述第一运算部分的运算结果。2.根据权利要求1所述的方法，其特征在于，所述生成所述第一输入数据的第一查表参数，包括：从至少一个第二数据矩阵中获取与所述第一输入数据对应的至少一个第二输入数据，并将所述第一运算部分中，包括所述第一输入数据和所述第二输入数据的第一子运算的运算结果，作为所述第一输入数据的第一查表参数，其中，所述第一子运算只包括线性运算因子，所述第二输入数据在所述第二数据矩阵中的行和列与所述第一输入数据在所述第一数据矩阵中的行和列相同。3.根据权利要求1所述的方法，其特征在于，所述第一查表参数的量化位数为m，所述索引表中的索引值的量化位数为n；并且所述确定索引表中与所述第一查表参数对应的第一索引值，包括：在m小于或等于n的情况下，所述第一索引值为所述索引表中与所述第一查表参数相等的索引值；在m大于n的情况下，所述第一索引值为所述索引表中与所述第一查表参数对应的二进制数的高n位相等的索引值。4.根据权利要求3所述的方法，其特征在于，所述基于所述第一查表结果确定所述第一运算的运算结果，包括：在m小于或等于n的情况下，以所述第一查表结果为所述第一运算部分的运算结果。5.根据权利要求3所述的方法，其特征在于，所述基于所述第一查表结果确定所述第一运算的运算结果，包括：在m大于n的情况下，基于所述第一索引值加1得到的第二索引值，从所述索引表中获取所述第二索引值对应的第二查表结果；确定所述第二查表结果减去所述第一查表结果的差值，并将所述差值与所述第一查表参数减去所述第一索引值的差值相乘后再向右移m-n位，得到修正值；将所述修正值与第一查表结果的和作为所述第一运算部分的运算结果。6.根据权利要求1至5中任一项所述的方法，其特征在于，所述第一运算还包括第二运算部分；并且所述方法还包括：基于所述第一运算部分的运算结果和所述第二运算部分的运算结果的线性运算，确定所述第一运算的定点数运算结果。
7.根据权利要求6中任一项所述的方法，其特征在于，所述第一运算为利用lrn算子对待归一化数据集中的第一输入数据进行归一化的运算，所述待归一化数据集包括n(n>1)个数据矩阵，并且所述第一运算通过以下公式定义：其中，为所述第一输入数据，表示所述待归一化数据集中第i(1≤i≤n)个数据矩阵中的第x行第y列的数据；为所述第一运算的运算结果，表示所述第一输入数据的归一化结果；k、α、β、n为超参数；所述第一运算部分包括所述第二运算部分包括8.根据权利要求7所述的方法，其特征在于，所述第一查表参数根据以下公式确定：其中，表示所述待归一化数据集中第j(max(0，i-n/2)≤j≤min(n，i-n/2))个数据矩阵中的第x行第y列的数据对应的定点数。9.根据权利要求8所述的方法，其特征在于，所述基于所述第一运算部分的运算结果和所述第二运算部分的运算结果的线性运算，确定所述第一运算的定点数运算结果，包括：从所述索引表中获取预先存储的缩放系数和移位数；将所述第一运算部分的运算结果和所述第一输入数据对应的定点数相乘后，再乘以所述缩放系数，并将所得的乘积向左移所述移位数位，得到所述第一运算的定点数运算结果。10.一种可读介质，其特征在于，所述可读介质中包含有指令，当所述指令被电子设备的处理器执行时使电子设备实现权利要求1至9中任一项所述的神经网络模型的运行方法。11.一种电子设备，其特征在于，包括：存储器，用于存储由电子设备的一个或多个处理器执行的指令；以及处理器，是所述电子设备的处理器之一，用于运行所述指令以使所述电子设备实现权利要求1至9中任一项所述的神经网络模型的运行方法。

技术总结
本申请涉及人工智能领域，公开了一种神经网络模型的运行方法、可读介质和电子设备。方法包括：在运行神经网络模型的过程中检测到第一运算，第一运算包括第一运算部分，第一运算部分包括至少一个非线性运算因子；从第一数据矩阵中，获取第一运算的第一输入数据；生成第一输入数据的第一查表参数；确定索引表中与第一查表参数对应的第一索引值，获取索引表中与第一索引值对应的第一查表结果，其中第一查表参数、第一索引值、第一查表结果为定点数；基于第一查表结果确定第一运算部分的运算结果。从而电子设备在运行第一运算时，通过线性运算和查表就可以得到第一运算的定点数运算结果，提高了电子设备运行神经网络模型的速度。高了电子设备运行神经网络模型的速度。高了电子设备运行神经网络模型的速度。


技术研发人员：韩冥生 余宗桥 王晓雪 赵翼飞
受保护的技术使用者：安谋科技（中国）有限公司
技术研发日：2022.01.27
技术公布日：2022/5/17