运算方法、处理器以及相关产品与流程

技术特征：
1.一种基于处理元件矩阵的矩阵乘的运算方法，其特征在于，应用于处理器，所述处理器包括两个以上处理元件，所述两个以上处理元件以二维矩阵排列，处理元件包括至少一个寄存器，所述方法实现对第一矩阵和第二矩阵的矩阵乘法运算，所述方法包括：将第一矩阵加载到处理元件的寄存器中；针对第二矩阵的每一行，将所述每一行中的元素与第一矩阵的每一列元素对应存储到处理元件的寄存器，与第一矩阵的每一列中的元素分别求乘积，计算一列乘积的和得到第一中间结果；或者，针对第二矩阵的每一列，将所述每一列中的元素与第一矩阵的每一行元素对应存储到处理元件的寄存器，与第一矩阵的每一行中的元素分别求乘积，计算一行乘积的和得到第一中间结果；将第一中间结果进行处理得到第一矩阵和第二矩阵的乘积。2.根据权利要求1所述的方法，其特征在于，第一矩阵为左乘矩阵、第二矩阵为右乘矩阵，针对第二矩阵中的每一列元素，将该列元素中的每个元素与第一矩阵中对应的一列元素存储到处理元件的寄存器，控制每一个处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积，计算每一行元素乘积的和得到第一中间结果，其中，第一矩阵中与所述每个元素对应的一列元素是指，该元素在所述第二矩阵中的行数与一列元素的列数相同。3.根据权利要求1所述的方法，其特征在于，第一矩阵为右乘矩阵、第二矩阵为左乘矩阵，针对第二矩阵中的每一行元素，将该行元素中的每个元素与第一矩阵中对应的一行元素存储到处理元件的寄存器，控制每一个处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积，计算每一列元素乘积的和得到第一中间结果，其中，第一矩阵中与所述每个元素对应的一行元素是指，该元素在所述第二矩阵中的列数与一行元素所在的行数相同。4.根据权利要求1-3任意一项所述的方法，其特征在于，所述方法还包括：根据处理元件的排列，从输入矩阵中确定不需要进行分块的矩阵为第一矩阵，输入矩阵中的另一矩阵为第二矩阵，输入矩阵包括左乘矩阵和右乘矩阵。5.根据权利要求1-3任意一项所述的方法，其特征在于，所述方法还包括：从输入矩阵中确定待加载矩阵；其中，输入矩阵包括左乘矩阵和右乘矩阵，待加载矩阵为左乘矩阵或右乘矩阵；根据处理元件的排列以及待加载矩阵的行秩以及列秩确定是否对待加载矩阵进行分块；若要对待加载矩阵进行分块，则根据待处理元件的排列以及待加载矩阵的行秩以及列秩对待加载矩阵进行分块得到两个以上第一矩阵。6.根据权利要求5所述的方法，其特征在于，所述方法还包括：根据对待加载矩阵分块的方式，对输入矩阵中除了待加载矩阵以外的另一个矩阵进行分块得到两个以上第二矩阵；根据第一矩阵和对应的第二矩阵的乘积，按照矩阵乘的规则计算所述左乘矩阵和所述
右乘矩阵的乘积。7.根据权利要求5所述的方法，其特征在于，所述处理器包括多组寄存器，所述方法还包括：在对所述输入矩阵进行分块后，在所述多组寄存器中堆叠存储所述两个以上第一矩阵，每组存储一个第一矩阵。8.一种处理器，其特征在于，所述处理器包括两个以上处理元件，所述两个以上处理元件以二维矩阵排列，处理元件包括至少一个寄存器，所述处理器用于对第一矩阵和第二矩阵执行矩阵乘法运算，所述处理器还包括控制器，所述控制器用于将第一矩阵加载到处理元件的寄存器中；针对第二矩阵的每一行，所述控制器用于将所述每一行中的元素与第一矩阵的每一列元素对应存储到处理元件的寄存器，与第一矩阵的每一列中的元素分别求乘积，计算一列乘积的和得到第一中间结果；或者，针对第二矩阵的每一列，所述控制器用于将所述每一列中的元素与第一矩阵的每一行元素对应存储到处理元件的寄存器，与第一矩阵的每一行中的元素分别求乘积，计算一行乘积的和得到第一中间结果；所述控制器还用于将第一中间结果进行处理得到第一矩阵和第二矩阵的乘积。9.根据权利要求8所述的处理器，其特征在于，第一矩阵为左乘矩阵、第二矩阵为右乘矩阵，针对第二矩阵中的每一列元素，所述控制器用于将该列元素中的每个元素与第一矩阵中对应的一列元素存储到处理元件的寄存器，控制每一个处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积，计算每一行元素乘积的和得到第一中间结果，其中，第一矩阵中与所述每个元素对应的一列元素是指，该元素在所述第二矩阵中的行数与一列元素的列数相同。10.根据权利要求8所述的处理器，其特征在于，第一矩阵为右乘矩阵、第二矩阵为左乘矩阵，针对第二矩阵中的每一行元素，所述控制器用于将该行元素中的每个元素与第一矩阵中对应的一行元素存储到处理元件的寄存器，控制每一个处理元件对相应的寄存器内的元素进行乘法运算得到元素乘积，计算每一列元素乘积的和得到第一中间结果，其中，第一矩阵中与所述每个元素对应的一行元素是指，该元素在所述第二矩阵中的列数与一行元素所在的行数相同。11.根据权利要求8-10任意一项所述的处理器，其特征在于，所述处理器还用于根据处理元件的排列，从输入矩阵中确定不需要进行分块的矩阵为第一矩阵，输入矩阵中的另一矩阵为第二矩阵，输入矩阵包括左乘矩阵和右乘矩阵。12.根据权利要求8-10任意一项所述的处理器，其特征在于，所述控制器还用于从输入矩阵中确定待加载矩阵；其中，输入矩阵包括左乘矩阵和右乘矩阵，待加载矩阵为左乘矩阵或右乘矩阵；根据处理元件的排列以及待加载矩阵的行秩以及列秩确定是否对待加载矩阵进行分块；若要对待加载矩阵进行分块，则所述控制器用于根据待处理元件的排列以及待加载矩阵的行秩以及列秩对待加载矩阵进行分块得到两个以上第一矩阵。13.根据权利要求12所述的处理器，其特征在于，所述控制器还用于根据对待加载矩阵
分块的方式，对输入矩阵中除了待加载矩阵以外的另一个矩阵进行分块得到两个以上第二矩阵；根据第一矩阵和对应的第二矩阵的乘积，按照矩阵乘的规则计算所述左乘矩阵和所述右乘矩阵的乘积。14.根据权利要求12所述的处理器，其特征在于，所述处理器包括多组寄存器，在对所述输入矩阵进行分块后，所述控制器还用于在所述多组寄存器中堆叠存储所述两个以上第一矩阵，每组存储一个第一矩阵。15.一种人工智能芯片，其特征在于，所述芯片包括如权利要求8-14中任意一项所述的处理器。16.一种电子设备，其特征在于，包括如权利要求15所述的人工智能芯片。

技术总结
本公开涉及运算方法、处理器以及相关产品。所述产品包括存储器件、接口装置和控制器件以及上述人工智能芯片；其中，所述人工智能芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；所述存储器件，用于存储数据；所述接口装置，用于实现所述人工智能芯片与外部设备之间的数据传输；所述控制器件，用于对所述人工智能芯片的状态进行监控。通过以上运算方法或相关产品，本公开可以提高相关产品在进行矩阵乘法运算时的运算效率。进行矩阵乘法运算时的运算效率。进行矩阵乘法运算时的运算效率。


技术研发人员：ꢀ(74)专利代理机构
受保护的技术使用者：中科寒武纪科技股份有限公司
技术研发日：2020.04.21
技术公布日：2021/10/22