存储器处理单元和包括零位跳过的计算点积的方法与流程

技术特征：
1.一种设备，包括：第一存储位置，其被配置为存储一组乘数；第二存储位置，其被配置为存储一组被乘数；位跳过逻辑，其被配置为针对第二存储位置中的给定位位置确定保持非零值的行；一个或更多个读出电路，其被配置为：顺序偏置所述第一存储位置中的与所述第二存储位置中的所述给定位位置的非零值行对应的行；以及顺序地感测所述第一存储位置中的与所述第二存储位置中的所述给定位位置的包含非零值的行对应的行，以确定所述给定位位置的部分积；一个或更多个累加器，其被配置为累加所述给定位位置的确定的部分积；以及一个或更多个移位寄存器，其被配置为在顺序地累加所述第一存储位置的多行上的多个位位置的确定的部分积之后将累加值移位，作为所述一组乘数与所述一组被乘数的矩阵点积。2.根据权利要求1所述的设备，还包括：提前终止逻辑，其被配置为在所述第二存储位置中的所述一组被乘数的预定数量的位位置已被处理之后，确定当前累加的部分积是否满足预定标准。3.根据权利要求2所述的设备，其中所述提前终止逻辑被配置为确定当前累加的部分积是否小于零。4.根据权利要求1-3中任一项所述的设备，还包括：缓冲器，其被配置为如果当前累加值满足预定标准，则在顺序地累加所述第一存储位置的所述多行上的所述多个位位置的确定的部分积之后，有条件地缓冲所述当前累加值。5.根据权利要求1-3中任一项所述的设备，其中：所述第一存储位置包括电阻式随机存取存储器(rram)；以及所述第二存储位置包括一组寄存器。6.根据权利要求5所述的设备，其中所述一组寄存器存储所述一组被乘数中的相应被乘数。7.根据权利要求5所述的设备，其中所述一组寄存器存储所述一组被乘数中的相应被乘数的所述给定位位置。8.根据权利要求1-3中任一项所述的设备，其中：所述第一存储位置包括电阻式随机存取存储器(rram)；以及所述第二存储位置包括静态随机存取存储器(sram)。9.一种设备，包括：第一存储位置，其被配置为存储一组乘数；第二存储位置，其被配置为存储一组被乘数；位屏蔽逻辑，其被配置为：顺序地访问所述第二存储位置的各个行，以确定所述第二存储位置中的给定行的给定位位置是否为非零值；以及当所述第二存储位置中的所述给定行的给定位位置为非零值时，有条件地顺序访问所述第一存储位置中的对应于所述第二存储位置中的给定行的行；
逻辑与电路，其被配置为当所述第二存储位置中的所述给定行的所述给定位位置是非零值时，将所述第二存储位置的所述给定行的所述给定位位置和所述第一存储位置的所述给定行有条件地逐位与运算，以生成所述给定位位置的部分积；一个或更多个累加器，其被配置为当所述第二存储位置中的所述给定行的位位置为非零值时，有条件地累加所述给定位位置的所述部分积；一个或更多个移位寄存器，其被配置为在相应方向上移位所述累加值，其中所述第二存储位置中的所述给定位位置在预定方向上顺序地移位。10.根据权利要求9所述的设备，还包括：提前终止逻辑，其被配置为在所述第二存储位置中的所述一组被乘数的预定数量的位位置已被处理之后，确定当前累加的部分积是否满足预定标准。11.根据权利要求10所述的设备，其中所述提前终止逻辑被配置为确定当前累加的部分积是否小于零。12.根据权利要求9至11中任一项所述的设备，还包括：缓冲器，其被配置为如果当前累加值满足预定标准，则在顺序地累加所述第一存储位置的多行上的多个位位置的确定的部分积之后，有条件地缓冲所述当前累加值。13.根据权利要求9至11中任一项所述的设备，其中：所述第一存储位置包括电阻式随机存取存储器(rram)；以及所述第二存储位置包括一组寄存器。14.根据权利要求13所述的设备，其中所述一组寄存器存储所述一组被乘数中的相应被乘数。15.根据权利要求13所述的设备，其中所述一组寄存器存储所述一组被乘数中的相应被乘数的所述给定位位置。16.根据权利要求9至11中任一项所述的设备，其中：所述第一存储位置包括电阻式随机存取存储器(rram)；以及所述第二存储位置包括静态随机存取存储器(sram)。17.根据权利要求9至11中任一项所述的设备，还包括：所述第一存储位置包括被配置为存储第一矩阵的一组乘数的第一部分和被配置为存储第二矩阵的一组乘数的第二部分；所述第二存储位置包括被配置为存储第三矩阵的一组被乘数的第一部分和被配置为存储第四矩阵的一组被乘数的第二部分；所述位屏蔽逻辑进一步被配置为顺序地访问所述第二存储位置的所述第一部分和所述第二部分的相应行；以及逻辑或电路，其被配置为对所述第二存储位置的所述第一部分和所述第二部分的给定访问行的给定位位置进行或运算；所述位屏蔽逻辑进一步被配置为当所述第二存储位置的所述第一部分和所述第二部分的所述给定访问行的所述给定位位置的逻辑或为非零值时，有条件地顺序访问所述第一存储位置的所述第一部分和所述第二部分的对应行；所述逻辑与电路进一步被配置为当所述第二存储位置的所述第一部分和所述第二部分的所述给定访问行的所述给定位位置的所述逻辑或为非零值时，将所述第二存储位置的
所述给定行的所述给定位位置和所述第一存储位置的所述给定行有条件地逐位与运算；以及所述一个或更多个累加器进一步被配置为当所述第二存储位置的所述第一部分和所述第二部分的所述给定访问行的所述给定位位置的逻辑或为非零值时，有条件地累加所述给定位位置的所述部分积。

技术总结
存储器处理单元可以被配置为计算存储在第一存储位置中的第一矩阵的一个或更多个元素与存储在第二存储位置中的第二矩阵的一个或更多个元素的顺序位之间的部分积。可利用零位跳过来计算部分积以增加吞吐量和/或减少能量消耗。每一列元素的部分积可被累加和位移位以计算第一矩阵和第二矩阵的点积。以计算第一矩阵和第二矩阵的点积。以计算第一矩阵和第二矩阵的点积。


技术研发人员：C
受保护的技术使用者：麦姆瑞克斯公司
技术研发日：2020.04.23
技术公布日：2022/2/18