用于具有全局部存储的基于模拟存储器的神经网络的流水线的制作方法

技术特征：
1.一种人工神经网络，包括多个突触阵列，其中：所述多个突触阵列中的每个突触阵列包括多个有序输入线、多个有序输出线以及多个突触；所述突触中的每个突触操作地耦合到所述多个输入线中的一个输入线和所述多个输出线中的一个输出线；所述多个突触中的每个突触包括被配置为存储权重的电阻元件；所述多个突触阵列被配置在多个层中，所述多个层包括至少一个输入层、一个隐藏层、以及一个输出层；所述至少一个隐藏层中的至少一个突触阵列中的第一突触阵列被配置为在前馈操作期间接收并存储来自先前层的输入阵列；所述至少一个隐藏层中的所述至少一个突触阵列中的第二突触阵列被配置为从所述先前层接收所述输入阵列，并且在所述前馈操作期间基于所述第二突触阵列的权重来计算来自所述至少一个隐藏层的输出；所述至少一个突触阵列中的所述第一突触阵列被配置为在反向传播操作期间将所存储的输入阵列提供给所述至少一个突触阵列中的所述第二突触阵列；以及所述至少一个突触阵列中的所述第二突触阵列被配置为在所述反向传播操作期间接收校正值，并且基于所述校正值和所存储的输入阵列，更新其权重。2.根据权利要求1所述的人工神经网络，其中，所述前馈操作是流水线式的。3.根据权利要求1所述的人工神经网络，其中，所述反向传播操作是流水线式的。4.根据权利要求1所述的人工神经网络，其中，所述前馈操作和所述反向传播操作是并发执行的。5.根据权利要求1所述的人工神经网络，其中，所述至少一个突触阵列中的所述第一突触阵列被配置为每列存储一个输入阵列。6.根据权利要求1所述的人工神经网络，其中，所述多个突触中的每个突触包括存储器元件。7.根据权利要求1所述的人工神经网络，其中，所述多个突触中的每个突触包括nvm或3t1c。8.一种设备，包括：第一和第二突触阵列，所述第一和第二突触阵列中的每个突触阵列包括多个有序输入线、多个有序输出线以及多个突触，其中，所述多个突触中的每个突触操作地耦合到所述多个输入线中的一个输入线和所述多个输出线中的一个输出线；所述多个突触中的每个突触包括被配置为存储权重的电阻元件；所述第一突触阵列被配置为在前馈操作期间接收并存储来自人工神经网络的先前层的输入阵列；所述第二突触阵列被配置为从所述先前层接收所述输入阵列，并且在所述前馈操作期间基于所述第二突触阵列的权重来计算输出；所述第一突触阵列被配置为在反向传播操作期间将所存储的输入阵列提供给所述第二突触阵列；以及
所述第二突触阵列被配置为在所述反向传播操作期间接收校正值，并且基于这些校正值和所存储的输入阵列，更新其权重。9.根据权利要求8所述的设备，其中，所述前馈操作是流水线式的。10.根据权利要求8所述的设备，其中，所述反向传播操作是流水线式的。11.根据权利要求8所述的设备，其中，所述前馈操作和所述反向传播操作是并行执行的。12.根据权利要求8所述的设备，其中，所述第一突触阵列被配置为每列存储一个输入阵列。13.根据权利要求8所述的设备，其中，所述多个突触中的每个突触包括存储器元件。14.根据权利要求1所述的人工神经网络，其中，所述多个突触中的每个突触包括nvm或3t1c。15.一种方法，包括：在前馈操作期间通过隐藏层中的第一突触阵列从先前层接收输入阵列；在所述前馈操作期间通过所述第一突触阵列来存储所述输入阵列；在所述前馈操作期间通过所述隐藏层中的第二突触阵列来接收所述输入阵列；在所述前馈操作期间通过所述第二突触阵列基于所述第二突触阵列的权重来计算来自输入阵列的输出；在反向传播操作期间将所存储的输入阵列从所述第一突触阵列提供给所述第二突触阵列；在所述反向传播操作期间通过所述第二突触阵列接收校正值；以及基于所述校正值和所存储的输入阵列，更新所述第二突触阵列的权重。16.根据权利要求15所述的方法，其中，所述前馈操作是流水线式的。17.根据权利要求15所述的方法，其中，所述反向传播操作是流水线式的。18.根据权利要求15所述的方法，其中，所述前馈操作和所述反向传播操作是并行执行的。19.根据权利要求15所述的方法，其中，所述第一突触阵列被配置为每列存储一个输入阵列。20.根据权利要求15所述的方法，其中，所述多个突触中的每个突触包括存储器元件。21.一种计算机程序，包括程序代码，所述程序代码被适配成当所述程序在计算机上运行时执行权利要求15至20中任一项所述的方法步骤。

技术总结
提供了具有全局部存储的基于模拟存储器的神经网络的流水线。隐藏层中的第一突触阵列在前馈操作期间从先前层接收输入阵列。由第一突触阵列在前馈操作期间存储输入阵列。由隐藏层中的第二突触阵列在前馈操作期间接收输入阵列。第二突触阵列在前馈操作期间基于第二突触阵列的权重来计算来自输入阵列的输出。存储的输入阵列在反向传播操作期间从第一突触阵列提供给第二突触阵列。由第二突触阵列在反向传播操作期间接收校正值。基于校正值和所存储的输入阵列，更新第二突触阵列的权重。更新第二突触阵列的权重。更新第二突触阵列的权重。


技术研发人员：G
受保护的技术使用者：国际商业机器公司
技术研发日：2021.09.03
技术公布日：2023/6/14