用于尖峰神经网络的尖峰突触元件的制作方法

技术特征：
1.一种用于在硬件实现的尖峰神经网络的神经元之间传递信号的方法，其中，所述尖峰神经网络包括神经元连接，每个所述神经元连接包括将突触前神经元连接至突触后神经元的突触单元，所述方法包括，对于所述神经元连接中的每个神经元连接并且在其每个所述突触单元处：基于存储在每个所述突触单元上的突触权重，在频率上调制从每个所述神经元连接的突触前神经元接收的尖峰，以生成突触后尖峰，从而将从所述突触前神经元接收的第一数目的尖峰转换成第二数目的突触后尖峰；并且将所产生的突触后尖峰传送到每个所述神经元连接的突触后神经元。2.根据权利要求1所述的方法，其特征在于，所述方法还包括：在每个所述神经元连接的突触后神经元处，基于所传送的突触后尖峰来生成输出尖峰。3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：在所述每个突触单元，维持确定所述突触权重的状态，其中所述状态可根据认知学习机制来更改。4.根据权利要求1至3中任一项所述的方法，其中，该方法进一步包括：在每个所述突触单元，根据所述认知学习机制，一方面基于从所述突触前神经元接收到的尖峰，另一方面基于在所述尖峰神经网络的一个或多个突触后神经元处生成的输出尖峰，来改变所述状态。5.根据权利要求1至4之一所述的方法，其中：所述突触单元被配置成基于从所述突触前神经元接收到的尖峰和在所述突触后神经元处生成的输出尖峰来实现尖峰定时依赖可塑性机制，由此基于该尖峰定时依赖可塑性机制来改变所述状态。6.根据权利要求2所述的方法，其中：所述输出尖峰是通过基于所述突触后神经元的计数来积分在所述突触后神经元处接收到的突触后尖峰而生成的。7.根据权利要求2或7所述的方法，其中：在所述每个突触单元处，通过首先根据由所述状态确定的突触权重，将接收到的所述尖峰转换成一个或多个电信号，然后通过基于所述电信号设置要生成的突触后尖峰的频率，来调制从所述突触前神经元接收到的所述尖峰。8.根据权利要求2、7或8之一所述的方法，其中：所述状态是一个初级状态；并且调制从所述突触前神经元接收的尖峰包括：维持基于从所述突触前神经元接收到的尖峰来确定短期突触权重的次级状态；并且将由所述主要状态确定的当前突触权重与阈值进行比较，所述阈值取决于从所述次要状态确定的所述短期突触权重，由此仅当所述当前突触权重大于或等于所述阈值时，才生成所述突触后尖峰。9.根据权利要求8所述的方法，其中：所述阈值等于所述短期突触权重，由此将所述当前突触权重与所述短期突触权重进行比较，并且仅当所述当前突触权重大于或等于所述短期突触权重时才生成所述突触后尖
峰；并且调制从突触前神经元接收的尖峰进一步包括：将所述短期突触权重与针对所述阈值所允许的最大值进行比较，并且如果相应地发现所述值大于或等于所述最大值，则重置所述短期突触权重。10.根据权利要求8或9所述的方法，其中：所述阈值等于最大值与所述短期突触权重之间的差，由此，将所述当前突触权重与所述差进行比较，所述最大值是所述当前突触权重和所述短期突触权重之和所允许的最大值，使得仅当所述当前突触权重大于或等于所述差值时才生成所述突触后尖峰；并且调制从所述突触前神经元接收到的尖峰进一步包括：在已经生成了所述尖峰之后，每当生成了突触后尖峰以供传送给所述突触后神经元时，重置所述短期突触权重。11.根据权利要求1至10之一所述的方法，其中：所生成的突触后尖峰具有全部相同的信号振幅。12.一种用于在硬件实现的尖峰神经网络的神经元之间传送信号的突触单元电路，其中：所述电路用于将网络的突触前神经元和突触后神经元相连接，以形成神经元连接；并且该电路被配置成当连接到所述突触前神经元和所述突触后神经元时：基于存储在所述电路上的突触权重，在频率上调制从所述突触前神经元接收到的尖峰，以生成突触后尖峰，由此在操作中，从所述突触前神经元接收到的第一数目的尖峰被转换成第二数目的突触后尖峰；并且向所述突触后神经元传送所生成的突触后尖峰。13.根据权利要求12所述的突触单元电路，其中：所述电路进一步被配置为：当连接到所述突触前神经元和所述突触后神经元时，生成具有全部相同幅度的突触后尖峰。14.根据权利要求12或13所述的突触单元电路，其中：所述电路进一步被配置为：当连接到所述突触前神经元和所述突触后神经元时，维持确定所述突触权重的状态，并且一方面基于从所述突触前神经元接收的峰电位，并且另一方面基于由所述突触后神经元发射的峰电位，来改变所述状态。15.根据权利要求12至14之一所述的突触单元电路，其中，该电路包括：尖峰生成单元，其被设计成在操作中生成所述突触后尖峰并将所生成的突触后尖峰传送给所述突触后神经元；更新单元，可连接至所述前突触神经元及后突触神经元的每一个，且配置为在操作中改变所述状态；并且忆阻器件，其中，所述忆阻器件是：所述忆阻器件被配置为保持所述状态，以便在操作中，所述忆阻器件基于从所述状态确定的突触权重，对由所述忆阻器件从所述突触前神经元接收的尖峰进行调制，并且生成所述突触后尖峰；以及，连接至所述更新单元，在操作中，由所述更新单元更改的任何状态确定用于调制所述尖峰的突触权重。
16.根据权利要求15所述的突触单元电路，其中：所述更新单元还被配置成基于从所述突触前神经元接收到的尖峰和在所述突触后神经元处生成的输出尖峰来实现尖峰定时依赖可塑性机制，由此在操作中基于该尖峰定时依赖可塑性机制来改变所述状态。17.根据权利要求15或16所述的突触单元电路，其中：所述忆阻器件还被配置为：根据由所述忆阻器件中保持的状态所确定的突触权重，将从所述突触前神经元接收的尖峰转换成一个或多个电信号；并且所述尖峰生成单元还被配置为在操作中基于所述电信号来设置要生成的突触后尖峰的频率，以调制从所述突触前神经元接收到的尖峰。18.根据权利要求15至17之一所述的突触单元电路，其中：所述状态是主状态，并且所述忆阻器件是第一忆阻器件，其被配置为保持所述主状态；并且所述突触单元电路还包括第二忆阻器件，所述第二忆阻器件可连接到所述突触前神经元，并且被设计为保持确定短期突触权重的次级状态，所述次级状态取决于在操作中由所述第二忆阻器件从所述突触前神经元接收的尖峰。19.根据权利要求16所述的突触单元电路，其中：所述突触单元电路还包括比较器，所述比较器连接到所述第一忆阻器件和所述第二忆阻器件中的每一个忆阻器件，以便将如从所述主要状态确定的当前突触权重与阈值进行比较，后者取决于从所述次级状态确定的所述短期突触权重，由此在操作中，仅当所述当前突触权重大于或等于所述阈值时，才由所述尖峰生成单元生成所述突触后尖峰。20.根据权利要求19所述的突触单元电路，其中：所述比较器是第一比较器，其被设计成使用所述短期突触权重作为所述阈值，由此仅当所述当前突触权重大于或等于所述短期突触权重时，才由所述尖峰生成单元生成所述突触后尖峰；并且该电路进一步包括第二比较器，该第二比较器被配置成用于将所述短期突触权重与针对所述阈值所允许的最大值进行比较，该电路否则被配置成用于如果发现该短期突触权重大于或等于所述最大值则重置该短期突触权重。21.根据权利要求19或20所述的突触单元电路，其中：所述比较器被设计成使用最大值与所述短期突触权重之间的差作为所述阈值，用于将所述当前突触权重与所述阈值进行比较，其中，所述最大值是所述当前突触权重与所述短期突触权重之和所允许的最大值，由此在操作中，仅当所述当前突触权重大于或等于所述差时，才由所述尖峰生成单元生成所述突触后尖峰；并且所述电路还被配置为：在已经生成了所述短期突触权重之后，每当生成了突触后尖峰以供传送给所述突触后神经元时，重置所述短期突触权重。22.一种实现脉冲神经网络的硬件装置，其中：所述网络包括多个神经元连接，每个神经元连接包括：前突触神经元；突触后神经元；以及突触单元电路，其将所述突触前神经元分别连接至所述突触后神经元；
所述突触单元电路被配置用于在硬件实现的尖峰神经网络的神经元之间传送信号，其中：所述电路用于将网络的突触前神经元连接至突触后神经元，以形成神经元连接；并且该电路被配置成当连接到所述突触前神经元和所述突触后神经元时：基于存储在所述电路上的突触权重，在频率上调制从所述突触前神经元接收到的尖峰，以生成突触后尖峰，由此在操作中，从所述突触前神经元接收到的第一数目的尖峰被转换成第二数目的突触后尖峰；并且向所述突触后神经元传送所生成的突触后尖峰。23.根据权利要求22所述的硬件装置，其中：所述神经元连接的每个突触后神经元：由所述网络的多个突触单元电路连接；以及被配置成基于由一个或多个相应的突触单元电路传送的突触后尖峰来生成输出尖峰。24.根据权利要求23所述的硬件装置，其中：所述每个突触后神经元进一步被配置成通过基于各自的突触单元电路所发送的突触后尖峰的计数来对所述突触后尖峰进行积分来生成所述输出尖峰。

技术总结
一种在硬件实现的尖峰神经网络(或SNN)的神经元之间传送信号的方法。该网络包括神经元连接，每一神经元连接包括将突触前神经元连接至突触后神经元的突触单元。首先基于存储在所述每个突触单元上的突触权重，在频率上调制从所述每个神经元连接的突触前神经元接收的尖峰，以生成突触后尖峰，从而将从所述突触前神经元接收的第一数量的尖峰转换成第二数量的突触后尖峰。从突触前神经元接收到的尖峰中的至少一些尖峰可以各自被转换成两个或更多个突触后尖峰的串。所产生的突触后尖峰随后被传送到所述每个神经元连接的突触后神经元。该方法使得有可能在突触输出中获得更高的动态范围。围。围。


技术研发人员：A
受保护的技术使用者：国际商业机器公司
技术研发日：2020.02.27
技术公布日：2021/11/4