一种基于电流积分的存内脉冲神经网络的制作方法

1.本技术属于神经网络领域，更具体的，涉及一种基于电流积分的存内脉冲神经网络。


背景技术：

2.受生物神经网络的启发，神经形态计算，或者更具体地说，脉冲神经网络(spiking neural network，snn)被认为是当前流行的人工神经网络的一种有前途的未来进化。snn利用脉冲在任意连接的一对神经元之间进行通信(大多是单向的)，且snn中的神经元只有在接收或发出脉冲信号时才处于活跃状态，如果能保证脉冲活动的稀疏性，该独特的事件驱动特性就有可能带来显著的节能效果。工业界和学术界一直在热衷于研究snn的电路和架构。近期的一些代表性例子如ibm的truenorth，是用互补金属氧化物半导体(complementary metal oxide semiconductor，cmos)电路器件组成生物学中的神经元的轴突、树突、突触，其关键模块核心是neurosynaptic核，即神经元突触内核；此外还有英特尔的loihi和清华大学的tanjic(“天机芯”)等。在这些现有技术中，计算元素(即神经元)，需要明确地从静态随机存取存储器(static random access memory，sram)中读出突触权值，进行状态更新计算，即膜电位计算。
3.与传统的集中式存储器和处理单元的冯-诺依曼架构相比，分布式存储器有助于缓解数据通信瓶颈，但每个处理元素(processing element，pe)可以看作是一个局部的冯-诺依曼处理器，具有局部处理单元(local processing units，lpu)、局部存储器、用于pe之间或者是全局数据通信的路由等。但是与生物神经网络中的权重静态数据流相比，此种架构在处理单元和本地存储器之间来回重复移动数据(主要是突触权重)所花费的能量仍然是一种浪费。
4.因此，存内计算的概念引起了很多人的关注。基于硅的传统存储器如sram、动态随机存取存储器(dynamic random access memory，dram)和flash；以及新兴的非易失性存储器(non-volatile-memory，nvm)，包括自旋矩随机存取存储器(spin-transfer torque magnetic ram，stt-mram)、阻变随机存取存储器(resisitive random access memory，reram)和相变存储器(phased-charge memory，pcm)等，都可以具备处理能力，并已经用于深度神经网络(deep neural network，dnn)加速等应用。研究人员也开始将存内计算的概念应用到snn上，但几乎都是基于nvm单元。正如论文arxiv-2019-supervised learning in spiking neural networks with phase-change memory synapses(以下简称“论文1”)所指出的，尽管nvm，例如pcm可以将多位信息存储在一个存储元件/单元中，与单比特存储在一个sram单元中相比，很大程度上提高了面积和潜在的能效，但nvm材料容易出现许多非理想性，如精度有限、随机性、非线性、随时间的传导漂移等。相比之下，硅基晶体管的特性更加稳定。
5.现有技术中开始将sram等单元应用于交叉的突触阵列，如中国专利cn111010162a提及交叉阵列中的单元可以是sram单元、cn109165730a提及可以采用6t sram、
cn103189880b提及的突触装置包含的存储器单元可以是sram，但是没有进一步对in-sram的snn架构以及采用sram单元后，突触阵列与神经元电路的信号传递设计。
6.因此，本领域亟需一种基于电流积分的存内脉冲神经网络，不需要在处理单元与存储单元之间移动数据，采用存算一体的存储单元是硅基的sram单元或者是nvm单元。


技术实现要素：

7.基于此，本技术提出了的一种基于电流积分存内脉神经网络，为实现上述目的，本发明采用如下的技术方案：
8.第一方面，提供了一种基于电流积分的存内脉冲神经网络，包括前神经元、突触阵列、后神经元电路，包括：
9.所述突触阵列被配置为接收前神经元输入的脉冲信号，突触阵列由i*j个突触电路组成，i为行数，j为列数；i，j均为大于等于1的正整数；
10.每一所述突触电路包含一个存储器单元；
11.所述存储器单元由存储一位突触权重的传统6t sram，以及用于读取突触权重的串联着的2个晶体管组成，其中一个晶体管的栅极连接传统6t sram中一个反相器的输出，源极接高电平，漏极接另一晶体管源极，另一晶体管的栅极连接读字线，漏极连接读位线，读位线上导通电流为突触电路的输出电流；
12.所述后神经元电路包含积分电容、比较器，每一个后神经元电路被配置为根据其连接的一列突触电路的输出电流在积分电容内的积分，基于积分电容两端累积电压与阈值电压的比较结果激发给下一级神经元脉冲信号。
13.本技术实施例中，存储器单元是存算一体的，也可以说是存内计算。通过将现有技术中突触阵列中的nvm单元替换为由存储一位突触权重的传统6t sram，以及用于读取突触权重的串联着的2个晶体管组成的单元，避免由电阻性nvm材料引起的非理想性。晶体管的导通电流在后神经元的电路内的积分电容上累积，得到的积分电容两端的电压与阈值电压进行比较，这一过程中，突触权重并不需要明确地从传统6t sram中读出，并基于比较结果决定是否激发给到下一层级神经元的脉冲，所述snn架构采用在电荷域内计算的方式天然地兼容了神经元的工作方式，如if神经元模型，突触前膜传递的刺激信号不连续地作用在后神经元的突触后膜上，并在突触后膜上累积，当突触后膜累积的电压超过阈值电压，激发后神经元产生脉冲信号，从而规避了电流域读出的问题。
14.在一种可能的实施方式中，突触阵列接收前一神经元电路的输入是通过每一前神经元输入的脉冲信号连接一行突触电路中的读字线实现。
15.在一种可能的实施方式中，后神经元电路发出脉冲信号后，积分电容两端累积电压复位到零，若积分电容一端接地，那么积分电容两端的累积电压为积分电容上极板的电压。
16.在一种可能的实施方式中，即使每个存储单元只能存储一位的突触权重，但是第一方面的snn架构也可用于多位突触权重计算，根据突触权重位数组合列数，每列对应突触权重每位的位置，得到并行的比较器分别发出脉冲信号，所述脉冲信号分别由与比较器连接的纹波计数器收集，纹波计数器中的值根据所在位的位权移位相加，基于所有纹波计数器移位相加的和值与数字阈值的比较结果激发给下一级神经元脉冲信号。组合列数是可编
程的，其与突触权值的位宽相同。
17.进一步地，在一种可能的实施方式中，为了提高采用sram单元时的面积效率和节省能效，组合的列数内，积分电容两端的累积电压通过时间多路复用的方式共用一个比较器的输入端，根据开关选择信号选择与阈值电压比较的与所在位对应的累积电压。
18.在一种可能的实施方式中，比较器输出端连接一个寄存器，当比较器输出为高时，则寄存器的输出作为与其连接的加法器的一个操作数。
19.在一种可能的实施方式中，加法器的另一个操作数为所在位的位权，加法器的输出高于数字阈值，后神经元电路发出脉冲信号。
20.在一种可能的实施方式中，每一列的积分电容上的积分电压与其相应的阈值电压进行比较时，不同列的阈值电压不相同。
21.在一种可能的实施方式中，神经网络还包括自动校准电路，通过调整脉宽可以抵消pvt引起的突触电路输出电流变化，得到的调整脉宽重新作为突触阵列的输入，校验原理为：
[0022][0023]
其中δt表示需调整的脉宽，v
ref
为阈值电压，i0为输出电流，c0为电容容值。
[0024]
第二方面，提供了一种基于电流积分的存内脉冲神经网络，包括前神经元、突触阵列、后神经元电路，其特征在于：
[0025]
所述突触阵列被配置为接收前神经元输入的脉冲信号，突触阵列由i*j个突触电路组成，i为行数，j为列数；i，j均为大于等于1的正整数；
[0026]
每一所述突触电路包含一个存储器单元；
[0027]
所述存储器单元由1个nvm电阻与1个场效应管组成，nvm电阻的一端连接场效应管的漏极，一端连接位线，位线上导通电流为突触电路的输出电流；所述场效应管的源极连接源线，栅极连接字线。
[0028]
所述后神经元电路包含积分电容、比较器，每一个后神经元电路被配置为根据其连接的一列突触电路的输出电流在积分电容内的积分，基于积分电容两端累积电压与阈值电压的比较结果激发给下一级神经元脉冲信号。
[0029]
结合第二方面，在一种可能的实施方式中，在一列位线输出电流注入到积分电容前经过一个场效应晶体管。场效应晶体管的源极连接到位线，漏极连接到积分电容的上极板，栅极连接到一个误差放大器的输出端。该放大器的正输入端接一个参考电压，负输入端连接位线。这样可以让该存储单元中的导通电流对积分电容上的电压不敏感，利用了晶体管大的漏极阻抗，并且该阻抗随着沟道长度的增加而增大。
[0030]
结合第二方面，在一种可能的实施方式中，突触阵列接收前一神经元电路的输入是通过每一前神经元输入的脉冲信号连接一行突触电路的读字线实现。
[0031]
结合第二方面，在一种可能的实施方式中，后神经元电路发出脉冲信号后，积分电容两端累积电压复位到零，若积分电容一端接地，那么积分电容两端的累积电压为积分电容上极板的电压。
[0032]
结合第二方面，在一种可能的实施方式中，神经网络还包括自动校准电路，通过调
整脉宽可以抵消pvt引起的突触电路输出电流变化，得到的调整脉宽重新作为突触阵列的输入。
[0033]
基于上述的技术方案，本技术第一方面为了避免采用nvm材料的存内脉冲神经网络因nvm本身的非理想性包括有限的精度、随机性、非线性，以及编程电导状态随时间的漂移等，采用了基于硅基的sram的存内脉冲神经网络，不会出现nvm材料类似的问题。在突触阵列采用sram单元作为存储单元时，后神经元电路的设计与之相对应，使得在该存内snn架构可以用于多位突触权重的计算，并且组合的列数是可编程的。进一步地，由于硅基sram只能存储单位突触权重，为了提高面积的使用效率以及节省能效，在多位突触权重的计算中，依据前述的架构，对电路设计为资源共享的时间多路复用形式。最后，根据所提出snn的可能实施方式，提出一种脉冲脉宽自动校准电路，抵消制造工艺、电压、温度(pvt)等因素带来的导通电流的变化，使得计算的结果更准确。
[0034]
另外，虽然现有的nvm材料本身特性容易出现非理想型，但第二方面采用的nvm单元是与snn架构相适应的，即基于nvm单元的存内脉冲神经网络也能从本技术所设计的与后神经元连接的接口电路以及脉宽自校准电路中受益。
[0035]
本技术采用的技术方案可以解决至少以上背景技术中提及的问题和/或缺点以及以上未描述的其他缺点。
附图说明
[0036]
图1为生物脉冲神经网络中，前神经元、突触、后神经元信息传递示意图；
[0037]
图2为根据的生物脉冲神经网络构建的交叉矩阵电路示意图；
[0038]
图3a为本发明一实施例中前神经元输入与突触阵列示意图；
[0039]
图3b为本发明一实施例中存储器单元示意图；
[0040]
图3c为本发明一实施例中后神经元电路示意图；
[0041]
图4a为本发明一实施例中用于多位计算的示意图；
[0042]
图4b为本发明一实施例中用于多位权重计算的时间多路复用示意图；
[0043]
图5a为本发明另一实施例中基于nvm单元的存储器单元示意图；
[0044]
图5b为本发明另一实施例中基于nvm单元的存储器单元及其位线接口电路的示意图；
[0045]
图6a为本发明一实施例中校准电路示意图；
[0046]
图6b为本发明另一实施例中校准电路示意图。
具体实施方式
[0047]
为了使发明的目的、原理、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，正如本发明内容部分所述，此处所描述的具体实施例用以解释本发明，并不用于限定本发明。
[0048]
本技术提出的方案可以适用但不限于if(integrate-and-fire，积分激发)神经元模型、lif模型(leaky integrate-and-fire，泄露积分激发)、脉冲响应模型(spike response model，srm)以及hodgkin-huxley模型中的至少一种。
[0049]
以常用的if神经元模型为例，突触后神经元(presynaptic neuron)会接收所有与
该神经元相连的来自突触前神经元(postsynaptic neuron)轴突末端发出的脉冲；当突触后神经元膜电位超过阈值电位时，突触后神经元会发送脉冲沿该神经元轴突传递至轴突末端。突触后神经元发送脉冲后会进入超极化状态，然后是不应期(refractory period)，在不应期内即使给予刺激突触后神经元也不会反应，即神经元不再接收刺激，保持静息电位。
[0050]
为了将存内计算应用在snn上，论文1提出了一种基于nvm的存内snn神经网络架构，根据图1的snn模型，后一神经元接收所有来自前一层所有神经元的信号，构建出了如图2的交叉矩阵结构电路。原理上，字线携带输入向量，每个电阻式nvm单元的导纳值代表一个矩阵元素，位线上的电流代表输入向量和一个矩阵的列向量的内积值。从图形上看，如图2所示，从数学上看，矩阵的输出可以表示为：
[0051]
y＝gx
ꢀꢀꢀ
(等式1)g＝1/r
[0052]
其中x＝[x1，x2，...，xn]是电压输入矢量，y＝[y1，y2，...，ym]是电流输出矢量，g＝[g
ij
](i＝1，2，...，n；j＝1，2，...，m)是电导矩阵。
[0053]
但如何利用位线电流来更新神经元状态，即用神经科学的术语来更新膜电位，往往没有得到充分的解决。例如，在论文1中，lif神经元动态只在软件中实现。在论文“tetci-2018-an all-memristor deep spiking neural computing system:a step toward realizing the low-power stochastic brain”提出的方案中，为了保持等式1的有效性，采用比nvm元件值小得多的电阻来感应输出电流，结果输出电压非常小，需要使用耗电的电压放大器进行放大。值得一提的是，在论文“isscc-2020-a 74 tmacs/w cmos-rram neurosynaptic core with dynamically reconfigurable dataflow and in-situ transposable weights for probabilistic graphical models”提出的方案中，虽然采用了基于单晶体管单忆阻器(one-transistor
–
one-memristor，1t1r)存储单元的所谓if神经元进行nvm单元存内计算，但其依靠的是电压采样而不是电流积分，而且该架构用于概率图形模型，不便于实现脉冲神经网络。
[0054]
综上，现有技术中所提到的nvm所具有的非理想性，往往导致人工神经网络或脉冲神经网络硬件与软件模型相比推理精度不高。另外，文献中的大部分作品只是展示了在模型仿真中使用nvm进行存内ann或snn的原理，而不是构建实际的基于nvm单元的工作芯片。
[0055]
如论文1中的图表所示，由于nvm，例如pcm的电导值随时间变化的不稳定性，即使在相对简单的任务中也会导致推理精度的显著下降。硅基sram可以规避这些与nvm材料本身特性相关的问题。
[0056]
本技术提出了一种基于电流积分的脉冲神经网络，包括前神经元输入，突触阵列以及后神经元电路，突触阵列的架构如图3a所示，可以理解是将图2中所示的突触阵列中电阻式nvm单元替换为存储器单元(cell)。所述突触阵列被配置为接收前神经元输入的脉冲信号，突触阵列由i*j个突触电路组成，i为行数，j为列数；i，j均为大于等于1的正整数；图中的n，m分别是前神经元的个数和后神经元个数。
[0057]
每一所述突触电路包含一个存储器单元；
[0058]
所述存储器单元由存储一位突触权重的传统6t sram，以及用于读取突触权重的串联着的2个晶体管组成；其中一个晶体管的栅极连接传统6t sram中一个反相器的输出，源极接高电平，漏极接另一晶体管源极，另一晶体管的栅极连接读字线，漏极连接读位线，读位线上导通电流为突触电路的输出电流；应当理解，所述传统6t sram由六个晶体管组
成，其中四个场效应管构成两个交叉耦合的反相器中存储每一比特，另外的两个场效应管是存储基本单元到用于读写的位线的控制开关。如图3b为存储器单元的一个实施例，所述晶体管采用p沟道场效应管，应当理解，晶体管采用n沟道场效应管也可以工作。在另一实施例中，存储器单元还可以是论文“jssc-2008-an 8t-sram for variability tolerance and low-voltage operation in high-performance caches”中ibm提出的基于传统6t sram的8-t sram单元，在该实施例中，采用n沟道场效应管读取传统6t sram单元内的存储的突触权重。
[0059]
所述后神经元电路包含积分电容、比较器，每一个后神经元电路被配置为根据其连接的一列突触电路的输出电流在积分电容内的积分，基于积分电容两端累积电压与阈值电压的比较结果激发给下一级神经元脉冲信号。
[0060]
具体地，该实施例在写入1位突触权重的过程中，写字线(write word line，wwl)被使能高电平，写位线(write bit line，wbl/nwbl)被驱动到需要写的内容的互补电压，如写入w＝1,则wbl驱动至高电平，nwbl被驱动至低电平。可以理解，电压电平“1”表示该电压等于电源电压vdd，电压电平“0”表示该电压等于接地电压vss。
[0061]
在读取过程中，使能读字线(read word line，nrwl)低电平，从读位线(read bit line，rbl)读取传统6t sram中存储的突触权重。
[0062]
在计算过程中，并行来自前神经元的脉冲信号被发送到突触阵列的输入xi(i＝1，2，...，n)，每个输入xi与一行的nrwl相连，即可以理解，读字线nrwl携带输入向量，也可以说读字线nrwl上作为snn的脉冲输入。
[0063]
同一列rbl连接到一个积分电容，该积分电容是后神经元电路的一部分，图3c为后神经元电路的一个实施例。应当理解，所述的行、列根据的输入的方向以及存储器单元的设置方式不同而不同，比如在另外的实施例中，当脉冲信号由列方向输入，存储器单元逆向旋转90度设置时，此时为每个输入xi与一列的nrwl相连，同一行的rbl连接到一个积分电容。假设每个脉冲的持续时间为δt，每个存储器单元中晶体管的导通电流为i0，则由于一个脉冲的存在，积分电容c0上的增量电压如下：
[0064][0065]
在输入xi线上存在多个脉冲时，积分电容v
mem
上的累积电压变化总量为δv与脉冲数的乘积，每一个脉冲引起的电压变化乘以一列输入包含的总脉冲数指的是后神经元接收前一层所有神经元的脉冲信号。当积分电容上的电压v
mem
超过规定的阈值电压v
ref
，图3c中比较器sj(j＝1，2，...，m)的输出端就会产生一个脉冲，随后积分电容上的电压被复位到地。可以理解，此过程对应的生物神经元中的突触后神经元膜电位超过阈值电位，突触后神经元发出脉冲，随后该后神经元回落到静息电位。
[0066]
可以理解，突触阵列的输出电流在后神经元电路内的积分电容上累积，得到的积分电容两端的电压与阈值电压进行比较。这一过程中，突触权重并不需要明确地从传统6t sram中读出，并基于比较结果决定是否激发给到下一层级神经元的脉冲，所述snn架构采用在电荷域内计算的方式天然地兼容了神经元的工作方式，规避了从电流域中读出的问题。
[0067]
特别地，虽然每个sram单元只能存储一位的信息，但上述实施例基于sram存储器
单元的脉冲神经网络可用于多位权重的计算。可选的，在多位突触权重的情况下，可以将来自多个if神经元电路的脉冲信号从平行的位线rblj上数字组合起来，视为一个整体的神经元脉冲输出，也即将多个后神经元电路从平行位线rblj上根据突触权重位数组合列数，如突触权重有3位，那么被组合的列为3列，每列对应突触权重每位的位置，得到并行的比较器发出的脉冲信号由与比较器连接的并行的纹波计数器收集，纹波计数器中的值根据所在位的位权移位相加，基于移位相加的和值与数字阈值的比较结果激发给下一级神经元脉冲信号。
[0068]
在一个实施例中，如图4a所示，为用于k位突触权重计算的架构，经组合的来自并行的k个比较器的脉冲由并行纹波计数器(cnt)收集。值得注意，根据每列所对应的突触权重的位的位置。例如，在一个实施例中，第k位的位权可以是2
k-1
，每一个纹波计数器中的值被移位并与其他的纹波计数器中经移位的值相加。具体地，在该实施例中，第1列是最不重要的位(lsb)，不发生位移；第k列是最重要的位(msb)，纹波计数器的值被左移k-1位，将用该k位突触权重的计算的所有纹波计数器移位相加得到的求和值与数字阈值(threshold)进行比较，一旦超过数字阈值，就会产生一个脉冲(spike)或多个脉冲，并在发出脉冲信号之后使该组合的神经元电路中的所有纹波计数器复位(reset)。可以理解，组合列数k是可编程的，其与突触权重的位宽相同。
[0069]
应当特别注意，只要图3c中的阈值电压v
ref
足够小，使v
mem
被调节到一个低电压，图3b中的两个p沟道场效应管，被视为是一个单一的复合晶体管，当nrwl上出现脉冲且w＝1时，可以保持饱和状态。晶体管在导通时工作在饱和区域，对保持相对一致的导通电流i0、最小化其受晶体管漏端电压的影响很重要。可以采用长沟道长度来进一步提高复合晶体管的输出阻抗。
[0070]
进一步地，为了提高用于多位突触权重计算时的面积效率，图3c中的比较器以及图4a中的电路需要进行修改和共享，用于一个k位权重计算的多列后神经元电路内共享一个比较器。具体地，如图4b所示的一个实施例，组合的列数内，积分电容器两端的累积电压以时间多路复用的方式连接到共享比较器的输入端，比较器的另一个输入端为阈值电压。本实施例中，时间多路复用是由时钟控制的。应当注意，尽管时钟的概念似乎与异步系统不相容，但积分电容上累积电压的更新和脉冲通信并不是由时钟协调的，如果时钟频率相比于积分电压的变化速度足够高，系统可以近似看作是异步系统。
[0071]
举例说明，当第j位(j∈[1,k])所对应的积分电容连接比较器时，与阈值v
ref
相比，如果累积电压v
memj
(j＝1，...,k)较大，比较器输出高时，使累加器通过d型寄存器更新其输出，比较器输出低时，累加器的输出不更新。可以理解，在多位突触权重的计算中，累加器中加法器的两个操作数分别是d型寄存器的输出和开关选择信号s
sk
根据当前位的位置选择的权重，也即选择的位权。应当注意，在图4b的实施例中，位权为2
k-1
，但在其他的实施例中，每一列对应的位权不一定是按照2的等比数列分配，例如也可以是的8进制或者16进制等；特别地，在另一些实施例中，每一列的积分电容上的积分电压与其相应的阈值电压进行比较时，这些每列的阈值电压并不需要相同，也即每个后神经电路之间，阈值电压可以是不同。也可以说是，将每位所连接积分电容上累积电压单独与阈值电压比较，每位的结果需要与位权相对应，再将每位添加了位权的结果相加，直至相加的和值大于的数字阈值从而发出脉冲或者是所有位都进行相加完毕但没有的发出脉冲。
[0072]
可选的，为了节省加法器的功率，在一些实施例中，权重的选择可根据比较器的输出进一步门控，比如只有比较器输出高时才将权重与加法器的输入端相连，否则改接0。
[0073]
当s
sk
使能，与s
sk
对应的累积电压v
memk
连接比较器输入端，且当比较器输出为高电平时，s
rk
使能，使相应积分电容的累积电压复位到地；当比较器的输出为低时，s
rk
不使能，相应的积分电容的累积电压不被复位。进一步的，所有的位对应的积分电容上的累积电压都经过比较之后，在累加器的输出超过数字神经元阈值d
th
时，产生脉冲，寄存器被复位，所有积分电容电位被复位到地。
[0074]
可以理解，此处包含的两处复位，前者是每一位对应的累积电压高于阈值电压v
ref
，后者是对应多位权重的累积电压高于数字的神经元阈值d
th
。也即积分电容被复位既可以因为其累积电压v
memj
大于阈值电压，也可以是在由多列组合的突触权重发出脉冲。那么在一种可能的实施方式中，如图所示，比较器的输出和s
sk
与运算的输出作为或门的一个输入，或门的另一个输入是产生的脉冲，此或门的输出为s
rk
。
[0075]
第二方面，提供了一种基于电流积分的存内脉冲神经网络，包括前神经元、突触阵列、后神经元电路：所述突触阵列被配置为接收前神经元输入的脉冲信号，突触阵列由i*j个突触电路组成，i为行数，j为列数；i，j均为大于等于1的正整数；每一所述突触电路包含一个存储器单元；
[0076]
虽然现有基于电阻式nvm单元的存内snn存在非理想性的问题，但在一个实施例中，单晶体管单忆阻器(one-memristor one-transistor，1r1t)的nvm单元也可以从上述snn架构中获益。图3a中使用nvm单元可以如图5a所示构建。具体地，所述存储器单元由1个nvm电阻与1个场效应管组成，nvm电阻的一端连接场效应管的漏极，一端连接位线bl，位线上导通电流为突触电路的输出电流；所述场效应管的源极连接源线sl，栅极连接字线wl。在这种拓扑结构下，nvm元件两端电压会随积分电容上极板的电压的变化而改变，从而使得流过nvm元件的电流随之改变。这样的积分电流的特质虽然也可以用来构建snn，但是等式1已不再成立，需要特定的snn训练算法来考虑这一点。如果要用满足等式1的训练算法，则在一种实施例中，需要在位线上加入如图5b所示的额外的电路。一个p型场效应晶体管的源极接位线，漏极接积分电容，栅极接误差放大器的输出。误差放大器的正输入端接一个参考电压，负输入端接位线。
[0077]
所述后神经元电路包含积分电容、比较器，每一个后神经元电路被配置为根据其连接的一列突触电路的输出电流在积分电容内的积分，基于积分电容两端累积电压与阈值电压的比较结果激发给下一级神经元脉冲信号。
[0078]
同样的，该存内脉冲神经网络的工作方式与第一方面类似。具体地，突触阵列接收前一神经元电路的输入是通过每一前神经元输入的脉冲信号连接一行突触电路的字线实现，即电压脉冲通过字线施加。后神经元电路发出脉冲信号后，积分电容两端累积电压复位到零，若积分电容一端接地，那么积分电容两端的累积电压为积分电容上极板的电压。
[0079]
为了解决现有技术中没有充分解决的因制造工艺、电压和温度(pvt)引起的导通电流的变化，申请人提出了一种脉冲脉宽自动校准电路，可以抵消上述因素带来的导通电流的变化。
[0080]
具体地，任何制造工艺、电压和温度(pvt)变化引起的i0的变化都可以通过调整脉冲序列的脉宽δt来补偿，调整程序可以是自动的。可选的，在一个实施例中，如图6a所示，
未经校准的尖峰前缘(在不失通用性的前提下假设为正)将晶体管ma和mb的栅极设置为低电平，ma和mb为图3b中用于读取的2个p沟道场效应管的复制晶体管，导通电流开始对电容器c
x
充电。一旦c
x
上的电位超过阈值电压v
ref
，比较器输出就变成高电平，并将ma和mb的栅极再次置高。这样，xi的脉宽就会根据复合晶体管ma和mb的导通电流自动调整，并作为像图3a中的输入那样将脉冲宽度为δt的脉冲序列送入到snn阵列中。在图6a中，使用sr锁存器的条件是输入脉冲的脉宽小于输出脉冲。校验原理可以用下式表示：
[0081][0082]
其中δt表示需调整的脉宽，v
ref
为阈值电压，i0为输出电流，c0为电容容值。
[0083]
可选的，如果有合理分辨率的时钟，可以如图6b所示的校准电路将脉冲的校准脉宽数字化存储。其工作机理仍受等式3制约。当校准启用，计数器开始对时钟周期进行计数，当c
x
上的积分电压超过v
ref
时停止计数。在本实施例中，用来重置c
x
上积分电压的开关用n型场效应晶体管实现。当比较器输出为高，使得或非门输出为低时停止计数。然后，计数器中存储的值就可以像图3a一样，应用于所有输入的脉冲到阵列中，而不需要频繁地启用这个校准电路。
[0084]
应当注意，图6a，图6b的实施例同样可基于nvm单元的snn架构。可选的，用图5b的实施例中1r1t结构代替ma和mb。具体地，nvm单元内的p沟道场效应管的源极连接到vdd，r经由位线上的p型场效应晶体管后由其漏极连接到c
x
。
[0085]
因此，也可以理解，本技术所提出snn架构以及校准原理不仅与8t sram是适应的，nvm单元也可以从所述snn架构中获益。也可以理解，存储器单元选择的形式为8t sram或者是nvm，基于该存储器单元的脉冲神经网络都可以具备所述有益效果。进一步，应当理解，本技术所提出的基于电流积分的脉冲神经网络，采用的存储器单元不局限于8t sram或者nvm单元。理论上，所述存储器单元还可以是能满足电流相加原理同时电流能不受后神经元中电容上的积分电压的影响的其他形式。
[0086]
需要说明的是，在不冲突的前提下，本技术描述的各个实施例和/或各个实施例中的技术特征可以任意的相互组合，组合之后得到的技术方案也应落入本技术的保护范围。
[0087]
本领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的装置和设备的具体工作过程以及产生的技术效果，可以参考前述方法实施例中对应的过程和技术效果，可以清楚的通过附图以及文字描述确定，在此不再赘述。
[0088]
以上所述，仅为本技术的具体实施方式，但本技术的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本技术揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本技术的保护范围之内。因此，本技术的保护范围应以所述权利要求的保护范围为准。