使用写入放大器的低功耗静态随机存取存储器的制作方法

摘要: 本发明涉及静态随机存取存储器(下文中简称为sram),更具体地,涉及一种定位成与存储器内计算架构的处理元件(pe)相邻的片上sram。背景技术:1、存在降低传统...
使用写入放大器的低功耗静态随机存取存储器的制作方法

本发明涉及静态随机存取存储器(下文中简称为sram),更具体地,涉及一种定位成与存储器内计算架构的处理元件(pe)相邻的片上sram。

背景技术:

1、存在降低传统sram(例如,vdd电源电压为0.5v或更低)中的功耗的公认需求,在传统sram中,沿所选择的字线的多个存储器单元经由位线被读取或写入。近来,随着用于人工智能(ai)芯片中的新兴sram的引入,这一需求变得更加迫切,在ai芯片中,所有存储器单元同时被读取或写入,用于处理器元件块与sram之间的大规模并行操作。

2、专利申请号为pct/ib2022/055760,发明人为sato, k等,名称为“使用半vdd预充电的低功耗静态随机存取存储器”的国际专利申请,提出了一种用于六晶体管(6t sram)存储器单元的半vdd位线预充电的方法和设备,与常规现有技术的vdd位线预充电方法相比,降低了位线预充电功耗。如pct/ib2022/055760中所公开的,6t sram存储器单元布置在第一位线(bl)、第二位线(blb)与字线之间。在6t sram存储器单元接收字线信号之前,位线预充电电路将第一位线和第二位线预充电至vdd/2的电压。

3、近年来,存储器内计算架构引起了关注(参见bob beachler,“《用于ai推理的存储器内计算的优势》(the advantages of at-memory compute for ai inference)”,电子工程时报,2022年1月24日)。与具有外部dram、高速缓存和用于访问处理元件的流水线的传统冯·诺依曼架构相比,存储器内计算架构将处理元件(pe)直接连接到6t sram的存储器单元,以实现处理元件与sram之间的高带宽交互。顾名思义,存储器内计算架构的关键特征是在向处理元件提供输入的“存储器处”的处理元件之间的物理连接。对用于ai硬件加速的高tops/w的增长的需求要求计算硬件在低功耗下具有高吞吐量(tops/w是一种指标,该指标指示ai加速器在100%利用率下每秒可以处理多少计算操作)。处理元件是计算硬件的基本核心单元,需要在较低电压(例如0.35~0.4v)下操作以降低功耗。因此,附接到处理元件的6t sram的操作电压需要降低到与处理元件相同的电压。位线(bl)预充电电路的功耗是6tsram功耗的主要原因。

4、将电压写入到sram 6t位单元的数据线(din)中会将位单元设置为该电压。一般而言,sram数据保持操作和读取操作的可靠性随着高的位单元电压而提高,例如,在pe操作为0.4v的情况下,单元vdd电压为0.7v。操作为0.4v的情况下,din电压将被设置为与pe相同的电压,即0.4v。写入到位单元的写入电压应与单元vdd的电压相同,即本示例中的0.7v。因此,写入主放大器需要将0.4v放大至0.7v。

技术实现思路

1、本发明的一方面在于提供一种低电压和低功耗嵌入式sram系统,该sram系统具有高吞吐量,用于存储器内计算架构ai芯片,其中sram位于片上,与存储器内计算架构的处理元件相邻。因此,大体而言,sram在两个不同的电压域下操作:存储器读取电压和与处理元件联接的电路电压(vddp)为0.4v,以及存储器写入电压为0.7v。

2、在常规sram中,写入放大器和读取放大器被放置在最靠近pe的一侧。在这种方案中,由于bl穿过写入放大器和读取放大器两者的内部,bl线的长度变长。长bl影响占据sram功耗的大部分的bl功耗,以及读取信号速度。因此,根据本发明的一方面,写入放大器或写入主放大器(wma)位于读取主放大器(rma)的相对两侧,读取主放大器位于pe侧。

3、本发明的进一步方面在于提供一种嵌入ai芯片中的sram,该sram在比写入操作更频繁发生的读取操作期间,以低电压和低功耗操作。

4、在另一方面,提出了一种使用分段的位线进行电荷共享的方法和设备。

5、此外,提出了一种无需任何分段的子阵列的无缝读取操作以及分离的读取和写入主放大器的方法和设备。

6、这些以及其他方面和优点将在下文中变得明显,并将在下文更充分描述和主张的构造和操作的细节中体现,参考形成本文的一部分的附图,其中相同的附图标记始终指代相同的部件。

1.一种静态随机存取存储器(sram),嵌入在存储器内计算架构中,所述存储器内计算架构具有处理元件(pe),所述处理元件在处理元件(pe)域电压vddp下操作,所述静态随机存取存储器包括:

2.根据权利要求1所述的sram,进一步包括读取主放大器(rma)和位于所述读取主放大器(rma)的相对侧的写入主放大器(wma),用于将数据线(din)电压从pe域电压vddp放大至vdd_cell。

3.根据权利要求2所述的sram,其中,所述位线(bl)预充电电路包括隔离(iso)开关,所述隔离(iso)开关用于选择性地将所述一对位线(bl)划分为远离所述处理元件(pe)的侧段的远端和靠近所述处理元件(pe)的侧段的近端,使得当所述隔离(iso)开关断开时,所述近端由所述读取主放大器(rma)轨到轨地放大,并且当所述隔离(iso)开关闭合时,生成0.1v~0.15v的读取预充电电压,用于在所述一对位线(bl)之间进行电荷共享。

4.根据权利要求3所述的sram,进一步包括交叉联接nmos,其中,所述隔离(iso)开关可操作以通过经由所述交叉联接nmos开关将所述两条位线(bl)部分两次短路,以在所述两条位线(bl)部分之间进行电荷共享,来将所述位线(bl)预充电电压从写入操作期间的vdd_cell/2调整到读取操作期间的vdd_cell/4。

5.根据权利要求4所述的sram,进一步包括字线(wl)驱动器,所述字线(wl)驱动器用于在写入操作期间生成两步字线信号并且在读取操作期间生成处于vddp1的单步字线信号,其中,第一步处于vddp1的字线电压,第二步处于vdd_cell,vdd_cell > vddp1。

6.根据权利要求5所述的sram,进一步包括负vss_cell生成器,所述负vss_cell生成器用于在读取操作期间通过实施单次脉冲将所述位单元的vss电压下拉至负电压,并在写入操作期间将vss维持在0v。

7.根据权利要求2所述的sram,进一步包括读取主放大器(rma)和锁存器,所述读取主放大器(rma)和所述锁存器设置在所述处理元件(pe)的一侧的每一列处,并且数据线(din/dinb)从所述处理元件(pe)的相对侧通过所述写入主放大器(wma)输入到所述位线(bl)。

8.根据权利要求5所述的sram,其中,所述字线(wl)驱动器使得当所述字线(wl)上的数据(dout)被传送到所述锁存器时,所述字线信号下降至0v,并且其中,所述位线(bl)预充电电路开始对所述位线(bl)预充电,用于在所述字线信号的下一次断言时读取所述数据(dout)。

9.根据权利要求4所述的sram,其中,所述交叉联接nmos位于由所述隔离(iso)开关从所述读取主放大器(rma)划分的所述位线的远端段中。

10.根据权利要求9所述的sram,其中,所述交叉联接nmos的源极被下拉至负偏压持续一段时间,然后恢复到vss。

11.根据权利要求10所述的sram,其中,所述负偏压为-20mv。

12.根据权利要求10所述的sram,其中,所述一段时间为半个周期。

13.根据权利要求4所述的sram,其中,所述远端段中的每条字线(wl)具有与所述近端段中的每条字线(wl)不同的宽度,并且其中,所述远端段中的每条字线(wl)在所述隔离(iso)开关划分所述位线(bl)之后被关断。

14.根据权利要求5所述的sram,其中,vddp1 = 0.4v。

15.根据权利要求4所述的sram,其中,用于划分所述位线(bl)的iso信号的幅度在读取期间为vddp-vth至vddp,并且在写入期间vdd_cell是固定的,为第二步字线电压。

16.根据权利要求2所述的sram,其中,vdd_cell通过两个电源vddp的串联连接来生成。