一种原位持久化三维存储阵列的制作方法

摘要: 本发明属于半导体存储及ai硬件,具体涉及一种原位持久化三维存储阵列。背景技术:1、传统ai推理系统中,模型权重参数被持久化存储于片外nandflash(nand...
一种原位持久化三维存储阵列的制作方法

本发明属于半导体存储及ai硬件,具体涉及一种原位持久化三维存储阵列。

背景技术:

1、传统ai推理系统中,模型权重参数被持久化存储于片外nand flash(nand-flash存储器是flash存储器的一种,其内部采用非线性宏单元模式)中。每次系统上电或模型切换时,需将全部权重从nand搬运至dram(dynamic random access memory,动态随机存取存储器),再加载到ai(artificial intelligence,人工智能)加速器sram(static random-access memory,静态随机存取存储器)。这个模型加载过程消耗数毫秒至数秒时间及可观功耗(通常占系统总功耗30%以上),成为ai芯片存储墙瓶颈的主要问题。

技术实现思路

1、本发明目的在于提供一种原位持久化三维存储阵列,以解决现有技术在模型加载过程消耗数毫秒至数秒时间及可观功耗的问题。

2、本发明提供一种原位持久化三维存储阵列,包括多层水平导线、硅通孔tsv以及rram存储单元;

3、每一层所述水平导线上均设置有一个硅通孔tsv,且每一层所述水平导线大小相同以及设置硅通孔tsv的位置相同,以构成垂直贯穿硅通孔tsv;每一层所述水平导线与所述垂直贯穿硅通孔tsv的交叉点处设置有一个rram存储单元,且所有rram存储单元构成逻辑页。

4、进一步地,各层所述水平导线在垂直方向上物理隔离,层间通过绝缘介质层隔开;各层所述水平导线独立引出至阵列边缘以连接外围控制电路;且在垂直方向上,各层所述水平导线的几何尺寸、形状以及在水平面上的投影位置完全相同并依次堆叠,每一层所述水平导线均与垂直贯穿的所述硅通孔tsv的侧壁形成欧姆接触。

5、进一步地,所述rram存储单元的一端电连接至所述水平导线,另一端电连接至所述硅通孔tsv的侧壁;所述rram存储单元设置于所述水平导线与所述硅通孔tsv的连接节点处,且同一逻辑页内的各层rram存储单元在垂直方向上对齐并共享同一个所述硅通孔tsv作为公共输出端。

6、进一步地,所述逻辑页中的所有rram存储单元在单一读周期内被同时激活,所有rram存储单元的存储状态并行沿垂直贯穿硅通孔tsv向下读出。

7、进一步地,所述垂直贯穿硅通孔tsv的底部直接通过宽i/o接口连接至ai加速器的乘法器输入总线,以电流形式直接参与乘累加运算。

8、进一步地,所述逻辑页中的各个rram存储单元的阻值代表ai模型权重的不同位,以进行多位权重并行输出。

9、进一步地,所述ai加速器的乘法器输入总线包含多个并联的乘法器输入通道,各乘法器输入通道分别对应不同的垂直贯通硅通孔tsv;各tsv底部引出端输出的所述电流信号同时注入对应的乘法器输入通道,在所述单一读周期内完成所述逻辑页内所有权重参数与输入特征向量的并行乘累加运算。

10、进一步地,所述rram存储单元在掉电时保持其阻值,上电后直接读取。

11、进一步地,每一个所述逻辑页中的rram存储单元以及对应的水平导线的数量均设置为7或8。

12、进一步地,所述rram存储单元采用hfox阻变层。

13、本发明的有益效果如下:

14、本发明提供一种原位持久化三维存储阵列,该阵列包括多层水平导线、硅通孔tsv以及rram存储单元;每一层水平导线上均设置有一个硅通孔tsv,各层水平导线大小相同且设置tsv的位置相同,从而构成垂直贯穿硅通孔tsv;在每一层水平导线与垂直贯穿硅通孔tsv的交叉点处设置一个rram存储单元,所有rram存储单元构成一个逻辑页,通过垂直贯穿tsv结构实现了存储单元的三维堆叠,利用rram的非易失性特性实现了ai模型参数的原位持久化存储;在单一读周期内,逻辑页中的所有rram存储单元被同时激活,其存储状态并行沿垂直贯穿tsv向下读出,tsv底部直接连接ai加速器的乘法器输入总线,以电流形式直接参与乘累加运算,降低了数据搬运功耗,突破了存储墙限制,提升了ai推理计算的并行度与能效。

1.一种原位持久化三维存储阵列,其特征在于,包括多层水平导线(101)、硅通孔tsv(102)以及rram存储单元(103);

2.根据权利要求1所述的原位持久化三维存储阵列,其特征在于,各层所述水平导线(101)在垂直方向上物理隔离,层间通过绝缘介质层隔开;各层所述水平导线(101)独立引出至阵列边缘以连接外围控制电路;且在垂直方向上,各层所述水平导线(101)的几何尺寸、形状以及在水平面上的投影位置完全相同并依次堆叠,每一层所述水平导线(101)均与垂直贯穿的所述硅通孔tsv(102)的侧壁形成欧姆接触。

3.根据权利要求1所述的原位持久化三维存储阵列,其特征在于,所述rram存储单元(103)的一端电连接至所述水平导线(101),另一端电连接至所述硅通孔tsv(102)的侧壁;所述rram存储单元(103)设置于所述水平导线(101)与所述硅通孔tsv(102)的连接节点处,且同一逻辑页内的各层rram存储单元(103)在垂直方向上对齐并共享同一个所述硅通孔tsv(102)作为公共输出端。

4.根据权利要求1所述的原位持久化三维存储阵列,其特征在于,所述逻辑页中的所有rram存储单元(103)在单一读周期内被同时激活,所有rram存储单元(103)的存储状态并行沿垂直贯穿硅通孔tsv向下读出。

5.根据权利要求1所述的原位持久化三维存储阵列,其特征在于,所述垂直贯穿硅通孔tsv的底部直接通过宽i/o接口连接至ai加速器的乘法器输入总线,以电流形式直接参与乘累加运算。

6.根据权利要求5所述的原位持久化三维存储阵列,其特征在于,所述逻辑页中的各个rram存储单元(103)的阻值代表ai模型权重的不同位,以进行多位权重并行输出。

7.根据权利要求6所述的原位持久化三维存储阵列,其特征在于,所述ai加速器的乘法器输入总线包含多个并联的乘法器输入通道,各乘法器输入通道分别对应不同的垂直贯通硅通孔tsv;各tsv底部引出端输出的所述电流信号同时注入对应的乘法器输入通道,在所述单一读周期内完成所述逻辑页内所有权重参数与输入特征向量的并行乘累加运算。

8.根据权利要求6所述的原位持久化三维存储阵列,其特征在于,所述rram存储单元(103)在掉电时保持其阻值,上电后直接读取。

9.根据权利要求1所述的原位持久化三维存储阵列,其特征在于,每一个所述逻辑页中的rram存储单元(103)以及对应的水平导线(101)的数量均设置为7或8。

10.根据权利要求1所述的原位持久化三维存储阵列,其特征在于,所述rram存储单元(103)采用hfox阻变层。