芯片和电子设备的制作方法

摘要: 本申请涉及芯片,尤其涉及一种芯片和电子设备。背景技术:1、人工智能(artificialintelligence,简称为ai)芯片中的乘积累加(multiply...
芯片和电子设备的制作方法

本申请涉及芯片,尤其涉及一种芯片和电子设备。

背景技术:

1、人工智能(artificial intelligence,简称为ai)芯片中的乘积累加(multiply-accumulate,简称为mac)单元阵列是深度学习计算的核心模块,主要负责执行神经网络模型中占主导地位的矩阵乘法与累加运算。随着ai算力需求的迅猛增长,当前mac单元阵列的发展正聚焦于高密度集成、低功耗设计、可重构架构以及存算一体等关键技术方向,致力于在从边缘智能设备到超大规模数据中心的广泛应用场景中,实现更高能效与更强算力的平衡。

技术实现思路

1、本申请提出一种芯片和电子设备,以至少在一定程度上解决相关技术中的技术问题之一。

2、本申请一方面实施例提出了一种芯片,包括:多个处理单元,用于对输入到各所述处理单元的输入数据进行并行处理;其中,任一所述处理单元,包括:第一处理模块和第二处理模块;

3、所述第一处理模块,用于基于所述输入数据所属的数据精度,对所述输入数据执行与所述数据精度匹配的第一目标操作,得到第一目标输出;其中,所述第一目标操作包括乘法操作、累加操作、量化操作中的至少一项;

4、所述第二处理模块,用于对所述第一目标输出执行与所述数据精度匹配的第二目标操作,得到第二目标输出;其中,所述第二目标操作包括列压缩操作和/或行压缩操作。

5、本申请另一方面实施例提出了一种电子设备,包括前述一方面所述的芯片。

6、本申请提出的芯片和电子设备,通过多个处理单元并行工作,可将多份输入数据同时分配至不同的处理单元进行独立处理,有效消除级联架构中的等待时间,显著降低整体处理延迟,提升系统吞吐效率。其中,每个处理单元内的第一处理模块和第二处理模块均能根据输入数据的精度类型,对输入数据进行针对性处理,使芯片具备多精度计算能力,灵活适配不同应用场景的需求,从而增强数据处理的适应性与灵活性。

7、本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。

1.一种芯片,其特征在于,包括:多个处理单元,用于对输入到各所述处理单元的输入数据进行并行处理;其中,任一所述处理单元,包括:第一处理模块和第二处理模块;

2.根据权利要求1所述的芯片,其特征在于,所述第一处理模块包括多个并行处理的第一处理子模块,以及包括第二处理子模块,其中,

3.根据权利要求2所述的芯片,其特征在于,所述输入数据包括基于深度学习模型的输入特征所确定的输入矩阵中的多个第一子矩阵以及所述深度学习模型的权重矩阵中的多个第二子矩阵;

4.根据权利要求3所述的芯片,其特征在于,所述第一寄存器,用于:

5.根据权利要求4所述的芯片,其特征在于,所述第二寄存器,用于:

6.根据权利要求2所述的芯片,其特征在于,所述第二处理子模块包括:多个累加器、与每个所述累加器对应的第二乘法器和累加寄存器,其中,

7.根据权利要求1所述的芯片,其特征在于,所述第二处理模块,用于:

8.根据权利要求7所述的芯片,其特征在于,所述输入数据与基于深度学习模型的输入特征所确定的输入矩阵以及所述深度学习模型的权重矩阵关联;

9.根据权利要求8所述的芯片,其特征在于,所述第三处理子模块,用于:

10.根据权利要求9所述的芯片,其特征在于,所述第一目标输出包括所述第一处理模块中的多个累加寄存器中的存储数据;

11.根据权利要求8所述的芯片,其特征在于,所述第四处理子模块,用于:

12.根据权利要求11所述的芯片,其特征在于,所述第一目标输出包括所述第一处理模块中的多个累加寄存器中的存储数据;

13.根据权利要求7-12中任一项所述的芯片,其特征在于,所述第二处理模块,还用于:

14.根据权利要求1-12中任一项所述的芯片,其特征在于,所述第二处理模块,还包括:

15.一种电子设备,其特征在于,包括如权利要求1-14中任一项所述的芯片。