数据处理方法、装置、电子设备、芯片及存储介质与流程

摘要: 本公开涉及数据处理领域,尤其涉及一种数据处理方法、装置、电子设备、芯片及存储介质。背景技术:1、近年来,人工智能(artificialintelligence,...
数据处理方法、装置、电子设备、芯片及存储介质与流程

本公开涉及数据处理领域,尤其涉及一种数据处理方法、装置、电子设备、芯片及存储介质。

背景技术:

1、近年来,人工智能(artificial intelligence, ai)处理器技术围绕算力提升、访存优化、并行效率三大核心方向快速发展,尤其在矩阵运算加速、低精度计算、分布式架构等领域取得显著突破。随着ai领域的发展,ai推理硬件的加速需求越来越多。

技术实现思路

1、本公开提供一种数据处理方法、装置、电子设备、芯片及存储介质,以解决相关技术中的问题。

2、本公开的第一方面实施例提出了一种数据处理方法,方法包括:确定与目标计算任务的计算规格关联的目标存储方式,目标存储方式为第一存储空间中数据的存储方式;获取从第一存储空间中取出 按照目标存储方式存储的目标数据,目标数据的数据格式与计算规格关联;对目标数据进行处理,以执行目标计算任务。

3、在本公开的一些实施例中,目标存储方式为以下任一项:混排存储方式,在混排存储方式下,单次计算所需的多个数据在第一存储空间内存储位置的行标识不同;线性存储方式,在线性存储方式下,单次计算所需的多个数据在第一存储空间内存储位置的行标识相同。

4、在本公开的一些实施例中,确定与目标计算任务的计算规格关联的目标存储方式,包括:响应于计算规格为块状计算规格,确定目标存储方式为混排存储方式;响应于计算规格为线性序列计算规格,确定目标存储方式为线性存储方式。

5、在本公开的一些实施例中,方法还包括:获取与目标计算任务相关的输入数据;按照配置寄存器存储的配置参数,将输入数据搬运至第一存储空间。

6、在本公开的一些实施例中,配置寄存器包括:第一配置寄存器,第一配置寄存器中的配置参数包括计算模式、数据类型、数据加载格式和计算数据大小中的至少一项;第二配置寄存器,第二配置寄存器包括数据搬运格式、数据搬运形状和广播配置中的至少一项。

7、在本公开的一些实施例中,按照配置寄存器存储的配置参数,将输入数据搬运至第一存储空间,包括:将输入数据存储至第二存储空间,第二存储空间按照高度维度优先或宽度维度优先的格式存储数据;根据配置寄存器存储的配置参数确定第一指令单次可搬运的最大数据大小;调用第一指令至少一次,以将第二存储空间存储的输入数据搬运至第一存储空间;其中,第一指令每次搬运的数据大小,小于或者等于第一指令单次可搬运的最大数据大小。

8、在本公开的一些实施例中,获取从第一存储空间中取出按照目标存储方式存储的目标数据,包括:根据配置寄存器存储的配置参数、第二指令单次可计算的最大数据大小、计算单元单次可计算的最大数据大小,确定第三指令单次可搬运的最大数据大小,第二指令用于对目标数据进行计算处理;调度第三指令,以将第一存储空间中的目标数据搬运至第三存储空间,目标数据为输入数据的子集,目标数据的大小小于或者等于第三指令单次可计算的最大数据大小;通过计算单元,读取第三存储空间中的目标数据。

9、在本公开的一些实施例中,对目标数据进行处理包括:调度第二指令,以触发计算单元根据配置寄存器的配置参数对目标数据进行计算处理。

10、在本公开的一些实施例中,方法还包括:将对目标数据进行计算处理得到的计算结果写回第二存储空间。

11、在本公开的一些实施例中,将对目标数据进行计算处理得到的计算结果写回第二存储空间,包括:计算单元将计算结果写入第四存储空间;调度第四指令,以将第四存储空间中的计算结果搬运至第一存储空间,其中,计算结果在第一存储空间中的存储格式与目标数据在第一存储空间中的存储格式相关;调度第一指令,以将第一存储空间中的计算结果搬运至第二存储空间。

12、在本公开的一些实施例中,方法还包括:调度第五指令,以配置所述配置寄存器中的配置参数;第五指令将通用寄存器中的配置参数确定为配置寄存器中的配置参数,和/或,第五指令指示配置寄存器中的配置参数。

13、在本公开的一些实施例中,第二指令、第三指令和第四指令中包括当前需要计算、取出或者写入的数据,在第三存储空间或者第四存储空间中的起始位置;第三存储空间和第四存储空间包括多个条目,每个条目中存储的数据为计算单元在一个计算周期内所需的输入数据,或者为计算单元在一个计算周期内得到的计算结果。

14、在本公开的一些实施例中,方法由数据处理系统执行,数据处理系统包括多个核,不同的核对应不同的第一存储空间、不同的第二存储空间以及不同的计算单元 ,方法还包括:调度第一指令,以将第一核对应的第一存储空间或者第二存储空间中的数据搬运至第二核对应的第一存储空间或者第二存储空间。

15、本公开的第二方面实施例提出了一种数据处理装置,该装置包括:确定单元,用于确定与目标计算任务的计算规格关联的目标存储方式,目标存储方式为第一存储空间中数据的存储方式;获取单元,用于获取从第一存储空间中取出按照目标存储方式存储的目标数据,目标数据的数据格式与计算规格关联;处理单元,用于对目标数据进行处理,以执行目标计算任务。

16、在本公开的一些实施例中,目标存储方式为以下任一项:混排存储方式,在混排存储方式下,单次计算所需的多个数据在第一存储空间内存储位置的行标识不同;线性存储方式,在线性存储方式下,单次计算所需的多个数据在第一存储空间内存储位置的行标识相同。

17、在本公开的一些实施例中,确定单元还用于:响应于计算规格为块状计算规格,确定目标存储方式为混排存储方式;响应于计算规格为线性序列计算规格,确定目标存储方式为线性存储方式。

18、在本公开的一些实施例中,获取单元还用于:调度第一指令,以将第一核对应的第一存储空间或者第二存储空间中的数据搬运至第二核对应的第一存储空间或者第二存储空间。

19、本公开的第三方面实施例提出了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开第一方面实施例中描述的方法。

20、本公开的第四方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开第一方面实施例中描述的方法。

21、本公开的第五方面实施例提出了一种芯片,包括至少一个处理器和通信接口;通信接口用于接收输入芯片的信号或从芯片输出的信号,处理器与通信接口通信且通过逻辑电路或执行代码指令实现如本公开第一方面实施例中描述的方法。

22、综上,本公开提出的数据处理方法,可以确定与目标计算任务的计算规格关联的目标存储方式,可以以目标存储方式存储第一存储空间中的数据,以使从第一存储空间取出的目标数据满足计算任务的需求,可以支持非连续、块状数据的快速访问,提高数据搬运效率和实现ai算法的高效计算。

23、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。

1.一种数据处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标存储方式为以下任一项:

3.根据权利要求2所述的方法,其特征在于,所述确定与目标计算任务的计算规格关联的目标存储方式,包括:

4.根据权利要求1所述的方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,所述配置寄存器包括:

6.根据权利要求4所述的方法,其特征在于,所述按照配置寄存器存储的配置参数,将所述输入数据搬运至所述第一存储空间,包括:

7.根据权利要求4所述的方法,其特征在于,所述获取从所述第一存储空间中取出按照所述目标存储方式存储的目标数据,包括:

8.根据权利要求4所述的方法,其特征在于,所述对所述目标数据进行处理包括:

9.根据权利要求1所述的方法,其特征在于,所述方法还包括:

10.根据权利要求9所述的方法,其特征在于,所述将对所述目标数据进行计算处理得到的计算结果写回第二存储空间,包括:

11.根据权利要求4至10中任一项所述的方法,其特征在于,所述方法还包括:

12.根据权利要求7至10中任一项所述的方法,其特征在于,

13.根据权利要求1所述的方法,其特征在于,所述方法由数据处理系统执行,所述数据处理系统包括多个核,不同的核对应不同的第一存储空间、不同的第二存储空间以及不同的计算单元,所述方法还包括:

14.一种数据处理装置,其特征在于,所述装置包括:

15.根据权利要求14所述的装置,其特征在于,所述目标存储方式为以下任一项:

16.根据权利要求15所述的装置,其特征在于,所述确定单元还用于:

17.根据权利要求14所述的装置,其特征在于,所述获取单元还用于:

18.一种电子设备,其特征在于,包括:

19.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行根据权利要求1-13中任一项所述的方法。

20.一种芯片,其特征在于,包括至少一个处理器和通信接口;所述通信接口用于接收输入所述芯片的信号或从所述芯片输出的信号,所述处理器与所述通信接口通信且通过逻辑电路或执行代码指令实现如权利要求1至13中任一项所述的方法。