数据预加载装置及其预加载方法、存储介质和计算机设备与流程

技术特征：
1.一种用于卷积神经网络的数据预加载方法，其特征在于，所述数据预加载方法包括：获取原始数据集和补零数据集，所述原始数据集和所述补零数据集共同构成卷积神经网络的输入数据集；在各个计算单元进行卷积计算之前，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中，以分别在各个计算单元的缓存中形成不同的目标数据集，其中，目标数据集中的数据为计算单元在卷积计算过程中所需的数据。2.根据权利要求1所述的用于卷积神经网络的数据预加载方法，其特征在于，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中的具体方法包括：将所述原始数据集的各个数据和所述补零数据集的各个数据按照预设空间顺序拼接形成输入数据集；获取各个计算单元的预先设置的目标地址，所述目标地址为每个所述计算单元在进行卷积计算时所需数据对应的空间地址；将所述输入数据集中空间地址与目标地址相同的数据存储到每个计算单元对应的缓存中。3.根据权利要求2所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标地址为多个，且至少有两个计算单元的部分目标地址相同。4.根据权利要求3所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标地址包括多个地址区段，其中，同一个地址区段内的地址连续排列，不同地址区段之间的地址间隔排列。5.根据权利要求1所述的用于卷积神经网络的数据预加载方法，其特征在于，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中的具体方法包括：对所述原始数据集的各个数据和所述补零数据集的各个数据按照预设时间顺序设置时间编号；获取各个计算单元的预先设置的目标序列，所述目标序列为每个所述计算单元在进行卷积计算时所需数据对应的时间编号；将所述原始数据集和所述补零数据集中时间编号与目标序列相同的数据存储到每个计算单元对应的缓存中。6.根据权利要求5所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标序列为多个，且至少有两个计算单元的部分目标序列相同。7.根据权利要求6所述的用于卷积神经网络的数据预加载方法，其特征在于，每个计算单元的目标序列包括多个序列区段，其中，同一个序列区段内的时间编号连续排列，不同序列区段之间的时间编号间隔排列。8.一种用于卷积神经网络的数据预加载装置，其特征在于，所述数据预加载装置包括：数据获取模块，用于获取原始数据集和补零数据集，其中所述原始数据集和所述补零数据集共同构成卷积神经网络的输入数据集；数据分配模块，用于在各个计算单元进行卷积计算之前，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中，以分别在各个计算单元的缓存中形成不同的目标数据集，其中，目标数据集中的数据为计算单元在卷积计算过程中所需的数据。
9.根据权利要求8所述的用于卷积神经网络的数据预加载装置，其特征在于，所述数据加载装置还包括配置解码器，所述配置解码器用于接收配置文件并根据接收到的配置文件生成预设空间顺序和各个计算单元的目标地址，所述目标地址为每个所述计算单元在进行卷积计算时所需数据对应的空间地址；所述数据分配模块包括：数据拼接单元，用于将所述原始数据集的各个数据和所述补零数据集的各个数据按照预设空间顺序拼接形成输入数据集；数据存储单元，用于存储所述输入数据集；地址读取单元，用于读取各个计算单元的目标地址；数据分配单元，用于将将所述输入数据集中空间地址与目标地址相同的数据存储到每个计算单元对应的缓存中。10.根据权利要求8所述的用于卷积神经网络的数据预加载装置，其特征在于，所述数据加载装置还包括配置解码器，所述配置解码器用于接收配置文件并根据接收到的配置文件生成预设时间顺序和各个计算单元的目标序列，所述目标序列为每个所述计算单元在进行卷积计算时所需数据对应的时间编号；所述数据分配模块包括：时间编码单元，用于根据所述预设时间顺序对所述原始数据集的各个数据和所述补零数据集的各个数据设置时间编号；序列获取单元，用于获取各个计算单元的目标序列；数据分配单元，用于将所述原始数据集和所述补零数据集中时间编号与目标序列相同的数据存储到每个计算单元对应的缓存中。11.根据权利要求9或10所述的用于卷积神经网络的数据预加载装置，其特征在于，所述配置解码器还用于根据所述配置文件生成内存地址信息和待生成的补零数据的空间信息；所述数据获取模块包括：内存控制器，用于根据所述内存地址信息从内存中读取数据，以形成原始数据集；补零生成器，用于根据所述空间信息生成补零数据集。12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有用于卷积神经网络的数据预加载程序，所述用于卷积神经网络的数据预加载程序被处理器执行时实现权利要求1至7任一项所述的用于卷积神经网络的数据预加载方法。13.一种计算机设备，其特征在于，所述计算机设备包括计算机可读存储介质、处理器和存储在所述计算机可读存储介质中的用于卷积神经网络的数据预加载程序，所述用于卷积神经网络的数据预加载程序被处理器执行时实现权利要求1至7任一项所述的用于卷积神经网络的数据预加载方法。

技术总结
本发明公开了一种数据预加载装置及其预加载方法、存储介质和计算机设备。所述数据预加载方法包括：获取原始数据集和补零数据集，所述原始数据集和所述补零数据集共同构成卷积神经网络的输入数据集；在各个计算单元进行卷积计算之前，将所述输入数据集中的数据按照预定分配方式存储至各个计算单元对应的缓存中，以分别在各个计算单元的缓存中形成不同的目标数据集，其中，目标数据集中的数据为计算单元在卷积计算过程中所需的数据。通过对原始数据和补零数据进行时间排序或空间排序，形成输入数据集，将输入数据集中各个数据分配至不同计算单元的缓存中，从而提高数据复用性，降低内存读取次数，降低数据准备时间，降低层计算间延迟，降低芯片整体功耗。降低芯片整体功耗。降低芯片整体功耗。


技术研发人员：王峥 王卓
受保护的技术使用者：中国科学院深圳先进技术研究院
技术研发日：2020.07.29
技术公布日：2022/2/24