一种大规模矩阵的卷积计算方法、装置、设备及介质与流程
本发明涉及大规模数据处理,尤其涉及一种大规模矩阵的卷积计算方法、装置、设备及介质。
背景技术:
1、在二维卷积计算中,为保证输出矩阵与输入矩阵尺寸一致以及边界像素参与完整计算,需要对输入矩阵的四周进行边界填充。
2、现有技术中,可以先在全局内存中生成一张包含填充区域的扩充矩阵,再将扩充矩阵分块加载至各计算核心执行卷积。
3、现有技术的方案,在输入矩阵尺寸较大时,填充区域相应的也会增大,从而导致扩充矩阵规模过大,引发内存溢出的问题,且在多个计算核心并行处理时,每个计算核心需要先将输入矩阵的每一行取出来,执行填充操作后再写回,最后再读取扩充矩阵分块执行卷积计算,每个计算核心需要执行多次全局内存访问,带宽浪费严重,且各计算核心必须等待生成完整的扩充矩阵后才能开始计算,存在强时序依赖。
技术实现思路
1、本发明提供了一种大规模矩阵的卷积计算方法、装置、设备及介质,能够有效减少填充矩阵的存储开销,降低内存占用,并且能够减少全局内存的读写次数与传输总量,减少带宽浪费,各计算核心能够独立执行边界填充与卷积计算,避免全局同步依赖。
2、根据本发明的一方面,提供了一种大规模矩阵的卷积计算方法,由并行计算设备中的多个计算核心并行执行,包括:
3、在输入矩阵中确定所述计算核心待处理的初始矩阵分块,并根据预设的位置类型划分规则,确定所述初始矩阵分块所属的目标位置类型;
4、根据所述初始矩阵分块、所述目标位置类型以及填充宽度,在输入矩阵中确定待读取矩阵块,并确定所述待读取矩阵块的缺失边界方向;
5、根据所述填充宽度以及待读取矩阵块的缺失边界方向,在本地缓存空间中确定待读取矩阵块的写入位置以及缺失边界方向上的预留位置,并根据所述写入位置以及所述预留位置,依次执行所述待读取矩阵块的写入操作以及边界填充操作,生成用于计算的扩充矩阵;
6、根据卷积核矩阵以及所述扩充矩阵进行卷积计算,并将计算结果写入结果存储区域中的对应位置。
7、根据本发明的另一方面,提供了一种大规模矩阵的卷积计算装置,由并行计算设备中的多个计算核心并行执行,包括:
8、位置类型确定模块,用于在输入矩阵中确定所述计算核心待处理的初始矩阵分块,并根据预设的位置类型划分规则,确定所述初始矩阵分块所属的目标位置类型;
9、矩阵分析模块,用于根据所述初始矩阵分块、所述目标位置类型以及填充宽度,在输入矩阵中确定待读取矩阵块,并确定所述待读取矩阵块的缺失边界方向;
10、边界扩充模块,用于根据所述填充宽度以及待读取矩阵块的缺失边界方向,在本地缓存空间中确定待读取矩阵块的写入位置以及缺失边界方向上的预留位置,并根据所述写入位置以及所述预留位置,依次执行所述待读取矩阵块的写入操作以及边界填充操作,生成用于计算的扩充矩阵;
11、卷积计算模块,用于根据卷积核矩阵以及所述扩充矩阵进行卷积计算,并将计算结果写入结果存储区域中的对应位置。
12、根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
13、至少一个处理器;以及
14、与所述至少一个处理器通信连接的存储器;其中,
15、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的大规模矩阵的卷积计算方法。
16、根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的大规模矩阵的卷积计算方法。
17、本发明实施例的技术方案,通过在输入矩阵中确定计算核心待处理的初始矩阵分块,并根据预设的位置类型划分规则,确定初始矩阵分块所属的目标位置类型;根据初始矩阵分块、目标位置类型以及填充宽度,在输入矩阵中确定待读取矩阵块,并确定待读取矩阵块的缺失边界方向;根据填充宽度以及待读取矩阵块的缺失边界方向,在本地缓存空间中确定待读取矩阵块的写入位置以及缺失边界方向上的预留位置,并根据写入位置以及预留位置,依次执行待读取矩阵块的写入操作以及边界填充操作,生成用于计算的扩充矩阵;根据卷积核矩阵以及扩充矩阵进行卷积计算,并将计算结果写入结果存储区域中的对应位置的方式,使得全局内存仅存储原始输入矩阵,无需保存全局填充矩阵,有效避免超大规模矩阵的显存溢出问题,每个计算核心仅读取自身计算所需的最小原始数据范围,无冗余边界数据重复传输,极大缓解内存带宽瓶颈,各计算核心完全独立执行填充与计算,无全局填充的时序依赖,通用性较强。
18、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
1.一种大规模矩阵的卷积计算方法,由并行计算设备中的多个计算核心并行执行,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,在输入矩阵中确定所述计算核心待处理的初始矩阵分块,并根据预设的位置类型划分规则,确定所述初始矩阵分块所属的目标位置类型,包括:
3.根据权利要求2所述的方法,其特征在于,判断所述初始矩阵分块的上边界、下边界、左边界以及右边界是否与所述输入矩阵的全局边界重合,并根据判断结果以及所述位置类型划分规则,确定所述初始矩阵分块所属的目标位置类型,包括下述任一项:
4.根据权利要求3所述的方法,其特征在于,根据所述初始矩阵分块、所述目标位置类型以及填充宽度,在输入矩阵中确定待读取矩阵块,并确定所述待读取矩阵块的缺失边界方向,包括下述任一项:
5.根据权利要求3所述的方法,其特征在于,所述第一位置类型包括左上角型、左下角型、右上角型以及右下角型;
6.根据权利要求4所述的方法,其特征在于,根据所述填充宽度以及待读取矩阵块的缺失边界方向,在本地缓存空间中确定待读取矩阵块的写入位置以及缺失边界方向上的预留位置,并根据所述写入位置以及所述预留位置,依次执行所述待读取矩阵块的写入操作以及边界填充操作,生成用于计算的扩充矩阵,包括:
7.根据权利要求4所述的方法,其特征在于,根据所述填充宽度以及待读取矩阵块的缺失边界方向,在本地缓存空间中确定待读取矩阵块的写入位置以及缺失边界方向上的预留位置,并根据所述写入位置以及所述预留位置,依次执行所述待读取矩阵块的写入操作以及边界填充操作,生成用于计算的扩充矩阵,还包括:
8.一种大规模矩阵的卷积计算装置,由并行计算设备中的多个计算核心并行执行,其特征在于,包括:
9.一种电子设备,其特征在于,所述电子设备包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的大规模矩阵的卷积计算方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com