一种面向异构并行架构的通算融合调度方法及系统与流程

摘要: 本技术涉及人工智能,特别是涉及一种面向异构并行架构的通算融合调度方法、装置、计算机设备、存储介质和计算机程序产品。背景技术:1、随着全球气候变化加剧,台风、暴雨...
一种面向异构并行架构的通算融合调度方法及系统与流程

本技术涉及人工智能,特别是涉及一种面向异构并行架构的通算融合调度方法、装置、计算机设备、存储介质和计算机程序产品。

背景技术:

1、随着全球气候变化加剧,台风、暴雨、强对流等极端天气事件的频次与强度显著增加,对气象卫星的观测能力提出了更高要求。气象卫星作为获取大范围、高时效大气与云系演变信息的主要手段,已从单星周期性扫描发展到多星组网协同观测阶段,通过多星轨道互补与载荷差异配置,理论上能够实现对灾害性天气目标的更高时间分辨率覆盖。然而,在实际业务运行中,气象卫星的观测任务规划仍面临对快速演变目标响应不及时、多星资源协同利用率低等问题,尤其在强天气系统发生形态突变或路径转折的关键阶段,现有观测模式难以保障对天气系统全生命周期的连续完整捕获。

2、相关技术中,气象卫星的观测任务通常基于预定义的观测计划或地面人工判读后上注的指令集来执行,这种模式本质上属于静态开环控制,缺乏对目标演变状态与星上观测结果之间的实时闭环反馈。一旦强天气过程的特征发生动态演变,例如对流核心区分裂、移速突变或强度快速增强,系统无法根据在轨卫星的实时观测反馈自主调整观测方案,必须依赖地面人员重新进行轨道预报与任务编排,再经测控链路上注至卫星,整个重规划周期耗时较长,导致在天气演变最为剧烈的关键时段出现观测盲区,卫星观测资源配置与天气系统实际演变状态严重脱节,致使气象卫星观测系统在强天气过程快速演变阶段存在数据时空连续性不足的问题。

技术实现思路

1、基于此,有必要针对上述技术问题,提供一种面向异构并行架构的通算融合调度方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。

2、第一方面,本技术提供了一种面向异构并行架构的通算融合调度方法,包括:

3、获取令牌路由映射信息,所述令牌路由映射信息指示多个数据令牌与多个目标计算节点之间的归属关系;

4、由矩阵运算单元对输入张量进行分块矩阵乘法,产生多个计算结果块;

5、由向量处理单元根据所述计算结果块在张量空间中的逻辑索引和所述令牌路由映射信息,确定所述计算结果块中的各数据令牌所对应的目标计算节点;

6、由所述向量处理单元通过异步点对点通信将各数据令牌发送至所对应的目标计算节点,其中,所述矩阵运算单元的计算与所述向量处理单元的发送以流水线方式重叠执行,且所述发送独立于其他计算节点的执行进度,无需全局同步。

7、在其中一个实施例中,所述获取令牌路由映射信息,包括:

8、对全局令牌分布执行并行前缀和运算,为每一个目标计算节点预先计算需接收的数据量,并根据所述数据量在该目标计算节点的存储空间中预留接收缓冲区及基准地址偏移。

9、在其中一个实施例中,所述分块矩阵乘法采用非对称切分策略,对行维度不进行切分,而对列维度进行深度切分,使得单个计算结果块的生成周期与所述向量处理单元的处理周期匹配。

10、在其中一个实施例中,所述确定所述计算结果块中的各数据令牌所对应的目标计算节点,包括:

11、提取数据令牌的原始索引信息,结合专家路由算法获取对应的专家标识符;

12、根据所述令牌路由映射信息,查找所述专家标识符所对应的目标计算节点的物理排名;

13、通过向量化查表指令获取所述数据令牌在所述目标计算节点的接收缓冲区中的相对逻辑偏移;

14、基于所述物理排名和所述相对逻辑偏移,生成包含目标计算节点信息与绝对物理存储地址的目标地址向量。

15、在其中一个实施例中,所述异步点对点通信采用基于远程内存访问的单项散射模式,通过硬件异步通信原语实现;所述矩阵运算单元与所述向量处理单元基于双缓冲机制构成生产者-消费者流水线,当矩阵运算单元向第一缓冲区写入当前计算结果块时,向量处理单元从第二缓冲区读取前一个计算结果块并执行所述发送。

16、在其中一个实施例中,数据的最终一致性由各计算节点独立的原子计数器进行维护,而不依赖分布式集群的强一致性时钟对齐;所述向量处理单元在确定目标计算节点时,实施向量化地址补偿算法,依据全局偏移基址、目标节点局部偏移及数据类型字节宽度即时合成目标节点中的绝对物理地址;所述向量处理单元根据各目标计算节点的负载不均情形动态调整数据令牌的发送优先级,优先处理载荷较大或链路带宽空闲的目标节点的分发请求。

17、第二方面,本技术还提供了一种面向异构并行架构的通算融合调度系统,包括:

18、映射获取模块,用于获取令牌路由映射信息,所述令牌路由映射信息指示多个数据令牌与多个目标计算节点之间的归属关系;

19、矩阵运算模块,用于对输入张量进行分块矩阵乘法,产生多个计算结果块;

20、向量处理单元,用于根据所述计算结果块在张量空间中的逻辑索引和所述令牌路由映射信息,确定所述计算结果块中的各数据令牌所对应的目标计算节点,并通过异步点对点通信将各数据令牌发送至所对应的目标计算节点;

21、其中,所述矩阵运算模块与所述向量处理单元被配置为以流水线方式重叠执行计算与发送,且所述发送独立于其他计算节点的执行进度,无需全局同步。

22、第三方面,本技术还提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:获取令牌路由映射信息,所述令牌路由映射信息指示多个数据令牌与多个目标计算节点之间的归属关系;由矩阵运算单元对输入张量进行分块矩阵乘法,产生多个计算结果块;由向量处理单元根据所述计算结果块在张量空间中的逻辑索引和所述令牌路由映射信息,确定所述计算结果块中的各数据令牌所对应的目标计算节点;由所述向量处理单元通过异步点对点通信将各数据令牌发送至所对应的目标计算节点,其中,所述矩阵运算单元的计算与所述向量处理单元的发送以流水线方式重叠执行,且所述发送独立于其他计算节点的执行进度,无需全局同步。

23、第四方面,本技术还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:获取令牌路由映射信息,所述令牌路由映射信息指示多个数据令牌与多个目标计算节点之间的归属关系;由矩阵运算单元对输入张量进行分块矩阵乘法,产生多个计算结果块;由向量处理单元根据所述计算结果块在张量空间中的逻辑索引和所述令牌路由映射信息,确定所述计算结果块中的各数据令牌所对应的目标计算节点;由所述向量处理单元通过异步点对点通信将各数据令牌发送至所对应的目标计算节点,其中,所述矩阵运算单元的计算与所述向量处理单元的发送以流水线方式重叠执行,且所述发送独立于其他计算节点的执行进度,无需全局同步。

24、第五方面,本技术还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:获取令牌路由映射信息,所述令牌路由映射信息指示多个数据令牌与多个目标计算节点之间的归属关系;由矩阵运算单元对输入张量进行分块矩阵乘法,产生多个计算结果块;由向量处理单元根据所述计算结果块在张量空间中的逻辑索引和所述令牌路由映射信息,确定所述计算结果块中的各数据令牌所对应的目标计算节点;由所述向量处理单元通过异步点对点通信将各数据令牌发送至所对应的目标计算节点,其中,所述矩阵运算单元的计算与所述向量处理单元的发送以流水线方式重叠执行,且所述发送独立于其他计算节点的执行进度,无需全局同步。

25、上述面向异构并行架构的通算融合调度方法、装置、计算机设备、存储介质和计算机程序产品,通过矩阵运算单元对列维度进行深度切分,使单个结果块的生成周期与向量处理单元的处理周期相匹配,当矩阵运算单元在写入当前块时,向量处理单元已通过双缓冲机制异步发送上一个块,计算与传输高度重叠,这种生产者-消费者流水线机制打破了传统批量同步传输的限制,使得矩阵计算流无需停顿等待全部结果产生即可持续释放算力。随后,通过预先建立的令牌路由映射与向量化地址补偿算法,向量处理单元可直接将数据令牌以单侧远程直接推送方式写入目标节点缓冲区的绝对物理地址,分发过程无需全局屏障同步,各目标计算节点通过独立原子计数器维护数据一致性,使得慢节点不会阻塞快节点的数据到达,解除了异构系统因单点瓶颈导致的集群级长尾延迟,显著降低了多核通信中的同步握手与寻址开销,显著增强了混合负载下系统资源调度的鲁棒性与弹性。