一种基于多级缓存感知的异构算力动态调度方法及系统与流程

摘要: 本发明涉及计算机系统资源调度,尤其涉及一种基于多级缓存感知的异构算力动态调度方法及系统。背景技术:1、计算机系统资源调度技术领域包含操作系统内核调度机制、处理器...
一种基于多级缓存感知的异构算力动态调度方法及系统与流程

本发明涉及计算机系统资源调度,尤其涉及一种基于多级缓存感知的异构算力动态调度方法及系统。

背景技术:

1、计算机系统资源调度技术领域包含操作系统内核调度机制、处理器任务分配策略、存储层级管理以及异构计算资源协同控制等内容,其核心在于对多种计算资源进行统一建模与分配,通过对cpugpu以及专用加速器等不同算力单元的任务映射关系进行管理,并结合缓存层级结构、内存访问路径及数据局部性特征,实现任务执行顺序与资源占用关系的组织与约束,同时,该技术领域还涉及线程调度策略、负载均衡机制、缓存一致性管理以及多级存储访问控制等方面,以支撑复杂计算环境下的资源协调运行。

2、其中,多级缓存感知的异构算力动态调度方法是指在包含多级缓存结构的计算系统中,对cpu核心、gpu单元及其他计算单元进行任务分配与执行顺序控制的方法,主要涉及基于缓存层级信息的任务划分方式、缓存命中率相关的数据访问路径分析、任务与计算单元之间的映射规则设定,以及运行过程中对任务队列的调整策略。其实现方式包括根据不同缓存层级的数据驻留状态对任务进行优先级划分,结合计算单元类型对任务进行分组分配,并依据缓存访问开销对任务调度顺序进行调整,同时对不同计算单元之间的数据传输路径进行控制,以形成面向多级缓存结构的调度过程。

3、现有技术侧重依据静态缓存层级关系与任务映射规则组织异构算力分配,在长时间连续运行场景中,任务访存行为易随数据访问路径变化产生阶段差异,但运行过程中缺少针对访存变化轨迹的连续划分能力,导致不同阶段对应的数据访问特征难以区分,当多个任务交替占用缓存资源时,缓存访问关系易出现频繁波动,例如关联任务在cpu与gpu之间交替执行时,数据访问路径可能持续变化,易引发任务执行顺序不稳定与缓存占用状态失衡,进而影响异构计算环境中的执行协调性与任务运行连续性。

技术实现思路

1、为了解决现有技术存在的技术问题,本发明实施例提供了一种基于多级缓存感知的异构算力动态调度方法及系统。所述技术方案如下:

2、一种基于多级缓存感知的异构算力动态调度方法,包括以下步骤:

3、s1:获取cpu核心任务队列的任务编号、访存地址和访问时间,建立三者对应关系,按访问时间形成访存地址序列,识别相邻地址变化和连续变化区间,设置分段分界点,形成访问变化标记集合,得到访存分段位置集合;

4、s2:提取所述访存分段位置集合中分界点位置,划分访存地址序列,读取一二级缓存命中记录汇总访问命中表现,获取替换记录形成替换表现,识别地址分布跨度,建立对应关系并标记阶段标识,得到缓存行为标识集合;

5、s3:调用所述缓存行为标识集合,关联访存分段与访问时间,按起止时间划分连续时间区间,提取cpu核心访存地址并转为缓存行编号集合,获取gpu核心同期占用编号集合,匹配共同缓存行编号及位置,得到缓存冲突分布记录;

6、s4:基于所述缓存冲突分布记录,筛选无共同缓存行的可调度时间区间,与所述缓存行为标识集合时间对应,提取任务编号、阶段顺序、访问命中与替换表现,结合算力核心编号判定核心分配类型,得到算力分配序列表;

7、s5:根据所述算力分配序列表,按算力核心编号归集任务编号,形成cpu核心与gpu核心执行队列,结合可调度时间区间与阶段标识及所述缓存行为标识集合的阶段顺序,整理队列执行次序并绑定记录,得到异构算力调度执行记录。

8、一种基于多级缓存感知的异构算力动态调度系统,所述系统包括:

9、序列划分模块,获取cpu核心任务队列的任务编号、访存地址和访问时间,建立三者对应关系,按访问时间形成访存地址序列,识别相邻地址变化和连续变化区间,设置分段分界点,形成访问变化标记集合,得到访存分段位置集合;

10、状态识别模块,提取所述访存分段位置集合中分界点位置,划分访存地址序列,读取一二级缓存命中记录汇总访问命中表现,获取替换记录形成替换表现,识别地址分布跨度,建立对应关系并标记阶段标识,得到缓存行为标识集合;

11、数据竞争检测模块,调用所述缓存行为标识集合,关联访存分段与访问时间,按起止时间划分连续时间区间,提取cpu核心访存地址并转为缓存行编号集合,获取gpu核心同期占用编号集合,匹配共同缓存行编号及位置,得到缓存冲突分布记录;

12、智能调度模块,基于所述缓存冲突分布记录,筛选无共同缓存行的可调度时间区间,与所述缓存行为标识集合时间对应,提取任务编号、阶段顺序、访问命中与替换表现,结合算力核心编号判定核心分配类型,得到算力分配序列表;

13、队列管理模块,根据所述算力分配序列表,按算力核心编号归集任务编号,形成cpu核心与gpu核心执行队列,结合可调度时间区间与阶段标识及所述缓存行为标识集合的阶段顺序,整理队列执行次序并绑定记录,得到异构算力调度执行记录。

14、本发明实施例提供的技术方案带来的有益效果至少包括:

15、本发明中,通过对访存地址序列中的位置变化轨迹进行连续区间划分,并结合访问时间形成阶段关联关系,可实现任务访存行为的动态分层表达,依据不同访存阶段对应的缓存命中状态、缓存替换状态及地址跨度特征完成阶段识别,可增强任务执行期间的数据访问规律辨识能力,结合连续时间区间内缓存行编号匹配结果筛选可调度区间,可减弱异构核心并行访问期间产生的数据竞争影响,进一步依据阶段行为差异完成算力核心归集与执行顺序整理,可维持任务执行过程中的缓存占用连续性与访存路径稳定性,降低跨核心调度期间产生的数据迁移扰动与执行波动风险。

1.一种基于多级缓存感知的异构算力动态调度方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于多级缓存感知的异构算力动态调度方法,其特征在于:所述方法还包括:

3.根据权利要求1所述的基于多级缓存感知的异构算力动态调度方法,其特征在于:所述s1的获取步骤为:

4.根据权利要求1所述的基于多级缓存感知的异构算力动态调度方法,其特征在于:所述s2的获取步骤为:

5.根据权利要求1所述的基于多级缓存感知的异构算力动态调度方法,其特征在于:所述s3的获取步骤为:

6.根据权利要求1所述的基于多级缓存感知的异构算力动态调度方法,其特征在于:所述s4的获取步骤为:

7.根据权利要求2所述的基于多级缓存感知的异构算力动态调度方法,其特征在于:所述s5的获取步骤为:

8.一种基于多级缓存感知的异构算力动态调度系统,其特征在于,所述系统用于权利要求1-7任一项所述的基于多级缓存感知的异构算力动态调度方法,所述系统包括: