内存管理系统、芯片系统、资源调度调整方法及相关设备与流程

摘要: 本申请实施例涉及计算机,具体涉及一种内存管理系统、芯片系统、资源调度调整方法及相关设备。背景技术:1、内存管理系统是计算机/芯片系统中,负责内存空间分配与回收、...
内存管理系统、芯片系统、资源调度调整方法及相关设备与流程

本申请实施例涉及计算机,具体涉及一种内存管理系统、芯片系统、资源调度调整方法及相关设备。

背景技术:

1、内存管理系统是计算机/芯片系统中,负责内存空间分配与回收、地址映射、访问控制、带宽与队列管理的核心硬件模块;它统一管理物理内存、虚拟内存及各级缓存资源,为处理器、gpu(graphics processing unit,图形处理器)、dpu(data processing unit,数据处理器)等多个异构计算单元,提供安全隔离、调度有序且高效的资源访问与调度服务。但是,内存管理系统在面对多异构计算单元并发访问请求时,存在动态负载适应能力差、资源调度的配置不合理的问题。

2、因此,如何提高资源调度的配置合理性,成为了本领域技术人员亟需解决的技术问题。

技术实现思路

1、有鉴于此,本发明实施例提供一种内存管理系统、芯片系统、资源调度调整方法及相关设备,提高资源调度的配置的合理性。

2、为实现上述目的,本发明实施例提供如下技术方案。

3、第一方面,本发明实施例提供一种内存管理系统,用于管理多个异构计算单元的资源调度;所述内存管理系统,包括:

4、仲裁器,用于接收各个所述异构计算单元的实时服务质量权重;所述实时服务质量权重基于对应的异构计算单元的实时负载状态指标生成;根据所述实时服务质量权重对对应的异构计算单元的资源进行调度,以按照调度后的资源,对各个异构计算单元发出的访问请求进行仲裁;

5、所述实时负载状态指标反映异构计算单元的繁忙程度;所述实时服务质量权重反映对应的异构计算单元对资源的需求。

6、第二方面,本发明实施例提供一种芯片系统,包括:

7、多个异构计算单元;

8、如第一方面所述的内存管理系统,所述内存管理系统用于管理所述多个异构计算单元的资源调度。

9、第三方面,本发明实施例提供一种资源调度调整方法,包括:

10、接收各个异构计算单元的实时服务质量权重;所述实时服务质量权重基于对应的异构计算单元的实时负载状态指标生成;

11、根据所述实时服务质量权重对对应的异构计算单元的资源进行调度,以按照调度后的资源,对各个异构计算单元发出的访问请求进行仲裁;

12、所述实时负载状态指标反映异构计算单元的繁忙程度;所述实时服务质量权重反映对应的异构计算单元对资源的需求。

13、第四方面,本发明实施例提供一种电子设备,包括内存和处理器,所述内存存储有程序,所述处理器调用所述内存中存储的程序,执行如第三方面所述的资源调度调整方法。

14、第五方面,本发明实施例提供一种存储介质,所述存储介质存储有程序,所述程序被执行时实现如第三方面所述的资源调度调整方法。

15、本发明实施例提供的一种内存管理系统,用于管理多个异构计算单元的资源调度;所述内存管理系统,包括:仲裁器,用于接收各个所述异构计算单元的实时服务质量权重;所述实时服务质量权重基于对应的异构计算单元的实时负载状态指标生成;根据所述实时服务质量权重对对应的异构计算单元的资源进行调度,以按照调度后的资源,对各个异构计算单元发出的访问请求进行仲裁;所述实时负载状态指标反映异构计算单元的繁忙程度;所述实时服务质量权重反映对应的异构计算单元对资源的需求。

16、可见,本发明实施例提供的用于管理多个异构计算单元的资源调度的内存管理系统中,对其包括的仲裁器的工作特性进行改进,使得仲裁器不再采用静态的资源调度工作方式,按照固定的已分配的资源,仲裁各个异构计算单元的访问请求,而是可以结合各个异构计算单元的实时服务质量权重,对对应的异构计算单元的资源进行动态调度,实现调度后的资源与各个异构计算单元的实时负载状态指标指示的实时负载的精确匹配;可提供使高负载的异构计算单元能及时获得所需调度后的资源(例如带宽),减少高优先级任务处理延迟的实现基础,进而可提升gpu、dpu等异构计算单元在突发负载下的工作性能,达到提高资源调度的配置的合理性的效果。

1.一种内存管理系统,其特征在于,用于管理多个异构计算单元的资源调度;所述内存管理系统,包括:

2.如权利要求1所述的内存管理系统,其特征在于,还包括:

3.如权利要求2所述的内存管理系统,其特征在于,还包括:

4.如权利要求3所述的内存管理系统,其特征在于,所述虚拟通道组还包括:

5.如权利要求3所述的内存管理系统,其特征在于,还包括:

6.如权利要求5所述的内存管理系统,其特征在于,所述转译后备缓冲区绑定的对象为所述虚拟通道组;所述虚拟通道组的访存属性为所述虚拟通道组的调度优先级;一组所述转译后备缓冲区与一组所述虚拟通道组对应绑定,用于接收并向对应绑定的虚拟通道组发送对应调度优先级的访问请求;

7.如权利要求1-6任一项所述的内存管理系统,其特征在于,所述仲裁器,用于根据所述实时服务质量权重对对应的异构计算单元的资源进行调度,包括:通过对资源调度配置项进行调整,实现对对应的异构计算单元的资源进行调度;所述资源调度配置项由多个独立的调度约束构成,用于作为所述仲裁器执行资源调度的依据,所述调度约束至少包括仲裁优先级和带宽分配比例。

8.一种芯片系统,其特征在于,包括:

9.如权利要求8所述的芯片系统,其特征在于,还包括:

10.一种资源调度调整方法,其特征在于,包括:

11.如权利要求10所述的资源调度调整方法,其特征在于,还包括:

12.如权利要求11所述的资源调度调整方法,其特征在于,还包括:

13.一种电子设备,其特征在于,包括内存和处理器,所述内存存储有程序,所述处理器调用所述内存中存储的程序,执行如权利要求10-12任一项所述的资源配置调整方法。

14.一种存储介质,其特征在于,所述存储介质存储有程序,所述程序被执行时实现如权利要求10-12任一项所述的资源配置调整方法。