缓存数据的处理方法和计算设备与流程

摘要: 本申请涉及处理器领域,具体而言,涉及一种缓存数据的处理方法和计算设备。背景技术:1、在多核处理器系统中,为了提高数据访问速度和减少延迟,每个处理器单元通常配备有...
缓存数据的处理方法和计算设备与流程

本申请涉及处理器领域,具体而言,涉及一种缓存数据的处理方法和计算设备。

背景技术:

1、在多核处理器系统中,为了提高数据访问速度和减少延迟,每个处理器单元通常配备有独立的私有缓存,这些缓存层级包括l1(level 1,一级缓存)数据缓存和l2(level2,二级缓存)数据缓存,可以根据局部性原理存储最近使用或预期将要使用的数据,当私有缓存中的数据块不再被局部需求访问,或者为了给新数据腾出空间时,这些数据块会被替换至下一级缓存,例如多个处理器单元共享的最后一级缓存(last level cache,llc)。虽然将多余的数据替换至最后一级共享缓存可以降低l1和l2数据缓存存储数据的压力,但是在最后一级共享缓存接收到大量的数据之后,该共享缓存的可用空间可能会大幅减少,对应的处理器单元从共享缓存中预取数据的效率变得很慢,影响整个共享缓存的利用效率。

2、针对上述的问题,目前尚未提出有效的解决方案。

技术实现思路

1、本申请实施例提供了一种缓存数据的处理方法和计算设备,以至少解决相关技术中将处理器中私有缓存中的缓存数据替换至共享缓存后,会影响共享缓存的利用效率的技术问题。

2、根据本申请实施例的一个方面,提供了一种缓存数据的处理方法,应用于处理器,包括:获取目标处理单元对应的目标缓存数据,其中,目标缓存数据是从第一缓存替换至第二缓存中的缓存数据,目标处理单元是处理器包含的多个处理单元中的任意一个处理单元,第二缓存是多个处理单元共享的缓存;基于目标缓存数据的数据类型,确定数据类型对应的目标统计数据,其中,目标统计数据是对目标缓存数据的历史操作数据进行统计得到的;基于目标统计数据,预测得到目标缓存数据在第二缓存中的使用概率;基于使用概率对第二缓存的分配策略进行调整。

3、根据本申请实施例的另一方面,还提供了一种缓存数据的处理装置,应用于处理器,包括:数据获取模块,用于获取目标处理单元对应的目标缓存数据,其中,目标缓存数据是从第一缓存替换至第二缓存中的缓存数据,目标处理单元是处理器包含的多个处理单元中的任意一个处理单元,第二缓存是多个处理单元共享的缓存;数据确定模块,用于基于目标缓存数据的数据类型,确定数据类型对应的目标统计数据,其中,目标统计数据是对目标缓存数据的历史操作数据进行统计得到的;概率预测模块,用于基于目标统计数据,预测得到目标缓存数据在第二缓存中的使用概率;策略调整模块,用于基于使用概率对第二缓存的分配策略进行调整。

4、根据本申请实施例的另一方面,还提供了一种计算设备,包括:存储器,存储有可执行程序;处理器,用于运行程序,其中,程序运行时执行本申请各个实施例中的方法。

5、根据本申请实施例的另一方面,还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的可执行程序,其中,在可执行程序被处理器执行时实现本申请各个实施例中的方法。

6、根据本申请实施例的另一方面,还提供了一种计算机程序产品,包括计算机指令,计算机指令在被处理器执行时实现本申请各个实施例中的方法。

7、根据本申请实施例的另一方面,还提供了一种计算机程序产品,包括非易失性计算机可读存储介质,非易失性计算机可读存储介质存储计算机程序,计算机程序被处理器执行时实现本申请各个实施例中的方法。

8、根据本申请实施例的另一方面,还提供了一种计算机程序,计算机程序被处理器执行时实现本申请各个实施例中的方法。

9、在本申请实施例中,采用获取目标处理单元对应的目标缓存数据;基于目标缓存数据的数据类型,确定数据类型对应的目标统计数据;基于目标统计数据,预测得到目标缓存数据在第二缓存中的使用概率;基于使用概率对第二缓存的分配策略进行调整的方式,通过确定目标缓存数据的使用概率,处理系统可以判断目标处理单元是否会通过第二缓存使用目标缓存数据,目标缓存数据是否为无效数据,对应的,处理器可以在使用概率的基础上对第二缓存的分配策略进行调整,以确定是否可以将目标缓存数据作为有用数据缓存至第二缓存中,基于此,可以避免向第二缓存中分配大量一次使用后不再使用的缓存数据,以保证第二缓存访问速度和利用效率,降低第二缓存出现未命中的情况,进而解决了相关技术中将处理器中私有缓存中的缓存数据替换至共享缓存后,会影响共享缓存的利用效率的技术问题。

10、容易注意到的是,上面的通用描述和后面的详细描述仅仅是为了对本申请进行举例和解释,并不构成对本申请的限定。

1.一种缓存数据的处理方法,其特征在于,应用于处理器,包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述目标缓存数据的数据类型,确定所述数据类型对应的目标统计数据,包括:

3.根据权利要求2所述的方法,其特征在于,所述在所述目标缓存数据的数据类型是预取类型的情况下,确定所述目标统计数据包括替换次数和第一读取次数,包括:

4.根据权利要求2所述的方法,其特征在于,响应于所述目标缓存数据的数据类型是所述预取类型,所述方法还包括:

5.根据权利要求2所述的方法,其特征在于,在所述目标缓存数据的数据类型是已使用类型的情况下,所述方法还包括:

6.根据权利要求5所述的方法,其特征在于,所述方法还包括:

7.根据权利要求1所述的方法,其特征在于,所述基于所述目标统计数据,预测得到所述目标缓存数据在所述第二缓存中的使用概率,包括:

8.根据权利要求7所述的方法,其特征在于,所述获取第一读取次数和替换次数的比值,得到所述使用概率,包括:

9.根据权利要求1所述的方法,其特征在于,所述基于所述使用概率对所述第二缓存的分配策略进行调整,包括:

10.根据权利要求1所述的方法,其特征在于,在所述目标缓存数据的数据类型是已使用类型的情况下,所述方法还包括:

11.根据权利要求10所述的方法,其特征在于,所述基于所述第二回填次数、所述第一命中次数、所述第三回填次数和所述第二命中次数,确定是否开启使用概率预测功能,包括:

12.根据权利要求10或11所述的方法,其特征在于,在确定关闭所述使用概率预测功能的情况下,所述方法还包括:

13.根据权利要求12所述的方法,其特征在于,在对所述第三历史使用状态的目标缓存数据的优先级,和所述第四历史使用状态的目标缓存数据的优先级进行调整之后,所述方法还包括:

14.根据权利要求13所述的方法,其特征在于,在对所述第二阈值和所述第三阈值进行调整之后,所述方法还包括:

15.一种计算设备,其特征在于,包括: