用于设备管理的存储器分层的系统和方法与流程

摘要: 根据本公开的实施例的一个或多个方面涉及存储器设备,并且更具体地涉及设备管理的存储器分层。背景技术:1、诸如人工智能(ai)的应用可以对大量数据执行计算。随着这种...
用于设备管理的存储器分层的系统和方法与流程

根据本公开的实施例的一个或多个方面涉及存储器设备,并且更具体地涉及设备管理的存储器分层。

背景技术:

1、诸如人工智能(ai)的应用可以对大量数据执行计算。随着这种类型的计算增加,可能期望采用高效且成本有效的解决方案来执行计算。

2、本背景技术部分中公开的上述信息仅用于增强对本公开内容的背景的理解,因此,它可能包含不构成现有技术的信息。

技术实现思路

1、本公开的实施例涉及一种耦合到计算设备的存储器设备。存储器设备包括:与存储器层级的第一层相关联的第一存储器;与存储器层级的第二层相关联的第二存储器,其中第一层和第二层各自对应于不同的访问延迟;以及处理器,其耦合到第一存储器和第二存储器,其中处理器被配置为执行致使处理器进行以下的指令:确定与第一存储器地址相关联的访问低于最小阈值;基于确定访问低于最小阈值,将与第一存储器地址相关联的数据从第一存储器存储到第二存储器;以及基于将数据从第一存储器存储到第二存储器而向计算设备发送通知,其中计算设备被配置成响应于接收到通知而针对第一存储器地址采取动作。

2、在一些实施例中,指令还致使处理器监测来自计算设备的针对第一存储器地址的访问请求的频率。

3、在一些实施例中,最小阈值由计算设备配置。

4、在一些实施例中,致使处理器将与第一存储器地址相关联的数据从第一存储器存储到第二存储器的指令包括致使处理器检测第一存储器的充满度的阈值水平的指令。

5、在一些实施例中,致使处理器将与第一存储器地址相关联的数据从第一存储器存储到第二存储器的指令包括致使处理器检测来自计算设备的移动第一存储器地址的请求的指令。

6、在一些实施例中,通知标识从第一存储器存储到第二存储器的第一存储器地址。

7、在一些实施例中,动作包括修改与第一存储器地址相关联的计算设备中的页表的条目,以指示第一存储器的存储器地址处不存在数据。

8、在一些实施例中,动作包括发送预取请求以将数据移入第一存储器地址。

9、在一些实施例中,指令还致使处理器:监测与第二存储器地址相关联的第二访问;基于监测到第二访问,向计算设备发送用于将第二数据移入或移出第二存储器地址的请求;基于请求,从计算设备接收第三存储器地址的标识;以及基于第三存储器地址的标识,将第三数据移入或移出由计算设备标识的第三存储器地址。

10、在一些实施例中,指令还致使处理器:监测与存储在第二存储器中的第二存储器地址相关联的第二访问;确定第二访问高于最小阈值并且低于最大阈值;基于确定第二访问高于最小阈值并且低于最大阈值,将第二数据从第二存储器地址存储到第一存储器。

11、本公开的一个或多个实施例涉及一种方法,该方法包括:由处理器确定与第一存储器地址相关联的访问低于最小阈值;基于确定访问低于最小阈值,由处理器将与第一存储器地址相关联的数据从第一存储器存储到第二存储器,第一存储器与存储器层级的第一层相关联,并且第二存储器与存储器层级的第二层相关联,其中第一层和第二层各自对应于不同的访问延迟;由处理器基于将数据从第一存储器存储到第二存储器而向计算设备发送通知,其中计算设备被配置为响应于接收到通知而针对第一存储器地址采取动作。

12、当针对以下详细描述、所附权利要求和附图进行考虑时,将更全面地理解本公开的实施例的这些和其他特征、方面和优点。当然,本发明的实际范围由所附权利要求限定。

1.一种耦合到计算设备的存储器设备,所述存储器设备包括:

2.根据权利要求1所述的存储器设备,其中所述指令还致使所述处理器监测来自所述计算设备的针对所述第一存储器地址的访问请求的频率。

3.根据权利要求1所述的存储器设备,其中所述最小阈值由所述计算设备配置。

4.根据权利要求1所述的存储器设备,其中致使所述处理器将与所述第一存储器地址相关联的数据从所述第一存储器存储到所述第二存储器的所述指令包括致使所述处理器检测所述第一存储器的充满度的阈值水平的指令。

5.根据权利要求1所述的存储器设备,其中致使所述处理器将与所述第一存储器地址相关联的数据从所述第一存储器存储到所述第二存储器的所述指令包括致使所述处理器检测来自所述计算设备的用于移动所述第一存储器地址的请求的指令。

6.根据权利要求1所述的存储器设备,其中所述通知标识从所述第一存储器存储到所述第二存储器的所述第一存储器地址。

7.根据权利要求1所述的存储器设备,其中所述动作包括修改与所述第一存储器地址相关联的所述计算设备中的页表的条目以用于指示在所述第一存储器的所述第一存储器地址处不存在所述数据。

8.根据权利要求1所述的存储器设备,其中所述动作包括发送预取请求以将所述数据移入所述第一存储器地址。

9.根据权利要求1所述的存储器设备,其中所述指令还致使所述处理器:

10.根据权利要求1所述的存储器设备,其中所述指令还致使所述处理器:

11.一种用于存储器分层的方法,包括:

12.根据权利要求11所述的方法,还包括:监测来自所述计算设备的针对所述第一存储器地址的访问请求的频率。

13.根据权利要求11所述的方法,其中所述最小阈值由所述计算设备配置。

14.根据权利要求11所述的方法,其中将与所述第一存储器地址相关联的所述数据从所述第一存储器存储到所述第二存储器包括检测所述第一存储器的充满度的阈值水平。

15.根据权利要求11所述的方法,其中将与所述第一存储器地址相关联的所述数据从所述第一存储器存储到所述第二存储器包括:检测来自所述计算设备的用于移动所述第一存储器地址的请求。

16.根据权利要求11所述的方法,其中所述通知标识从所述第一存储器存储到所述第二存储器的所述第一存储器地址。

17.根据权利要求11所述的方法,其中所述动作包括修改与所述第一存储器地址相关联的所述计算设备中的页表的条目,以用于指示在所述第一存储器的所述第一存储器地址处不存在所述数据。

18.根据权利要求11所述的方法,其中所述动作包括发送预取请求以将所述数据移入所述第一存储器地址。

19.根据权利要求11所述的方法,还包括:

20.根据权利要求11所述的方法,还包括: