访问请求处理方法、芯片、计算设备及存储介质与流程
本申请涉及计算机,尤其涉及一种访问请求处理方法、芯片、计算设备及存储介质。
背景技术:
1、多裸片加速器是一种将多个裸片(die)集成在同一封装体内、通过内部互连实现协同工作的异构计算设备。由于多裸片加速器集成更多计算资源来提供更高的算力密度和更强的扩展能力,在云计算、人工智能训练与推理、高性能计算等场景中得到广泛应用。多裸片加速器内部集成多个计算裸片(compute die),每个计算裸片内部包含一个或多个调度节点(scheduler node)。调度节点负责接收中央处理器(central processing unit,cpu)下发的计算任务,并将其调度、分发给裸片内的计算单元执行。
2、多裸片加速器通过通信总线与主机互联,当主机上的cpu需要访问某个计算裸片内部的调度节点局部地址空间时,需要建立从cpu侧地址到设备侧目标地址的映射关系。传统处理方式在每次访问时动态建立映射关系,或者,为每个计算裸片中的每个调度节点预先与cpu建立映射关系,并保持长期处于有效。
3、建立映射关系涉及两端映射资源的分配和绑定等。然而,随着多裸片加速器中计算裸片数量的增加,以及cpu对调度节点访问频率的增加,动态建立映射关系存在高频访问时延抖动与资源冲突的问题,长期保留映射关系的方式则会占用大量的映射资源,导致资源严重浪费。
技术实现思路
1、本申请实施例提供一种访问请求处理方法、芯片、计算设备及存储介质,能够避免每次访问时均动态建立映射关系,且提高映射资源利用率。
2、本申请实施例提供一种访问请求处理方法,包括:接收访问请求,访问请求用于访问目标调度节点的局部地址空间,目标调度节点位于目标芯片中的目标计算裸片,目标芯片设置有至少一个槽位;若至少一个槽位中存在被分配给目标调度节点的目标槽位,读取目标槽位中存储的映射资源描述信息,通过映射资源描述信息对应的映射资源,将访问请求路由至目标调度节点;其中,至少一个槽位在目标调度节点的目标动态属性满足设定条件期间,被配置为存储对应目标调度节点的映射资源描述信息。
3、本申请实施例提供一种目标芯片,包括:一个或多个计算裸片,各计算裸片包括一个或多个调度节点,调度节点用于处理访问请求;至少一个槽位,用于在调度节点中的目标调度节点的目标动态属性满足设定条件期间,存储对应目标调度节点的映射资源描述信息;
4、本地处理单元,被配置为:接收用于访问目标调度节点的局部地址空间的访问请求;以及,响应于至少一个槽位中存在被分配给目标调度节点的目标槽位,读取目标槽位中存储的映射资源描述信息,并通过映射资源描述信息对应的映射资源,将访问请求路由至目标调度节点。
5、本申请实施例还提供一种计算设备,包括:存储器、处理器;其中,存储器上存储有计算机程序,当计算机程序被所述处理器执行时,使处理器执行上述访问请求处理方法。
6、本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,当计算机程序被计算设备的处理器执行时,使处理器执行上述访问请求处理方法。
7、本申请实施例还提供一种计算机程序产品,包括:计算机程序/指令,当所述计算机程序/指令被处理器执行时,使处理器能够实现上述访问请求处理方法。
8、在本申请实施例中,目标芯片中包括多个调度节点和至少一个槽位,槽位可基于调度节点的目标动态属性进行动态分配与回收。当目标调度节点的目标动态属性满足设定条件时,槽位可以被分配给目标调度节点,槽位被配置为在目标调度节点的目标动态属性满足设定条件期间,存储目标调度节点的映射资源描述信息,从而映射资源描述信息对应的映射资源得以在这期间持续保持有效。当主机cpu访问目标调度节点的局部地址空间时,该访问请求可以通过映射资源描述信息对应的映射资源被路由至目标调度节点,这样避免每次访问时动态建立映射关系所带来的高频访问时延抖动和资源冲突问题。
9、相应的,在目标调度节点的目标动态属性未满足设定条件期间,槽位不存储目标调度节点的映射资源描述信息,从而及时回收槽位并释放对应映射资源,释放出的槽位及映射资源可以被分配给其他满足条件的调度节点使用。这样,槽位分配可随目标调度节点属性的动态变化而自动调整,实现不同调度节点对槽位的动态共享,避免为每个调度节点长期保留映射资源,可以提升映射资源的利用率和系统的整体可扩展性。
1.一种访问请求处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
5.根据权利要求3所述的方法,其特征在于,所述为所述目标调度节点分配目标槽位,将所述目标调度节点的映射资源描述信息写入所述目标槽位中并进行保存,包括:
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
7.根据权利要求1至6中任一项所述的方法,其特征在于,所述访问请求携带访问对象标识,所述方法还包括:
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
9.根据权利要求1至6中任一项所述的方法,其特征在于,所述方法还包括:
10.根据权利要求1至6中任一项所述的方法,其特征在于,所述映射资源包括主机侧映射资源和设备侧映射资源。
11.根据权利要求10所述的方法,其特征在于,所述访问请求为读请求,所述通过所述映射资源描述信息对应的映射资源,将所述访问请求路由至所述目标调度节点,包括:
12.根据权利要求10所述的方法,其特征在于,所述访问请求为写请求,所述通过所述映射资源描述信息对应的映射资源,将所述访问请求路由至所述目标调度节点,包括:
13.一种芯片,其特征在于,包括:
14.根据权利要求13所述的芯片,其特征在于,所述至少一个槽位的总物理容量小于所述芯片中调度节点的总物理容量。
15.根据权利要求13所述的芯片,其特征在于,所述芯片支持多个物理功能配置;
16.根据权利要求13-15中任一项所述的芯片,其特征在于,所述处理单元,还被配置为:
17.根据权利要求13-15中任一项所述的芯片,其特征在于,所述处理单元,还被配置为:
18.根据权利要求13-15中任一项所述的芯片,其特征在于,所述处理单元,还被配置为:
19.根据权利要求17所述的芯片,其特征在于,在为所述目标调度节点分配目标槽位,将所述目标调度节点的映射资源描述信息写入所述目标槽位中并进行保存时,所述处理单元,具体被配置为:
20.根据权利要求19所述的芯片,其特征在于,所述处理单元,还被配置为:
21.根据权利要求13-15中任一项所述的芯片,其特征在于,所述映射资源包括主机侧映射资源和设备侧映射资源。
22.根据权利要求21所述的芯片,其特征在于,所述访问请求为读请求,在通过所述映射资源描述信息对应的映射资源,将所述访问请求路由至所述目标调度节点时,所述处理单元,具体被配置为:
23.根据权利要求21所述的芯片,其特征在于,所述访问请求为写请求,在通过所述映射资源描述信息对应的映射资源,将所述访问请求路由至所述目标调度节点时,所述处理单元,具体被配置为:
24.一种计算设备,其特征在于,包括:存储器和处理器;所述存储器,用于存储计算机程序;所述处理器,与所述存储器耦合,用于执行所述存储器中的计算机程序,以用于实现权利要求1-12中任一项所述方法中的步骤。
25.一种存储有计算机程序的计算机可读存储介质,其特征在于,当所述计算机程序被处理器执行时,使所述处理器能够实现权利要求1-12中任一项所述方法中的步骤。
26.一种计算机程序产品,其特征在于,包括计算机程序/指令,当所述计算机程序/指令被处理器执行时,使所述处理器能够实现权利要求1-12中任一项所述方法中的步骤。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com