一种多队列动态共享缓存电路、方法及相关装置
本发明属于远程直接内存访问,涉及一种多队列动态共享缓存电路、方法及相关装置。
背景技术:
1、在现代数据中心的算力网络中,数据处理器(data processing unit,dpu)主要用于卸载中央处理器的网络、存储及安全等基础设施级任务。dpu内部通常集成了远程直接内存访问(remote direct memory access,rdma)、非易失性内存主机控制器接口规范(non-volatile memory express,nvme)等多个高速ip模块,这些模块在处理海量并发数据时,需要维护大量的队列,并依赖有限的片上存储资源进行数据包的临时缓存与分发调度。
2、目前处理器在处理多队列数据缓存时,普遍采用静态资源预留机制。即在硬件设计或系统初始化阶段,为每个队列划分出一块固定大小的独立物理存储空间。数据报文到达时,根据所属队列写入对应的固定物理空间,处理完毕后再从该空间读出。此外,也有部分方案采用基础的共享缓存池,通过单口或常规双口ram(random-access memory,随机存取存储器)来记录数据的逻辑与物理地址映射关系。
3、然而,随着dpu接口线速率的提升以及支持的并发队列数量急剧增加,上述现有技术在实际应用中暴露出以下技术缺陷:
4、1.存储资源碎片化且开销巨大,导致资源利用率降低;
5、实际网络流量存在明显的突发性和负载不均衡特征。在静态空间分配机制下,使用频率低的队列的专属存储空间处于长期闲置状态,无法跨队列调配,而使用频率高的队列在面对突发流量时,其固定空间会迅速耗尽,进而引发网络反压甚至丢包。若为了防范拥塞而按各队列的极限大小预留物理空间,会导致片上存储的面积开销与静态功耗超出芯片物理极限。
6、2.高并发场景下的端口冲突;
7、在引入动态共享缓存池的现有方案中,由于系统需要频繁更新地址映射状态,当多个ip模块在同一个时钟周期内同时发起写申请、读释放以及用户主动清除操作时,会对地址映射表产生高频率的并发访问。传统的单映射表或基础双口ram架构无法同时响应多种并发状态更新请求,容易引发sram(static randomaccess memory,静态随机存取存储器)端口读写冲突。复杂的仲裁等待不仅会降低吞吐率,还容易导致地址有效位更新遗漏,造成物理地址无法回收或脏数据错误覆盖。
技术实现思路
1、本发明的目的在于克服上述现有技术的缺点,提供了一种多队列动态共享缓存电路、方法及相关装置,该电路、方法及相关装置能够提高资源利用率,解决高频并发操作下的存储端口冲突问题。
2、为达到上述目的,本发明公开了一种多队列动态共享缓存电路,包括写侧用户、读侧用户、数据存储模块、地址状态管理模块、第一地址映射表模块、物理地址管理模块及地址缓存模块;
3、第一地址映射表模块维护写侧逻辑地址到物理地址的映射关系,生成并输出写访问物理地址至数据存储模块;
4、物理地址管理模块管理可用物理地址,生成并输出新写物理地址至数据存储模块;
5、地址状态管理模块基于预设优先级调度机制,生成并输出地址状态信号至数据存储模块;
6、地址缓存模块基于访问延时机制,生成并输出读物理地址至数据存储模块;
7、写侧用户输出写控制信号至数据存储模块;
8、数据存储模块根据所述写控制信号、地址状态信号、写访问物理地址、读物理地址以及新写物理地址,提取读数据,并输出至读侧用户。
9、进一步的,所述第一地址映射表模块维护写侧逻辑地址到物理地址的映射关系,生成并输出写访问物理地址至数据存储模块的过程为:
10、物理地址管理模块输出新写物理地址至第一地址映射表模块,写侧用户输出写控制信号至第一地址映射表模块,地址状态管理模块输出地址状态信号至第一地址映射表模块;
11、当写控制信号中的写使能有效且地址状态信号为0时,第一地址映射表模块接收物理地址管理模块输出的新写物理地址,并将写控制信号中的逻辑地址与新写物理地址的对应关系写入第一地址映射表模块中的第一地址映射表内;
12、当写控制信号中的写使能有效且地址状态信号为1时,第一地址映射表模块根据写控制信号中的逻辑地址从第一地址映射表提取写访问物理地址并发送至数据存储模块。
13、进一步的,还包括第二地址映射表模块,所述物理地址管理模块管理可用物理地址,生成并输出新写物理地址至数据存储模块的过程为:
14、地址状态管理模块输出地址状态信号至物理地址管理模块,第二地址映射表模块输出释放地址至物理地址管理模块,地址缓存模块输出读释放地址至物理地址管理模块;
15、当地址状态信号为0时,从物理地址管理模块中的空闲地址队列中读取所述新写物理地址,并输出至第一地址映射表模块、第二地址映射表模块及数据存储模块;
16、当物理地址管理模块接收到第二地址映射表模块输出的释放地址或地址缓存模块输出的读释放地址时,物理地址管理模块将接收到的地址写入物理地址管理模块中的空闲地址队列。
17、进一步的,还包括读控制模块,所述地址缓存模块基于访问延时机制,生成并输出读物理地址至数据存储模块的过程为:
18、第二地址映射表模块输出物理地址至地址缓存模块,读控制模块输出当前读逻辑地址及读释放使能至地址缓存模块,地址缓存模块根据物理地址、当前读逻辑地址和读释放使能,基于访问延时机制,生成并输出读物理地址至数据存储模块。
19、进一步的,所述地址缓存模块包括逻辑地址寄存器、地址存储单元、更新使能判断单元、物理地址选择器以及物理地址寄存器;
20、第二地址映射表模块输出物理地址至地址存储单元及物理地址选择器,读控制模块输出当前读逻辑地址至逻辑地址寄存器、地址存储单元及更新使能判断单元,读控制模块输出读释放使能至物理地址寄存器,逻辑地址寄存器输出上一次接收到的读逻辑地址至更新使能判断单元;
21、当上一次接收到的读逻辑地址与当前读逻辑地址满足预设条件时,则更新使能判断单元生成并输出物理地址寄存器更新使能信号至物理地址寄存器,当所述当前读逻辑地址的低两位为00时,且第二地址映射表模块输出的物理地址有效时,则将第二地址映射表模块输出的物理地址以当前读逻辑地址的高8位为地址写入地址存储单元中,物理地址选择器将第二地址映射表模块输出的物理地址赋值给选择器地址,并将选择器地址转发至物理地址寄存器;
22、当所述上一次接收到的读逻辑地址的高八位与当前读逻辑地址的高八位不一致,且当前读逻辑地址的低两位不为00时,则更新使能判断单元输出物理地址选择器选择信号至物理地址选择器,更新使能判断单元输出缓存读控制信号至地址存储单元,地址存储单元检测到缓存读控制信号有效时,则以当前读逻辑地址的高八位为地址读取缓存物理地址,将缓存物理地址发送至物理地址选择器,物理地址选择器将缓存物理地址赋值给选择器地址,并将选择器地址传输至物理地址寄存器;
23、物理地址寄存器在物理地址寄存器更新使能信号有效时,将接收到的选择器地址存入物理地址寄存器的内部寄存器中,在当前读逻辑地址的低两位有效时,将物理地址寄存器的内部寄存器中的值与当前读逻辑地址的低两位拼接作为读物理地址,并将读物理地址输出至数据存储模块,当物理地址寄存器接收到的读释放使能有效且当前读逻辑地址的低两位为11时,则将物理地址寄存器的内部寄存器中的值作为读释放地址输出至物理地址管理模块;
24、更新使能判断单元根据当前读逻辑地址及上一次接收到的读逻辑地址产生当前读逻辑地址的低两位、缓存读控制信号、物理地址选择器选择信号以及物理地址寄存器更新使能信号,将当前读逻辑地址的低两位输出至物理地址寄存器,将缓存读控制信号输出至地址存储单元,将物理地址选择器选择信号输出至物理地址选择器,将物理地址寄存器更新使能信号输出至物理地址寄存器。
25、进一步的,所述数据存储模块根据所述写控制信号、地址状态信号、写访问物理地址、读物理地址以及新写物理地址,提取读数据,并输出至读侧用户的过程为:
26、数据存储模块判断写控制信号中的写使能是否有效,当写控制信号中的写使能有效,且地址状态信号为0时,则将新写物理地址与写控制信号中的逻辑地址低两位拼接作为写入地址,根据所述写入地址,将写控制信号中的写数据写入数据存储模块中对应物理存储空间;当写控制信号中的写使能有效,且地址状态信号为1时,则将写访问物理地址与写控制信号中的逻辑地址低两位拼接作为写入地址,根据所述写入地址,将写控制信号中的写数据写入数据存储模块中的对应物理存储空间;
27、数据存储模块判断读物理地址是否有效,当读物理地址有效,则数据存储模块将读物理地址作为读取地址读取数据,并输出读取的数据至读侧用户。
28、进一步的,第二地址映射表模块的工作过程为:
29、写侧用户输出写控制信号至第二地址映射表模块,地址状态管理模块输出地址状态信号至第二地址映射表模块,读控制模块输出读地址和释放使能信号至第二地址映射表模块,物理地址管理模块输出新写物理地址至第二地址映射表模块;
30、当写控制信号中的写使能有效且地址状态信号为0时,第二地址映射表模块接收物理地址管理模块输出的新写物理地址,并将写控制信号中的逻辑地址与新写物理地址的对应关系写入第二地址映射表模块中的第二地址映射表内;当读地址有效且释放使能信号无效时,第二地址映射表模块根据读地址查询第二地址映射表,得到物理地址,并输出至地址缓存模块;
31、当释放使能信号有效时,第二地址映射表模块根据读地址查询对应物理地址,将得到的物理地址作为释放地址,并输出至物理地址管理模块。
32、本发明公开了一种多队列动态共享缓存方法,包括:
33、通过第一地址映射表模块维护写侧逻辑地址到物理地址的映射关系,生成并输出写访问物理地址至数据存储模块;
34、通过物理地址管理模块管理可用物理地址,生成并输出新写物理地址至数据存储模块;
35、通过地址状态管理模块基于预设优先级调度机制,生成并输出地址状态信号至数据存储模块;
36、通过地址缓存模块基于访问延时机制,生成并输出读物理地址至数据存储模块;
37、通过写侧用户输出写控制信号至数据存储模块;
38、通过数据存储模块根据所述写控制信号、地址状态信号、写访问物理地址、读物理地址以及新写物理地址,提取读数据,并输出至读侧用户。
39、本发明公开了一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现所述多队列动态共享缓存方法的步骤。
40、本发明公开了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现所述多队列动态共享缓存方法的步骤。
41、本发明具有以下有益效果:
42、本发明所述多队列动态共享缓存电路、方法及相关装置在具体操作时,通过第一地址映射表模块维护写侧逻辑地址到物理地址的映射关系,生成并输出写访问物理地址至数据存储模块,使物理存储空间在多用户间按需分配与复用,保证物理地址的回收复用,极大缓解片上资源受限的情况,提高资源利用率;另外,地址状态管理模块基于预设优先级调度机制,生成并输出地址状态信号至数据存储模块,解决高频并发操作下的存储端口冲突问题。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com