一种面向弱协同单共享DDR响应汇聚点的响应放行控制方法及装置与流程
本发明涉及片上网络(network-on-chip,noc)端点控制、异构存储访问服务保障与共享存储回程响应管理,特别是涉及一种面向弱协同单共享ddr响应汇聚点的响应放行控制方法及装置。
背景技术:
1、随着异构计算芯片、可重构计算平台以及片上加速器系统的发展,多个主设备通过片上网络共享访问单一存储端点的场景愈发常见。在一些自研异构片上系统中,多个异构主设备通过片上网络访问单共享ddr响应汇聚点,下文简称“所述响应汇聚点”,响应在ddr侧网络接口处形成回程汇聚竞争。在一优选实施方式中,该共享存储目标可具体表现为单noc目标端(noc target)、单响应端网络接口(responder ni/nsu)接入后端ddr或axislave(axi从设备)。请求在前向路径上向ddr端汇聚,响应在完成存储服务后再由ddr节点重新扇出回多个请求方,从而在响应回程侧形成显著的异构流量混合与资源竞争。
2、进一步地,在此类系统中,不同主设备的响应业务属性并不一致。处理器核、risc-v及部分控制/计算类访问更接近短小、低时延敏感的关键响应;pcie、eth及部分大块搬运业务更接近长包、高吞吐导向的块状响应;其余可编程逻辑模块则形成背景竞争流量。当这些异构响应在所述响应汇聚点附近集中返回时,若连续的普通响应持续占用回程出口资源,关键响应即便已经从后端返回,也仍可能在端点本地或回程vc候选域前长期等待,导致尾时延显著恶化。
3、现有技术中,针对该类问题通常存在三类处理思路。第一类是在路由器或虚拟信道级继续增强仲裁优先级、信用调度或一般qos机制;第二类是在源侧或网络入口侧执行流量整形、统一限流或对象准入;第三类是像成熟平台中那样,由后端ddr控制器识别请求优先级并优先完成关键请求服务,使高优先级响应天然更早返回。上述技术路线各有适用边界,但直接用于此类自研noc与单共享ddr响应汇聚场景时,仍存在若干不足。
技术实现思路
1、本发明主要解决的技术问题是提供一种在弱协同条件下,针对ddr响应汇聚点,响应已从后端返回并完成基本保序检查后,如何在其进入回程虚拟网络通道(即vc)候选域之前,根据本地拥塞值和响应属性决定是否暂缓释放,以降低普通响应对关键响应的回程压制。
2、为解决上述技术问题,第一方面,本发明采用的一个技术方案是:提供一种面向弱协同单共享ddr响应汇聚点的响应放行控制方法,包括如下步骤:
3、s1:响应汇聚点返回响应,响应接收与重组单元对接收的所述响应进行格式转换后,由事务身份恢复与保序检查单元将满足基本协议准入条件的所述响应作为第一响应输出;
4、s2:判定单元接收所述第一响应,所述判定单元根据当前的拥塞值和预设的拥塞门限值判定进入正常放行模式或暂缓放行模式;
5、在所述正常放行模式下,将所述第一响应直接释放至vc入队接口处;
6、在所述暂缓放行模式下,将所述第一响应放入响应等待单元中;
7、s3:重放顺序与重新评估单元根据是否满足第一预设条件选择所述响应等待单元中的所述第一响应并重新提交至所述判定单元,并执行所述步骤s2;所述第一预设条件为所述响应等待单元中的某个所述第一响应的等待时长最久。判定单元根据拥塞值调整放行模式避免控制对象过宽导致的全局吞吐明显受损
8、进一步的是,在步骤s2中,所述拥塞门限值包括第一门限值和第二门限值;
9、当所述拥塞值不大于所述第一门限值,进入正常放行模式;
10、当所述拥塞值不小于第二门限值,进入暂缓放行模式;
11、当所述拥塞值处于第一门限值和第二门限值之间时,保持当前的放行模式。
12、进一步的是,所述第一响应包括关键响应和普通响应;
13、在所述暂缓放行模式下:
14、若所述第一响应为所述关键响应,则将所述关键响应直接释放至所述vc入队接口处;
15、若所述第一响应为普通响应,将满足第二预设条件的所述普通响应直接释放至vc入队接口,否则应暂缓释放,将所述普通响应放入响应等待单元;
16、所述第二预设条件为拥塞值不小于第二门限值且不存在关键响应未释放。
17、对于关键响应和普通响应进行优先级划分,避免后续回程堵塞造成关键响应的丢包。
18、进一步的是,所述响应等待单元还包括条件性保底释放,所述条件性保底释放为:在所述响应等待单元中缓存的所述第一响应的数量达到预设的阈值时,选择缓存的所述第一响应中等待年龄达到预设阈值的所述第一响应释放至所述vc入队接口处。
19、进一步的是,所述响应等待单元还包括受限直通释放;
20、当所述响应等待单元中缓存的所述第一响应的数量达到峰值,并且无法进行所述条件性保底释放,且也无法向响应汇聚点返回响应处施压时,触发所述受限直通释放,所述受限直通释放为新进入的所述第一响应绕过所述响应等待单元直接释放至所述vc入队接口处。
21、进一步的是,所述立即释放、所述条件性保底释放和所述受限直通释放都必须满足基本释放安全条件,所述基本释放安全条件为vc入队接口中具备可用空间。预设基本释放安全条件防止在回程没有空间的情况下造成丢包。
22、进一步的是,所述第一预设条件还包括所述响应等待单元中缓存的某个所述第一响应达到保底释放年龄阈值、拥塞值达到预设值、或响应等待单元中所述第一响应的数量达到预设阈值中的一种。
23、进一步的是,所述返回响应由响应描述符和响应数据两部分组成,所述返回响应包括一般响应,所述一般响应采用所述响应描述符和所述响应数据分离的方式;
24、进一步的是,响应描述符进入后续判定单元,所述响应等待单元用于缓存需要暂缓释放的所述响应描述符;响应等待单元采用描述符与数据缓存分离的实现方式降低响应等待单元缓存所带来的buffer成本(即缓冲存储开销)
25、当响应需要被在释放所述第一响应时,根据所述响应描述符取出对应的所述响应数据并一同送入所述vc入队接口。
26、进一步的是,所述返回响应还包括短响应或小规模突发响应;所述短响应或小规模突发响应采用响应描述符和响应数据完整保存的方式;
27、所述响应描述符和所述响应数据完整保存的方式为响应描述符与响应数据能共同存入所述响应等待单元,当响应需要被释放时所述响应描述符与所述响应数据一同送入所述vc入队接口。
28、第二方面,本技术还提供一种面向弱协同单共享ddr响应汇聚点的响应放行控制装置,用于实现第一方面中任一项的方法,该装置包括判定单元、响应等待单元和重放顺序与重新评估单元;
29、判定单元接收所述第一响应,所述判定单元根据当前的拥塞值和预设的拥塞门限值判定进入正常放行模式或暂缓放行模式;
30、在所述正常放行模式下,将所述第一响应直接释放至vc入队接口处;
31、在所述暂缓放行模式下,将所述第一响应放入响应等待单元中;
32、所述响应等待单元用于接收不能直接释放至vc入队接口处的所述第一响应;
33、重放顺序与重新评估单元根据是否满足第一预设条件选择所述响应等待单元中的所述第一响应并重新提交至所述判定单元,所述第一预设条件为所述响应等待单元中的某个所述第一响应的等待时长最久。
34、本发明的有益效果是:(1)本发明不改变ddr控制器内部调度器,也不要求后端具备高优请求先返回能力(即不改动ddr控制器和路由器核心),而是在responder ni/nsu(响应端网络接口)侧以本地可见状态完成回程释放控制,能够在不改变主路由和路由器核心的前提下,提供区别于普通仲裁增强和强后端协同路线的局部补偿型服务保障机制,边界清晰、系统耦合度低;
35、(2)本发明在保序检查与响应重组处理之后、回程vc入队接口之前增加判定单元,区别于传统vc仲裁的常规方案,使“已恢复”与“应立刻进入回程网络”两个问题在结构上显式解耦;
36、(3)本发明通过设置响应等待单元,仅暂存“已恢复但暂不应释放”的响应对象,并结合重放顺序控制与重新评估机制,使响应等待单元不再是单纯缓存池,而成为服务于局部回程放行控制的状态化承载结构,并且响应等待单元采用描述符与数据缓存分离的实现方式,从而降低普通响应直接入域缓存所带来的buffer成本(即缓冲存储开销);
37、(4)本发明能够在连续普通响应返回时降低其对关键响应的压制风险,在不显著损害关键响应尾时延稳定性的前提下改善普通响应回程连续性,同时避免控制对象过宽导致的全局吞吐明显受损;
38、(5)本发明在重放阶段预设了年龄优先策略与条件性保底释放的轻量组合,避免引入复杂评分器、复杂来源额度机制和过重的多维预测器,便于在端点控制器中实现。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com