一种SOC中基于流量画像的自适应仲裁方法及装置与流程

本发明涉及集成电路，特别涉及一种soc中基于流量画像的自适应仲裁方法及装置。

背景技术：

1、随着集成电路制造工艺的持续进步和异构计算架构的快速发展，现代片上系统（system-on-chip, soc）在同一芯片上集成的功能模块数量不断增加。典型soc中包括中央处理器（cpu）、图形处理器（gpu）、神经网络处理器（npu）、数字信号处理器（dsp）、直接存储器访问控制器（dma）以及各类i/o控制器等多种主设备，这些主设备通过片上网络（network-on-chip, noc）、共享总线或交叉开关等片上互连结构访问共享存储、缓存、外设或总线资源。当多个主设备同时向共享资源发出访问请求时，仲裁器需要在多个请求之间做出调度决策，确保在同一时刻仅有唯一的主设备获得共享资源的使用权。

2、现有仲裁器通常采用固定优先级、轮询（round-robin,rr）、时分复用（timedivision multiplexing,tdm）或加权轮询（weighted round-robin,wrr）等仲裁机制。

3、下面对上述四种仲裁机制的实现和存在的问题分别进行说明。

4、固定优先级仲裁机制，是为每一通道分配固定优先级，高优先级通道时钟获得共享资源。但该仲裁机制中，低优先级通道可能长期无法获得服务，优先级无法根据实时负载动态调整，公平性差，且低优先级任务延迟缺乏上界。

5、轮询仲裁机制，是多个通道按固定顺序轮流获得仲裁机会，不考虑任务紧急程度。但该仲裁机制无法区分紧急任务和普通任务，延迟敏感任务可能被普通任务阻塞，在异构负载下资源利用率有限。

6、时分复用仲裁机制，是将时间划分为固定时隙，并将时隙预先分配给不同通道。在该仲裁机制下，通道空闲时存在时隙浪费，难以适应突发流量；并且，请求可能必须等待下一固定时隙，导致延迟升高。

7、加权轮询仲裁机制，是按预设权重为通道分配仲裁机会，权重越大获得机会越多。该仲裁机制存在的问题在于，权重通常为静态配置，无法反映实时流量状态，且权重悬殊时仍可能发生长时间等待；当突发紧急请求时缺乏快速通道。

8、综上，现有仲裁机制虽然实现简单，但是难以满足现代soc对低延迟、高吞吐、公平性、动态服务质量保障和拥塞鲁棒性的综合要求。因此，亟需一种能够满足这些综合要求的新型仲裁方案。

技术实现思路

1、本发明提供了一种soc中基于流量画像的自适应仲裁方法及装置。技术方案如下：

2、一方面，提供了一种soc中基于流量画像的自适应仲裁方法，所述方法包括：

3、在每个仲裁周期内，获取各输入通道的请求行为特征；

4、基于所述请求行为特征为各输入通道的请求集合生成流量画像；

5、基于所述流量画像为各输入通道生成有效权重；

6、根据各输入通道的有效权重，对各输入通道的请求进行仲裁。

7、在一个优选实施方式中，所述请求行为特征至少包括：有效请求、连续请求长度、相邻请求间隔和等待周期；

8、所述基于所述请求行为特征为各输入通道的流量生成流量画像，包括：

9、确定滑动窗口内有效请求的数量，基于该数量确定对应输入通道的流量密度；

10、基于输入通道的连续请求长度，利用指数移动平均更新该输入通道的平均突发长度，将平均突发长度作为对应输入通道的流量突发度；

11、基于相邻请求间隔的空闲周期数，利用指数移动平均更新该输入通道的平均请求间隔，将平均请求间隔作为对应输入通道的流量稀疏度；

12、对存在有效请求且未获得仲裁的输入通道，在每个时钟周期递增等待周期的累加值，将等待周期的累加值确定为流量饥渴度；

13、将所述流量密度、所述流量突发度、所述流量稀疏度和所述流量饥渴度确定流量画像的四个维度，得到流量画像。

14、在一个优选实施方式中，所述基于所述流量画像为各输入通道生成有效权重，包括：

15、对所述流量画像进行分类，得到各输入通道的分类结果；所述分类结果包括稀疏型、突发型、流式型或普通型；

16、基于所述分类结果确定对应输入通道的基础权重；

17、确定各输入通道的连续跳过次数；

18、基于各输入通道的流量饥渴度，计算紧急补偿值；

19、基于所述基础权重、所述连续跳过次数和所述紧急补偿值，生成各输入通道的有效权重。

20、在一个优选实施方式中，所述基于所述基础权重、所述连续跳过次数和所述紧急补偿值，生成各输入通道的有效权重，包括：

21、当连续跳过次数达到预设饥饿阈值时，则为对应输入通道设置强制服务标志；

22、根据所述基础权重、所述紧急补偿值和是否设置有强制服务标志，确定各输入通道的有效权重；其中，若设置有强制服务标志，则有效权重赋值为预设最大值；若不具有强制服务标志，则所述有效权重为所述基础权重和所述紧急补偿值之和经饱和钳位后的值。

23、在一个优选实施方式中，在所述计算紧急补偿值之后，还包括：确定紧急补偿值是否超过紧急阈值，若是，则为对应输入通道配置紧急请求标志；

24、所述对各输入通道的请求进行仲裁，包括：

25、基于是否配置有紧急请求标志确定是否存在紧急请求；若存在紧急请求且下游接口允许接收，则基于配置有紧急请求标志的输入通道确定仲裁结果；

26、若不存在紧急请求，则基于各输入通道的有效权重在普通请求集合中执行加权轮询调度，则基于最大有效权重的输入通道确定仲裁结果。

27、在一个优选实施方式中，还包括：

28、检测下游反压信号，当下游处于拥塞状态时，根据请求类型生成分级抑制掩码，所述分级抑制掩码用于为紧急请求和强制服务请求保留通过资格，以及将普通请求进行暂时抑制；所述强制服务请求为对应输入通道被设置有强制服务标志的请求。

29、另一方面，提供了一种soc中基于流量画像的自适应仲裁装置，所述装置包括：

30、获取单元，用于在每个仲裁周期内，获取各输入通道的请求行为特征；

31、第一生成单元，用于基于所述请求行为特征为各输入通道的请求集合生成流量画像；

32、第二生成单元，用于基于所述流量画像为各输入通道生成有效权重；

33、仲裁单元，用于根据各输入通道的有效权重，对各输入通道的请求进行仲裁。

34、另一方面，提供了一种计算机设备，所述计算机设备包括存储器和处理器，所述存储器用于存放计算机程序，所述处理器用于执行所述存储器上所存放的计算机程序，以实现上述所述的soc中基于流量画像的自适应仲裁方法的步骤。

35、另一方面，提供了一种计算机可读存储介质，所述存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述所述soc中基于流量画像的自适应仲裁方法的步骤。

36、另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现上述所述的soc中基于流量画像的自适应仲裁方法的步骤。

37、本发明提供的技术方案至少可以带来以下有益效果：

38、本发明实施例中，通过为各输入通道的请求集合生成流量画像，以基于流量画像为各输入通道生成有效权重，该流量画像不依赖于请求报文内容生成，而是基于输入通道的请求行为特征生成，由于请求行为特征是动态变化的，因此流量画像不同则有效权重也需要发生动态变化，从而使得仲裁决策能够随各输入通道的行为变化而自适应调整，进而满足现代soc对低延迟、高吞吐、公平性、动态服务质量保障和拥塞鲁棒性的综合要求。