AI模型流量的集合感知式处理的制作方法

至少一个实施例涉及分布式计算操作，更具体地，涉及分布式处理器之间的网络通信。

背景技术：

1、大规模并行的人工智能（ai）模型可将计算分解为更小的、不一定均匀的部分，这些部分并行执行。在一些情况下，可使用多个处理器来执行该计算。在一些情况下，处理器由多个系统托管。该多个处理器可经由一个或更多个网络彼此连接，并且可经由该一个或更多个网络相互通信。

2、在第一处理器上运行的进程可依赖于在一个或更多个其他处理器上运行的进程。处理器可使用网络数据包通过网络传送相互依赖的数据和/或结果。处理器之间的协调通信和操作被称为“集合”（“collective”）。

技术实现思路

1.一种系统，所述系统包括网络接口控制器nic，所述网络接口控制器用于：

2.如权利要求1所述的系统，其中，具有所述第一元数据的所述第一网络数据包是为使用所述多个并行处理单元中的第一并行处理单元执行的ai内核而生成的。

3.如权利要求1所述的系统，其中，所述第一关联包括所述多个并行处理单元中的一个或更多个目标并行处理单元。

4.如权利要求1所述的系统，其中，所述第一元数据包括以下中的至少一项：

5.如权利要求4所述的系统，其中，所述第二元数据包括第二通信集合标识符，所述第一通信集合标识符不同于所述第二通信集合标识符。

6.如权利要求1所述的系统，其中，所述联网设备是被配置为基于ai相关的元数据来处理网络流量的网络交换机。

7.如权利要求1所述的系统，其中，所述分布式ai操作包括以下中的一项或更多项：

8.一种网络交换机，所述网络交换机包括：

9.如权利要求8所述的网络交换机，其中，为了确定用于处理所述第一网络数据包的所述第一规则、以及用于处理所述第二网络数据包的所述第二规则，所述处理单元用于接收一个或更多个控制消息，所述一个或更多个控制消息包括用于处理所述第一网络数据包的所述第一规则、以及用于处理所述第二网络数据包的所述第二规则。

10.如权利要求9所述的网络交换机，其中，所述一个或更多个控制消息是为使用所述多个并行处理单元中的第一并行处理单元执行的人工智能ai内核而生成的。

11.如权利要求8所述的网络交换机，其中，为了确定用于处理所述第一网络数据包的所述第一规则、以及用于处理所述第二网络数据包的所述第二规则，所述处理单元用于：

12.如权利要求11所述的网络交换机，其中，所述答复是为由所述多个并行处理单元中的第一并行处理单元执行的人工智能ai内核而生成的。

13.如权利要求8所述的网络交换机，其中，所述第一元数据包括以下中的至少一项：

14.如权利要求13所述的网络交换机，其中，所述第一元数据包括第一集合数据量指示符，所述第一集合数据量指示符用于指示由第一通信集合生成的网络数据包的数量小于第一数据量阈值，并且，其中，所述处理单元还用于将所述第一网络数据包存储在缓冲区中。

15.如权利要求8所述的网络交换机，其中，基于与所述第一网络数据包相关联的所述第一元数据所确定的用于处理所述第一网络数据包的所述第一规则包括以下中的至少一项：

16.一种方法，所述方法包括：

17.如权利要求16所述的方法，其中，确定用于处理所述第一网络数据包的所述第一规则、以及用于处理所述第二网络数据包的所述第二规则包括：接收一个或更多个控制消息，所述一个或更多个控制消息包括用于处理所述第一网络数据包的所述第一规则、以及用于处理所述第二网络数据包的所述第二规则。

18.如权利要求17所述的方法，其中，所述一个或更多个控制消息是为使用所述多个并行处理单元中的第一并行处理单元执行的人工智能ai内核而生成的。

19.如权利要求16所述的方法，其中，确定用于处理所述第一网络数据包的所述第一规则、以及用于处理所述第二网络数据包的所述第二规则包括：

20.如权利要求19所述的方法，其中，所述答复是为由所述多个并行处理单元中的第一并行处理单元执行的人工智能ai内核而生成的。