报文处理方法、算力装置及存储介质与流程

摘要: 本申请实施例涉及但不限于计算机,尤其涉及一种报文处理方法、算力装置及存储介质。背景技术:1、人工智能(artificialintelligence,ai)任务对...
报文处理方法、算力装置及存储介质与流程

本申请实施例涉及但不限于计算机,尤其涉及一种报文处理方法、算力装置及存储介质。

背景技术:

1、人工智能(artificial intelligence,ai)任务对网络性能要求极高,不仅需要大带宽,还要求网络具备无阻塞、超低时延和超低抖动的特性。在deepseek v3/r1中,引入的混合专家moe(mixture of experts)模式可将单一任务空间拆解为多个子任务,再由多个专家网络分别处理特定子任务,最终输出整体预测结果。该模式通过调用更多图形处理器(graphics processing unit,gpu)等计算资源,相比单一任务处理模式可提升ai任务的处理效率。然而,在复杂的ai任务场景下,当某个专家节点需要与其他多个专家节点协同处理任务时,数据传输的复杂性和冗余性会急剧增加。这是因为在该模式的运算过程中,专家节点之间需要进行大量数据交互与同步。例如,当一个专家节点需要借助另外三个专家节点的能力来协同处理任务时,该专家节点需要多次分别向这三个专家节点发送相同的数据包。又由于专家节点具有物理分散性,许多数据同步操作需跨级联设备完成,这一系列因素综合起来,最终导致数据交互与同步效率下降。

技术实现思路

1、本申请实施例提供了一种报文处理方法、算力装置及存储介质,能够有效减少网络带宽的浪费,提高网络传输效率。

2、一方面,本申请实施例提供了一种报文处理方法,应用于第一算力装置,包括:向第二算力装置发送携带有算力资源节点标识列表的报文,其中,所述算力资源节点标识列表包括需要接收所述报文的第一算力资源节点的第一节点标识,所述算力资源节点标识列表用于所述第二算力装置根据所述第一节点标识将所述报文发送给所述第一算力资源节点。

3、另一方面,本申请实施例还提供了一种报文处理方法,应用于第二算力装置,包括:接收第一算力装置发送的携带有算力资源节点标识列表的报文,其中,所述算力资源节点标识列表包括需要接收所述报文的第一算力资源节点的第一节点标识;根据所述算力资源节点标识列表中的所述第一节点标识,将所述报文发送给所述第一算力资源节点。

4、另一方面,本申请实施例还提供了一种算力装置,包括:至少一个处理器;至少一个存储器,用于存储至少一个程序;当至少一个所述程序被至少一个所述处理器执行时实现如上所述的报文处理方法。

5、另一方面,本申请实施例还提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行如上所述的报文处理方法。

6、另一方面,本申请实施例还提供了一种计算机程序产品,包括计算机程序或计算机指令,所述计算机程序或所述计算机指令存储在计算机可读存储介质中,算力装置的处理器从所述计算机可读存储介质读取所述计算机程序或所述计算机指令,所述处理器执行所述计算机程序或所述计算机指令,使得所述算力装置执行如上所述的报文处理方法。

7、本申请实施例中,第一算力装置可以向第二算力装置发送携带有算力资源节点标识列表的报文,其中,算力资源节点标识列表包括需要接收报文的第一算力资源节点的第一节点标识。算力资源节点标识列表旨在为第二算力装置提供依据,使其能够按照第一节点标识将报文发送给对应的第一算力资源节点。本申请实施例通过在报文中嵌入包含第一节点标识的算力资源节点标识列表,使第二算力装置能够根据第一节点标识将报文发送至目标第一算力资源节点上,避免了向多个算力资源节点重复发送相同报文的情况,从而有效减少网络带宽的浪费,提高网络传输效率。

1.一种报文处理方法,应用于第一算力装置,包括:

2.根据权利要求1所述的报文处理方法,其特征在于,所述第一节点标识包括以下之一:

3.根据权利要求2所述的报文处理方法,其特征在于,所述第一节点标识为节点编号,所述第一节点标识通过位串形式或编号形式承载于所述算力资源节点标识列表。

4.根据权利要求1所述的报文处理方法,其特征在于,所述算力资源节点标识列表设置于所述报文中的以下之一的位置:

5.根据权利要求4所述的报文处理方法,其特征在于,所述算力资源节点标识列表设置于所述报文中的处于所述报文的最前面位置的bier报文头,所述bier报文头包括节点转发标识,所述节点转发标识用于指示所述算力资源节点标识列表的用途为实现不同算力资源节点之间的报文转发。

6.根据权利要求2所述的报文处理方法,其特征在于,所述第一节点标识为节点编号,所述第一节点标识通过位串形式承载于所述算力资源节点标识列表,所述算力资源节点标识列表还包括分层标识,所述节点编号根据所述算力资源节点标识列表支持的位串长度、所述分层标识的取值和所述第一节点标识在位串中的位置确定得到。

7.根据权利要求1所述的报文处理方法,其特征在于,所述算力资源节点标识列表还包括第一阶段标识,所述第一阶段标识用于指示所述第一节点标识所属的任务阶段。

8.根据权利要求1所述的报文处理方法,其特征在于,所述方法还包括:

9.根据权利要求8所述的报文处理方法,其特征在于,所述第二节点标识通过以下之一的方式通告给所述第二算力装置:

10.根据权利要求9所述的报文处理方法,其特征在于,所述第二节点标识通过基于路由协议的扩展tlv通告给所述第二算力装置,所述路由协议包括以下之一:bgp协议,ospf协议,is-is协议,rift协议,babel协议。

11.根据权利要求1所述的报文处理方法,其特征在于,所述第一算力资源节点包括以下之一:

12.一种报文处理方法,应用于第二算力装置,所述方法包括:

13.根据权利要求12所述的报文处理方法,其特征在于:所述第一节点标识包括以下之一:

14.根据权利要求13所述的报文处理方法,其特征在于,所述第一节点标识为节点编号,所述第一节点标识通过位串形式或编号形式承载于所述算力资源节点标识列表。

15.根据权利要求12所述的报文处理方法,其特征在于,所述算力资源节点标识列表设置于所述报文中的以下之一的位置:

16.根据权利要求15所述的报文处理方法,其特征在于,所述算力资源节点标识列表设置于所述报文中的处于所述报文的最前面位置的bier报文头,所述bier报文头包括节点转发标识,所述节点转发标识用于指示所述算力资源节点标识列表的用途为实现不同算力资源节点之间的报文转发。

17.根据权利要求13所述的报文处理方法,其特征在于,所述第一节点标识为节点编号,所述第一节点标识通过位串形式承载于所述算力资源节点标识列表,所述算力资源节点标识列表还包括分层标识,所述节点编号根据所述算力资源节点标识列表支持的位串长度、所述分层标识的取值和所述第一节点标识在位串中的位置确定得到。

18.根据权利要求12所述的报文处理方法,其特征在于,所述算力资源节点标识列表还包括第一阶段标识,所述第一阶段标识用于指示所述第一节点标识所属的任务阶段。

19.根据权利要求12所述的报文处理方法,其特征在于,所述方法还包括:

20.根据权利要求19所述的报文处理方法,其特征在于,所述第二节点标识通过以下之一的方式通告给所述第二算力装置:

21.根据权利要求20所述的报文处理方法,其特征在于,所述第二节点标识通过基于路由协议的扩展tlv通告给所述第二算力装置,所述路由协议包括以下之一:bgp协议,ospf协议,is-is协议,rift协议,babel协议。

22.根据权利要求12所述的报文处理方法,其特征在于,所述第一算力资源节点包括以下之一:

23.根据权利要求12所述的报文处理方法,其特征在于,所述方法还包括:

24.根据权利要求23所述的报文处理方法,其特征在于,所述第二节点标识通过以下之一的方式通告给所述第三算力装置:

25.根据权利要求24所述的报文处理方法,其特征在于,所述第二节点标识通过基于路由协议的扩展tlv通告给所述第三算力装置,所述路由协议包括以下之一:bgp协议,ospf协议,is-is协议,rift协议,babel协议。

26.一种算力装置,其特征在于,包括:

27.一种计算机可读存储介质,存储有计算机可执行指令,其特征在于,所述计算机可执行指令用于执行权利要求1至25中任意一项所述的报文处理方法。

28.一种计算机程序产品,包括计算机程序或计算机指令,其特征在于,所述计算机程序或所述计算机指令存储在计算机可读存储介质中,算力装置的处理器从所述计算机可读存储介质读取所述计算机程序或所述计算机指令,所述处理器执行所述计算机程序或所述计算机指令,使得所述算力装置执行权利要求1至25中任意一项所述的报文处理方法。