任务协同调度方法、装置、SMF、通信系统以及介质与流程

本申请涉及通信，尤其涉及一种任务协同调度方法、装置、smf、通信系统、存储介质以及计算机程序产品。

背景技术：

1、大语言模型的参数量巨大，边缘网络中的单一边缘设备无法独立承载完整的模型推理任务。目前，通常采用大语言模型并行或分层部署策略，将大语言模型的不同模型参数层分布到多个边缘设备上，引发了边缘设备之间的大量传输需求。在边缘网络中完成大语言模型推理任务需要对边缘设备的存储、计算等资源进行联合管理与协同调度，但是，相关技术中没有提供关于对边缘设备的资源进行联合管理与协同调度的技术方案。

技术实现思路

1、本公开提供一种任务协同调度方法、装置、smf、通信系统、存储介质以及计算机程序产品。

2、根据本公开的第一方面，提供一种任务协同调度方法，应用于会话管理功能smf，包括：获取边缘网络资源信息、与所述边缘网络资源相关联的资源成本参数，其中，所述边缘网络资源信息包括边缘设备的剩余资源、所述边缘设备的模型参数层部署信息、d2d链路信息；获取模型任务执行需求信息，其中，所述模型任务执行需求信息包括待执行的模型参数层的关联拓扑信息、相邻模型参数层之间的层间数据传输所需速率、所述模型参数层的资源需求信息；根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息，其中，所述任务调度策略信息包括所述模型参数层匹配的执行设备、相邻模型参数层之间的数据传输路径。

3、可选地，所述根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息包括：根据所述关联拓扑信息对待执行的模型参数层进行拓扑排序，获得参数层执行序列；根据所述剩余资源、所述模型参数层部署信息、所述d2d链路信息、所述资源成本参数和所述资源需求信息，并利用预设的设备匹配规则，依次为所述参数层执行序列中的各个模型参数层选取对应的边缘设备，作为所述执行设备。

4、可选地，所述设备匹配规则包括优先选取已部署对应的模型参数层的边缘设备、选取剩余资源满足对应的模型参数层的资源需求的边缘设备、选取产生的资源使用成本最低的边缘设备中的至少一项。

5、可选地，在无法为一个或多个模型参数层选取对应的边缘设备的情况下，将所述一个或多个模型参数层对应的执行设备确定为云端设备。

6、可选地，所述数据传输路径包括通过d2d链路传输数据的第一路径、经由基站中继传输数据的第二路径中的至少一种。

7、可选地，所述根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息包括：在相邻模型参数层对应的执行设备都为边缘设备的情况下，根据所述d2d链路信息确定相邻模型参数层之间的d2d链路传输速率；在所述d2d链路传输速率大于或等于对应的层间数据传输所需速率的情况下，确定所述数据传输路径为第一路径；在所述d2d链路传输速率小于对应的层间数据传输所需速率的情况下，确定所述数据传输路径为第二路径。

8、可选地，所述根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息包括：在相邻模型参数层对应的执行设备不全为边缘设备的情况下，确定所述数据传输路径为第二路径。

9、可选地，在确定所述执行设备包括云端设备和/或所述数据传输路径包括所述第二路径的情况下，为所述模型任务分配用户面功能upf；

10、根据所述任务调度策略信息，分别生成与所述upf、所述基站和所述边缘设备对应的任务执行策略并发送。

11、可选地，利用数字孪生网络环境，对所述任务调度策略信息进行仿真验证处理。

12、可选地，获取边缘网络资源信息包括：接收接入与移动性管理功能amf发送的边缘设备注册信息，从所述边缘设备注册信息提取所述边缘设备的剩余资源、所述边缘设备的模型参数层部署信息；接收网络开放功能nef发送的所述d2d链路信息。

13、可选地，获取与所述边缘网络资源相关联的资源成本参数包括：接收计费系统发送的所述资源成本参数。

14、可选地，所述获取模型任务执行需求信息包括：通过amf获取用户发送的模型任务请求，所述模型任务请求携带的信息包括所述关联拓扑信息、所述层间数据传输所需速率、所述资源需求信息。

15、可选地，所述资源包括计算资源和存储资源；所述模型包括llm模型；所述模型任务包括模型推理任务。

16、根据本公开的第二方面，提供一种任务协同调度装置，应用于smf，包括：存储器；以及耦接至所述存储器的处理器，所述处理器被配置为基于存储在所述存储器中的指令，执行如上所述的方法。

17、根据本公开的第三方面，提供一种smf，包括如上所述的任务协同调度装置。

18、根据本公开的第四方面，提供一种通信系统，包括：边缘设备、基站、amf、如上所述的smf。

19、根据本公开的第五方面，提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述指令被处理器执行时实现如上所述的方法的步骤。

20、根据本公开的第六方面，提供一种计算机程序产品，包括计算机程序，其特征在于，该计算机程序被处理器执行时实现上述的方法的步骤。

21、本公开的任务协同调度方法、装置、smf、通信系统、存储介质以及计算机程序产品，能够对边缘设备的资源进行联合管理与协同调度，实现模型任务的分布式高效执行，降低模型任务的延迟和资源消耗，提升了模型任务的执行效率。

1.一种任务协同调度方法，应用于会话管理功能smf，包括：

2.根据权利要求1所述的方法，其中，所述根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息包括：

3.根据权利要求2所述的方法，其中，

4.根据权利要求2所述的方法，还包括：

5.根据权利要求2所述的方法，其中，

6.根据权利要求5所述的方法，其中，所述根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息包括：

7.根据权利要求5所述的方法，其中，所述根据所述边缘网络资源信息、所述资源成本参数和所述模型任务执行需求信息，确定任务调度策略信息包括：

8.根据权利要求5所述的方法，还包括：

9.根据权利要求1所述的方法，还包括：

10.根据权利要求1所述的方法，其中，获取边缘网络资源信息包括：

11.根据权利要求1所述的方法，其中，获取与所述边缘网络资源相关联的资源成本参数包括：

12.根据权利要求1所述的方法，其中，所述获取模型任务执行需求信息包括：

13.根据权利要求1至12任一项所述的方法，其中，

14.一种任务协同调度装置，应用于smf，包括：

15.一种smf，包括：

16.一种通信系统，包括：

17.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述指令被处理器执行如权利要求1至13中任一项所述的方法。

18.一种计算机程序产品，所述计算机程序产品存储有计算机指令，所述指令被处理器执行如权利要求1至13中任一项所述的方法。