一种边缘推理任务时空联合优化调度方法及系统

本发明涉及边缘计算与任务调度领域，具体涉及一种边缘推理任务时空联合优化调度方法及系统。

背景技术：

1、随着人工智能和边缘计算技术的发展，深度神经网络逐渐部署于无人机、智能摄像头等资源受限的边缘设备，用于对待处理计算任务进行实时推理。由于边缘设备的计算资源和能源容量有限，而深度神经网络推理任务通常具有较高的计算量和实时性要求，因此可采用端云协同方式，将深度神经网络的部分计算节点部署于边缘设备执行，并将部分计算节点卸载至云端执行，以在计算延迟和边缘设备能耗之间进行协调。

2、然而，现有端云协同推理调度方法大多仅针对深度神经网络计算任务进行静态划分，主要关注各计算节点的边缘执行位置或云端执行位置，未充分考虑边缘设备神经处理单元工作频率可动态调节的特点，难以结合时变任务负载和网络状态对计算频率及任务执行位置进行联合优化。同时，部分基于深度强化学习的动态调度方法需要依赖在线训练或持续交互，在网络带宽、网络往返时延等状态发生突变时存在适应滞后和额外计算开销，难以满足无人机、智能摄像头等边缘设备对低时延、低能耗推理的要求。此外，现有基于长期优化的调度方法在联合考虑设备能耗和计算延迟时，不同优化项之间可能存在较大的数值尺度差异，导致优化过程中各目标项的权衡效果不稳定，影响实际调度性能。

技术实现思路

1、针对现有技术的不足，本发明的目的在于提供一种边缘推理任务时空联合优化调度方法及系统。

2、为了实现上述目的，本发明采用如下技术方案：

3、第一方面，提供了一种边缘推理任务时空联合优化调度方法，包括：

4、获取边缘设备的待处理计算任务；确定用于执行所述待处理计算任务的深度神经网络；

5、将所述深度神经网络转换为有向无环图，根据所述深度神经网络的具体信息得到有向无环图中各节点的任务属性信息；

6、获取网络状态信息，根据所述任务属性信息和所述网络状态信息，计算当前时隙的整体计算延迟和边缘设备总能耗；

7、根据所述整体计算延迟建立虚拟延迟队列，根据所述虚拟延迟队列、所述边缘设备总能耗及预先确定的量纲对齐算子构建漂移加惩罚优化目标，所述量纲对齐算子用于对所述边缘设备总能耗进行数值尺度调整，以使所述边缘设备总能耗与所述虚拟延迟队列共同参与优化；

8、对所述漂移加惩罚优化目标进行时空双域解耦，得到时空联合调度方案，并根据所述时空联合调度方案确定所述深度神经网络中各节点的执行位置和所述边缘设备的目标工作频率，以执行所述待处理计算任务。

9、第二方面，提供了一种边缘推理任务时空联合优化调度系统，包括：

10、任务获取模块，被配置为：获取边缘设备的待处理计算任务；确定用于执行所述待处理计算任务的深度神经网络；

11、图转换模块，被配置为：将所述深度神经网络转换为有向无环图，根据所述深度神经网络的具体信息得到有向无环图中各节点的任务属性信息；

12、状态计算模块，被配置为：获取网络状态信息，根据所述任务属性信息和所述网络状态信息，计算当前时隙的整体计算延迟和边缘设备总能耗；

13、优化构建模块，被配置为：根据所述整体计算延迟建立虚拟延迟队列，根据所述虚拟延迟队列、所述边缘设备总能耗及预先确定的量纲对齐算子构建漂移加惩罚优化目标，所述量纲对齐算子用于对所述边缘设备总能耗进行数值尺度调整，以使所述边缘设备总能耗与所述虚拟延迟队列共同参与优化；

14、调度决策模块，被配置为：对所述漂移加惩罚优化目标进行时空双域解耦，得到时空联合调度方案，并根据所述时空联合调度方案确定所述深度神经网络中各节点的执行位置和所述边缘设备的目标工作频率，以执行所述待处理计算任务。

15、第三方面，还提供了一种电子设备，包括：

16、存储器，用于非暂时性存储计算机可读指令；

17、处理器，用于运行所述计算机可读指令，

18、其中，所述计算机可读指令被所述处理器运行时，执行上述第一方面所述的方法。

19、第四方面，提供一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现如上述第一方面所述方法。

20、第五方面，提供了一种计算机程序产品，采用如下技术方案：

21、一种计算机程序产品，包括软件代码，所述软件代码中的程序执行如本发明第一方面所述的方法中的步骤。

22、上述技术方案具有如下优点或有益效果：

23、本发明通过引入量纲对齐的李雅普诺夫优化框架，首次从数学上弥合了物理能耗与虚拟队列之间的量纲鸿沟，为能耗与延迟的长期权衡提供了理论上界，并保证了在无需任何未来先验知识下的渐近最优性。

24、相比于指数复杂度的整数线性规划求解器，本发明通过时空解耦将决策复杂度降低至次线性，大幅降低决策开销，实现了微秒级的确定性调度，释放了边缘计算资源。

25、本发明通过引入虚拟延迟队列闭环反馈和量纲对齐的李雅普诺夫优化框架，在每个时隙内联合优化频率调节决策与空间卸载决策，使得边缘设备的计算频率能够随队列积压和网络带宽动态自适应变化，同时卸载策略同步响应，从而在时变环境下实现频率—位置时空联合最优。该机制既避免了静态划分导致的资源浪费，也消除了对在线训练或先验统计信息的依赖，显著提升了动态场景下的综合调度性能。

26、本发明考虑到了边缘设备神经处理单元频率的压摆率限制，使得理论最优解能够平滑地部署于真实边缘设备的物理硬件上，避免了因频率剧烈跳变导致的电压过冲和功耗冲击，具备极强的工程落地价值。

1.一种边缘推理任务时空联合优化调度方法，其特征在于，包括：

2.如权利要求1所述的边缘推理任务时空联合优化调度方法，其特征在于，将所述深度神经网络转换为有向无环图，具体为：将所述深度神经网络中的各计算层映射为有向无环图中的节点，将各计算层之间的数据依赖关系映射为有向边。

3.如权利要求1所述的边缘推理任务时空联合优化调度方法，其特征在于，

4.如权利要求3所述的边缘推理任务时空联合优化调度方法，其特征在于，根据所述任务属性信息和所述网络状态信息，计算当前时隙的整体计算延迟和边缘设备总能耗，具体为：根据各节点的空间卸载决策和频率调节决策，确定各节点的计算延迟；根据相邻节点的空间卸载决策，确定各节点之间的通信延迟；根据各节点的计算延迟和通信延迟确定有向无环图中各路径的延迟，并将最大路径延迟确定为所述整体计算延迟；

5.如权利要求1所述的边缘推理任务时空联合优化调度方法，其特征在于，根据所述虚拟延迟队列、所述边缘设备总能耗及预先确定的量纲对齐算子构建漂移加惩罚优化目标，具体为：

6.如权利要求1所述的边缘推理任务时空联合优化调度方法，其特征在于，对所述漂移加惩罚优化目标进行时空双域解耦，得到时空联合调度方案，具体为：对所述漂移加惩罚优化目标进行时间域解耦，根据所述虚拟延迟队列和控制参数确定边缘设备的最优频率调节决策，并根据频率压摆率限制确定所述目标工作频率；

7.一种边缘推理任务时空联合优化调度系统，其特征在于，包括：

8.一种电子设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现了如权利要求1-6任一项所述的边缘推理任务时空联合优化调度方法中的步骤。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现了如权利要求1-6任一项所述的边缘推理任务时空联合优化调度方法中的步骤。

10.一种计算机程序产品，包括软件代码，其特征在于，所述软件代码中的程序执行如权利要求1-6中任一项所述的边缘推理任务时空联合优化调度方法中的步骤。