一种基于调度任务意图的异构边缘资源预测方法及系统
本发明属于异构边缘资源管理、计算机系统性能预测,具体涉及了一种基于调度任务意图的异构边缘资源预测方法及系统。
背景技术:
1、异构边缘计算系统通常包括配置有图形处理器、神经网络处理器、现场可编程门阵列或其他专用计算加速器的嵌入式边缘终端、边缘服务器和边缘计算集群。为了进行弹性伸缩、容量规划、跨节点服务迁移以及资源调度,调度器需要掌握未来若干时间尺度内的资源状态变化趋势。
2、现有资源预测方法通常根据预测时刻之前的功耗、利用率、内存占用、网络吞吐量、队列深度和服务延迟等历史资源状态监控序列预测未来资源状态。该类方法能够学习历史资源曲线的周期性和短时趋势,但在任务启动、任务停止、模型切换、并发调整、批量大小变化或跨节点迁移等由调度器主动触发的状态转换场景中,调度计划通常先于资源曲线变化产生,仅依据历史资源序列进行被动外推时,模型往往需要在资源变化已经发生后才能充分响应,难以利用调度器在负载变化前已经掌握的任务信息。
3、已有外生变量增强的时间序列预测方法能够将外生变量与历史序列融合,但通常将外生变量作为普通辅助序列处理,未针对调度任务意图的可观测边界、计划生效时间和字段语义建立专门约束。若全部历史位置与全部调度字段无差别交互,可能引入与当前资源状态弱相关的字段噪声;若直接将调度意图持续注入全部预测时刻,则在稳态区间或调度信息异常时还可能造成不必要的预测偏移。
技术实现思路
1、为了解决背景技术中存在的问题和需求,本发明提出了一种基于调度任务意图的异构边缘资源预测方法及系统。本发明将预测锚点时刻已经由调度器确定并能够读取的结构化任务意图作为先于资源负载变化的外生先验,并与预测锚点之前的历史资源状态进行受时间约束的融合,从而能够在资源曲线实际发生明显变化之前响应,即调整执行的任务、配置或迁移节点。
2、本发明的技术方案如下:
3、第一方面,本发明提出了一种基于调度任务意图的异构边缘资源预测方法,所述方法包括以下步骤:
4、步骤1:获取边缘加速器节点的历史资源监控序列并生成历史资源令牌序列以及获取调度计划并生成任务意图令牌序列;
5、步骤2:根据历史资源令牌序列生成历史资源状态特征序列,进而生成第一资源预测结果;
6、步骤3:结合调度计划的时间语义信息,基于历史资源令牌序列和任务意图令牌序列生成时序约束掩码;
7、步骤4:根据时序约束掩码、历史资源状态特征序列和任务意图令牌序列,进行门控交叉注意力处理后,获得资源-意图交互特征,进而生成第二资源预测结果;
8、步骤5:根据第一资源预测结果和第二资源预测结果生成最终的资源预测结果。
9、进一步地,所述步骤2中,根据历史资源令牌序列生成历史资源状态特征序列,包括:
10、将历史资源令牌序列输入历史资源自注意力编码模块中,模块输出历史资源状态特征序列。
11、进一步地,所述步骤3包括:
12、根据任务意图令牌所属调度计划的计划可观测时刻和计划生效时刻确定计划提前期,所述计划提前期经预设的单调映射后得到允许时间跨度;基于允许时间跨度,再根据历史资源令牌序列中第i个历史资源令牌的时间位置与任务意图令牌序列中第j个任务意图所属计划的计划生效时刻,生成第i个历史资源令牌和第j个任务意图的掩码信息,由所有掩码信息生成时序约束掩码。
13、进一步地,所述步骤4中,根据时序约束掩码、历史资源状态特征序列和任务意图令牌序列,进行门控交叉注意力处理后,获得资源-意图交互特征,包括:
14、对于单头的门控交叉注意力,首先,根据历史资源状态特征序列、任务意图令牌序列、任务意图字段类型以及历史资源令牌与任务意图令牌之间的相对时间关系生成任务意图字段门控矩阵;接着,根据历史资源状态特征序列构造查询矩阵以及根据任务意图令牌序列构造键矩阵和值矩阵,并结合时序约束掩码,从而生成基础注意力权重;然后根据基础注意力权重与任务意图字段门控矩阵生成门控后的注意力权重;最后,根据门控后的注意力权重和值矩阵生成资源-意图交互特征。
15、进一步地,所述步骤4中,生成第二资源预测结果,包括:
16、确定待预测的目标资源状态;当待预测的目标资源状态包括加速器利用率或目标服务端到端延迟时,将最终的资源-意图交互特征输入对应预测头,生成对应的预测结果;当待预测的目标资源状态包括节点总功耗时,根据最终的资源-意图交互特征生成意图增强神经功耗修正项,再结合当前功耗锚点和训练集条件残差生成第二资源预测结果中的节点总功耗预测值,从而获得第二资源预测结果。
17、进一步地,所述待预测的目标资源状态包括目标边缘加速器节点在预测时间尺度下的节点总功耗、加速器利用率以及部署于所述目标边缘加速器节点的目标服务端到端延迟中的一种或多种。
18、第二方面,本发明提出了一种基于调度任务意图的异构边缘资源预测系统,所述系统包括:
19、数据获取单元,用于获取边缘加速器节点的历史资源监控序列以及获取调度计划;
20、第一令牌生成单元,用于根据边缘加速器节点的历史资源监控序列生成历史资源令牌序列;
21、第二令牌生成单元,用于根据获取的调度计划生成任务意图令牌序列;
22、历史基准预测单元,用于根据历史资源令牌序列生成历史资源状态特征序列,进而生成第一资源预测结果;
23、掩码生成单元,用于结合调度计划的时间语义信息,基于历史资源令牌序列和任务意图令牌序列生成时序约束掩码;
24、意图增强预测单元,用于根据时序约束掩码、历史资源状态特征序列和任务意图令牌序列,进行门控交叉注意力处理后,获得资源-意图交互特征,进而生成第二资源预测结果;
25、资源状态输出单元,用于根据第一资源预测结果和第二资源预测结果生成最终的资源预测结果。
26、第三方面,本发明提出了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述方法的步骤。
27、第四方面,本发明提出了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述方法的步骤。
28、第五方面,本发明提出了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现上述第一方面所述方法的步骤。
29、本发明的有益效果如下:
30、1、本发明利用调度器在资源变化前已经可观测的任务意图建立“调度意图先出现、资源负载后变化”的时间先后约束,使资源预测由仅依赖历史序列的被动外推扩展为主动预测。
31、2、本发明根据历史资源位置与字段级任务意图令牌建立二维成对时序约束,该约束可显式地限制不同结构化任务意图字段能够参与交互的历史资源位置,避免生成不符合计划时序关系的资源-意图交互特征以及降低无差别融合噪声。
32、3、本发明根据任务意图字段门控矩阵与基础注意力权重生成门控后的注意力权重,并且该门控后的注意力权重不重新归一化,这样既可实现字段级选择,又可控制任务意图整体注入幅度,从而避免注意力权重中被抑制部分对应的权重重新分配给其他字段。
33、4、本发明将仅依赖历史资源状态的历史基准预测路径作为意图增强预测的独立参考;结合事件窗口和路径差异安全回退机制,本发明可在调度状态转换时利用任务意图,在稳态区间或预测分歧较大时保持保守输出。
34、5、本发明提出的节点总功耗采用当前可观测的功耗锚点、预先统计的条件残差和有界神经修正的分层构造,并严格区分训练统计、验证参数选择和测试评价,可限制神经修正造成的异常预测偏移并降低事后信息进入部署参数的风险,从而提高功耗预测的部署稳定性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com