一种面向工业关键路径资源的自学习服务部署方法
本发明属于工业物联网领域,尤其涉及一种面向工业关键路径资源的自学习服务部署方法。
背景技术:
1、在工业缺陷检测、实时流分析等时延敏感场景中,常采用工业互联网边缘架构,其中计算资源持续向网络边缘下沉,以满足高并发、低延迟的qos要求。终端请求多为具有复杂依赖关系的有向无环图任务,部署时需优先保障耗时最长的关键路径。若关键路径任务被调度至算力不足或高负载节点,会大幅增加整体响应时延。同时,强数据依赖的父子任务若分散部署在物理距离较远的节点,跨节点传输将带来高额通信延迟,降低系统实时性与执行效率,导致工业数据处理效率降低。此外,边缘节点存在算力异构、负载动态波动等强不确定性,使得边缘服务部署并非简单的静态分配,而是动态异构环境下兼顾计算与通信开销的复杂组合优化问题。
2、混合整数规划、博弈论等传统优化方法虽在小规模下能找到最优解,但其计算复杂度随问题规模呈指数级增长,无法满足大规模边缘环境的实时性要求。现有启发式算法大多关注静态网络拓扑来优化连通性和传输时延,忽略了节点负载动态剧烈波动的特性,如某个节点后台突然跑满视频分析任务。这种隐性的资源抢占会导致原来规划好的最优路径超时失效。强化学习算法具备自适应能力,但是其决策是在时刻做的,但由于资源竞争导致的性能退化在时刻才出现,智能体很难弄清楚到底是哪一步部署走错了。并且一旦遇到突发高负载等极端非平稳波动,智能体会因为过拟合之前的正常模式而失效,需要长时间重新试错,无法保障极端情况下的稳定性。
技术实现思路
1、本发明提供的一种面向工业关键路径资源的自学习服务部署方法,能够解决现有技术因无法兼顾工业边缘场景中dag有向无环图任务依赖建模、负载主动预测、拓扑感知与动态鲁棒调度,引起关键路径任务因隐性资源抢占而超时失效、边缘节点突发波动时缺乏自适应恢复能力、以及大规模异构边缘环境中求解效率与解质量难以兼顾,最终致使工业实时业务的服务质量无法得到稳定保障的问题,最后满足工业边缘场景下实时性、可靠性与资源高效利用的核心需求。
2、为了达到以上目的,本发明采用的技术方案为:一种面向工业关键路径资源的自学习服务部署方法,包括以下步骤:
3、s1:根据实际工业场景中的物理拓扑信息与节点资源信息,构建节点属性矩阵和带宽邻近矩阵,并通过图卷积网络提取各边缘节点的嵌入向量,对提取的嵌入向量进行聚类处理,将边缘节点划分得到若干个边缘域;
4、s2:获取待部署任务中各子任务之间的依赖关系,转化为有向无环图并识别关键路径,基于关键路径和边缘域对各子任务进行双层染色体编码,得到服务部署方案的初始种群;
5、s3:根据初始种群,在遗传算法的当前轮次迭代中通过强化学习智能体感知当前种群的进化状态,输出与当前种群匹配的交叉概率和变异概率;
6、s4:根据交叉概率和变异概率,对当前种群进行选择操作、交叉操作和变异操作,得到新一代种群;
7、s5:根据预设的联合优化目标函数,计算新一代种群中各服务部署方案的种群适应度并选取得到最优服务部署方案,基于种群适应度生成奖励信号反馈至强化学习智能体;
8、s6:判断当前迭代轮次是否达到预设终止条件,若是,则输出最优服务部署方案;否则,则返回至步骤s3进入下一轮次迭代。
9、进一步地:所述将边缘节点划分得到若干个边缘域,具体包括:
10、s101:获取实际工业场景中的物理拓扑信息与节点资源信息;物理拓扑信息包括各边缘节点之间的物理距离,节点资源信息包括各边缘节点的cpu可用容量和内存可用容量;
11、s102:根据各边缘节点的cpu可用容量和内存可用容量,通过归一化处理后按行堆叠,得到节点属性矩阵;
12、s103:根据各边缘节点之间的物理距离,构建物理带宽矩阵,并通过k近邻剪裁策略构建稀疏邻接矩阵,再引入单位矩阵补充自连接边,得到带宽邻近矩阵;
13、s104:根据节点属性矩阵和带宽邻近矩阵,通过图卷积网络,采用深度图聚类算法提取各边缘节点的嵌入向量,得到节点嵌入矩阵;
14、s105:根据预设的软分配矩阵,计算节点嵌入矩阵中的每个边缘节点分别被分配到某类边缘域的概率,得到各边缘节点被分配到各边缘域的软分配概率矩阵;
15、s106:根据软分配概率矩阵构建目标分配矩阵,并基于预先设计的联合分配损失函数,衡量软分配概率矩阵和目标分配矩阵之间的差异,并对图卷积网络进行迭代优化,直到满足收敛条件,得到收敛的图卷积网络;
16、s107:根据收敛的图卷积网络,重复s104和s105,输出最优软分配概率矩阵,并基于最优软分配概率矩阵将每个边缘节点分别分配至概率最大的边缘域,得到若干个边缘域。
17、上述进一步的有益效果为:本发明将边缘节点资源与物理拓扑融合,并通过聚类损失与对比损失的联合优化进行端到端的图聚类,能够在压缩后续部署算法搜索空间的同时,保留边缘域内节点间的通信效率,提升了边缘域划分的准确性和合理性。
18、进一步地:所述带宽邻近矩阵的表达式如下:
19、
20、
21、
22、其中,为带宽邻近矩阵,为稀疏邻接矩阵,为单位矩阵,为边缘节点的邻居节点集合,为k近邻剪裁策略操作,表示在带宽矩阵中,选择带宽最大的前个节点构建第行第列个边缘节点的邻居集合,为物理带宽矩阵中的矩阵元素,为链路最大通信带宽容量,为边缘节点和边缘节点之间的物理距离,为边缘节点的最大通信半径;所述节点属性矩阵的表达式如下:
23、
24、其中,代表节点属性矩阵的维度是,代表带宽邻近矩阵的维度是,为边缘节点的总数。
25、进一步地:所述预设的软分配矩阵的表达式为,所述软分配概率矩阵的表达式如下:
26、
27、
28、
29、其中,代表软分配矩阵的维度是,为边缘节点的总数,为边缘域的总数,为软分配概率矩阵,为软分配概率矩阵中的元素,代表节点嵌入矩阵中第个边缘节点的嵌入向量被分配到第个边缘域的概率,为节点嵌入矩阵中第个边缘节点的嵌入向量,为嵌入向量与聚类中心之间的欧几里得距离平方,为第个边缘域的中心位置,为第个边缘域的中心位置,为节点嵌入矩阵,为图卷积网络,为节点属性矩阵,为带宽邻近矩阵,为嵌入向量的维度,为边缘域的索引,为边缘节点的索引;
30、所述目标分布矩阵的表达式如下:
31、
32、
33、其中,为目标分布矩阵,为目标分布矩阵的元素,为第个边缘域期望的边缘节点数量,为第个边缘域期望的边缘节点数量。
34、进一步地:所述联合分配损失函数的表达式如下:
35、
36、
37、
38、其中,为联合分配损失函数,为聚类损失,为对比损失,为平衡超参数,可取0-1,为kl散度衡量,为目标分布矩阵,为软分配概率矩阵,为边缘域的索引,为边缘节点的索引,为边缘节点的总数,为边缘域的总数,为目标分布矩阵的元素,为软分配概率矩阵的元素,为两向量间的余弦相似度,为对比学习中的温度系数,用于控制模型对负样本的区分和惩罚力度,可设置为0.1,为节点嵌入矩阵中第个边缘节点的嵌入向量,为节点嵌入矩阵中第个边缘节点的正样本特征向量,为节点嵌入矩阵中第个边缘节点的负样本特征向量。
39、进一步地:所述得到服务部署方案的初始种群,具体包括:
40、s201:获取待部署任务中各子任务之间的依赖关系,并根据依赖关系将待部署任务转换为有向无环图;
41、s202:遍历所有有向无环图,得到所有可行执行路径,并计算每一条可行执行路径的响应时间;
42、s203:选取响应时间最大的可行执行路径,作为关键路径,所述关键路径的响应时间为服务响应时间;
43、s204:根据关键路径,确定各子任务的执行顺序约束,并结合各子任务之间的依赖关系建立任务依赖关系表,所述任务依赖关系表包括前驱子任务列表和后继子任务列表;
44、s205:根据边缘域确定各子任务可部署的边缘节点范围,得到服务器分配层的合法映射集合;
45、s206:根据各子任务的执行顺序约束和任务依赖关系表,将各子任务映射至任务依赖层,并根据合法映射集合,将各子任务映射至服务器分配层,对待部署任务的各子任务进行双层染色体编码,得到服务部署方案的多个染色体个体;
46、s207:根据服务部署方案的多个染色体个体,构建得到服务部署方案的初始种群;
47、所述双层染色体编码包括任务依赖层和服务器分配层,所述任务依赖层用于表征各子任务之间的执行顺序约束,所述服务器分配层用于表征各子任务与边缘域内具体边缘节点之间的映射关系。
48、上述进一步的有益效果为:本发明在进行染色体编码前识别并优先保障决定服务响应时延上限的关键路径,并通过双层染色体结构同时编码子任务的执行顺序约束与物理节点映射关系,因此能够确保初始种群中的所有个体均满足任务间的依赖约束且具有物理可行性,为后续遗传算法的稳定进化奠定了高质量的解空间基础。
49、进一步地:所述计算每一条可行执行路径的响应时间,具体包括:
50、当可行执行路径上个子任务均部署在边缘节点上时,响应时间的表达式如下:
51、
52、
53、
54、其中,为第条可行执行路径时刻的响应时间,为时刻终端与边缘节点的上传时间,为时刻终端与边缘节点的返回时间,为时刻子任务的处理时间,为子任务的数据量,为当前节点在时刻的可用算力,为时刻子任务和子任务间的通信时间,为子任务传输到子任务的数据量,为时刻边缘节点和边缘节点之间的传输带宽;
55、当边缘节点的可用算力不足,子任务均被卸载至云端处理时,响应时间的表达式如下:
56、
57、其中,为时刻终端与云端的上传时间,为时刻终端与云端的返回时间,为时刻云端任务处理时间;
58、当可行执行路径上前个子任务部署在边缘节点上,第个子任务因可用算力不足被卸载至云端处理时,响应时间的表达式如下:
59、
60、其中,为一条可行执行路径中边缘节点的索引,为一条可行执行路径中边缘节点的总数。
61、进一步地:所述双层染色体编码,具体包括:
62、根据待部署任务的子任务总数,设置每个染色体个体的编码长度,所述编码长度等于所述子任务总数,使每个子任务在染色体中对应唯一的基因位;
63、根据任务依赖关系表,确定各子任务在有向无环图中的拓扑顺序,使任意子任务在拓扑顺序中均位于其所有后继子任务之前,根据拓扑顺序将各子任务的标识依次排列,得到任务依赖层编码序列;
64、根据各子任务被分配至的边缘域,为每个子任务确定服务器分配层编码的合法取值集合;所述合法取值集合中的每个元素为一个二元组,所述二元组包含域编号和节点编号,域编号用于标识边缘域的索引,节点编号用于标识边缘域内边缘节点的索引;
65、针对染色体的每个基因位,从合法取值集合中选取一个二元组,分配至服务器分配层中与该基因位对应的位置,得到服务器分配层编码序列;
66、将任务依赖层编码序列与服务器分配层编码序列按基因位对齐,组合得到一个染色体个体,所述染色体个体中的每个基因位包含任务依赖层信息和服务器分配层信息;任务依赖层信息用于标识一个子任务,服务器分配层信息用于标识该子任务被部署至的边缘域和边缘节点。
67、上述进一步的有益效果为:本发明采用双层染色体编码,由于任务依赖层严格遵循拓扑顺序且服务器分配层的合法取值受限于边缘域范围,因此能够确保每个染色体个体在逻辑上满足任务间的依赖约束、在物理上满足节点部署的合法性,从而保证遗传算法中初始种群及后续迭代中所有个体的可行性。
68、进一步地:所述输出与当前种群匹配的交叉概率和变异概率,具体包括:
69、s301:根据初始种群,在遗传算法的当前轮次迭代中,提取当前种群的进化状态,所述进化状态特征包括种群多样性、种群平均适应度和最优个体适应度;
70、s302:根据种群多样性指标、种群平均适应度指标和最优个体适应度指标,按预设权重进行加权融合,得到当前种群的综合状态值;
71、s303:将综合状态值按照预设的状态离散区间进行映射,得到强化学习智能体的状态空间集合;
72、s304:将预设的交叉概率和变异概率按照预设的动作离散区间进行映射,得到预设的交叉概率动作集合和预设的变异概率动作集合,并构建强化学习智能体的动作空间;
73、s305:根据强化学习智能体的当前状态,从预设的交叉概率动作集合中选取一个交叉概率动作,并从预设的变异概率动作集合中选取一个变异概率动作;
74、s306:根据交叉概率动作对应的交叉概率值和变异概率动作对应的变异概率值,输出与当前种群匹配的交叉概率和变异概率。
75、上述进一步的有益效果为:本发明建立的强化学习智能体能够根据当前种群的多样性、平均适应度和最优个体适应度的进化状态,动态输出与当前种群匹配的交叉概率和变异概率,使遗传算法的搜索行为能够随种群进化阶段自适应调整,从而在全局探索与局部开发之间实现平衡,提高遗传算法的收敛速度和解的质量。
76、进一步地:所述预设的联合优化目标函数的表达式如下:
77、
78、其中,为预设的联合优化目标函数,、和均为权重系数,且,为所有服务在时刻的平均响应时间,为所有服务在时刻的平均部署成本,为边缘计算集群在时刻的负载方差;
79、所述所有服务在时刻的平均响应时间的表达式如下:
80、
81、
82、其中,为时刻所有服务请求的集合,为时刻所有服务请求的总数,为时刻第个服务请求的响应时间,为第个服务请求对应的所有可行执行路径的集合,为可行执行路径的索引,为时刻第条可行执行路径的响应时间;
83、所述所有服务在时刻的平均部署成本的表达式如下:
84、
85、
86、
87、其中,为时刻边缘端的部署成本,为时刻云端的部署成本,为第个服务请求中分配至边缘端的子任务集合,为第个服务请求中分配至云端的子任务集合,为子任务集合中的第个子任务,为边缘端的cpu单价,为边缘端的内存单价,为边缘端的网络传输单价,为子任务的cpu需求,为子任务的内存需求,为子任务的数据量,为云端的cpu单价,为云端的内存单价,为云端的网络传输单价;
88、所述边缘计算集群在时刻的负载方差的表达式如下:
89、
90、
91、
92、
93、其中,为边缘节点的总数,为时刻第个边缘节点的综合资源利用率,为时刻所有边缘节点的平均综合资源利用率,为用于平衡cpu利用率和内存利用率之间权重的参数,,为时刻第个边缘节点预测的未来cpu负载,为时刻第个边缘节点的实际内存利用率,为时刻第个边缘节点的实际cpu利用率,为当前cpu利用率的权重,为预测时间步的总数,为预测时间步的索引,为第个未来时间步的预测权重,为负载预测模型输出的时刻第个边缘节点的cpu利用率预测值,为第个预测时间步长。
94、上述进一步的有益效果为:本发明构建由平均响应时间、平均部署成本和负载方差三项指标得到的联合优化目标函数,将服务响应时延、资源开销与集群负载纳入优化过程;目标函数中的平均响应时间以关键路径时延为判定依据、平均部署成本区分边缘与云端差异化计费、负载方差引入未来负载预测值,因此联合优化目标函数能够全面评估部署方案的综合性能,引导遗传算法和强化学习智能体朝向时延最优、成本经济和负载均衡的方向进化,最终生成满足工业边缘场景多维度qos约束的服务部署方案。
95、本发明的有益效果:
96、本发明通过构建节点属性矩阵和带宽邻近矩阵,利用图卷积网络提取各边缘节点的嵌入向量,并结合聚类损失与对比损失的联合优化进行深度图聚类,将大规模边缘节点划分为若干个高内聚的逻辑域。由于划分过程深度融合了节点的资源属性与物理拓扑特征,且通过对比损失强化了不同域之间的特征区分,因此能够有效压缩后续部署算法的搜索空间,同时保证域内节点间的通信效率,解决了大规模异构边缘环境中因搜索空间爆炸导致求解效率低下的问题。
97、本发明通过将待部署任务转化为有向无环图并识别关键路径,基于关键路径和边缘域对各子任务进行双层染色体编码,使任务依赖层严格遵循子任务的拓扑执行顺序、服务器分配层严格限定于所属边缘域的合法节点集合。由于编码过程优先保障了决定整体响应时延上限的关键路径,且双层结构保证了染色体个体的逻辑可行性和物理可行性,因此能够确保初始种群及迭代过程中所有部署方案均满足任务依赖约束与节点部署约束,为遗传算法的稳定收敛奠定了基础。
98、本发明通过强化学习智能体感知当前种群的多样性、平均适应度和最优个体适应度等多维进化状态,动态输出与当前种群相匹配的交叉概率和变异概率,使遗传算法的搜索行为能够随种群进化阶段自适应调整。由于智能体能够根据种群的实时进化状态在全局探索与局部开发之间实现动态平衡,因此显著提升了算法跳出局部最优的能力和全局收敛速度,解决了传统遗传算法因参数固定易陷入局部最优的问题。
99、本发明将负载预测结果融入联合优化目标函数中的负载方差项,使部署决策能够感知边缘节点未来的资源竞争风险;由于目标函数同时包含平均响应时间、平均部署成本和负载方差三项指标,且平均响应时间以关键路径时延为判定依据、负载方差引入了未来负载预测值,因此能够在保障关键路径服务质量的前提下实现系统时延、部署成本与集群负载均衡的联合优化,生成的部署方案具备应对边缘节点动态波动的鲁棒性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com