一种面向AI开发全生命周期算力调度方法及系统与流程

摘要: 本发明涉及边缘计算,尤其涉及一种面向ai开发全生命周期算力调度方法及系统。背景技术:1、边缘计算是在靠近数据源的网络边缘侧部署计算与存储资源,就近提供智能服务的...
一种面向AI开发全生命周期算力调度方法及系统与流程

本发明涉及边缘计算,尤其涉及一种面向ai开发全生命周期算力调度方法及系统。

背景技术:

1、边缘计算是在靠近数据源的网络边缘侧部署计算与存储资源,就近提供智能服务的分布式架构,现有技术通过边缘端对原始数据流进行固定阈值滤波或简单归一化预处理后,将数据或高维特征全量上传至云端,云端以全局轮询方式采集所有边缘节点资源状态,基于该视图采用固定规则或全层搜索方式确定模型分割点,然后在推理部署阶段采用中心化调度器基于瞬时负载进行轮询或静态分配,低负载时已分配算力无法回收。

2、现有技术缺乏对资源波动的动态感知与精度衰减修正,导致分割决策计算开销大、在动态资源环境下分割方案性能退化严重,并且现有技术仅以静态精度和延迟线性加权,未考虑资源波动对精度的动态衰减,导致强化学习在资源震荡时高估分割收益,策略部署后性能劣化;突发大批量任务使算力竞争加剧,实际精度因排队延迟大幅衰减,静态奖励无法区分稳定与波动场景,推理失败率显著升高;在云端网络拥塞且边缘上行带宽因干扰骤降的极端情况下,选深层则中间特征过大无法传输,选浅层则边缘算力不足,形成双侧资源同时劣化的困境。

技术实现思路

1、针对现有技术的不足,本发明提供了一种面向ai开发全生命周期算力调度方法及系统,解决了现有技术缺乏对资源波动的动态感知与精度衰减修正,导致分割决策计算开销大、搜索效率低、在动态资源环境下分割方案性能退化严重的技术问题。

2、为解决上述技术问题,本发明提供了如下技术方案:

3、一种面向ai开发全生命周期算力调度方法,该方法的步骤为:采集目标算力系统的原始边缘数据流,根据原始边缘数据流通过自适应滤波自编码处理,得到任务特征向量;

4、基于任务特征向量进行边缘资源融合归一化处理,得到资源调度画像;

5、对资源调度画像进行推理敏感处理,并通过自适应二次反馈分割,生成候选分割点集,根据候选分割点集和资源调度画像进行环境状态回放分割处理,生成模型分割方案;

6、其中,根据候选分割点集和资源调度画像进行环境状态回放分割处理,包括:对候选分割点集和资源调度画像进行环境深度q处理,生成分割动作;

7、基于分割动作进行即时奖励分割处理,生成模型分割方案;

8、根据模型分割方案通过边缘稀疏化量化处理,得到压缩梯度,基于压缩梯度进行加权聚合判定处理,得到全局训练聚合模型;

9、基于全局训练聚合模型进行时序能耗成本处理,得到成本向量,对成本向量进行纳什均衡回收处理,生成推理部署执行方案。

10、优选的,根据原始边缘数据流通过自适应滤波自编码处理,包括:根据原始边缘数据流通过自适应滤波处理,得到清洗后数据;

11、基于清洗后数据进行任务编码,生成任务意图编码;

12、对任务意图编码进行稀疏自编码处理,得到任务特征向量。

13、优选的,基于任务特征向量进行边缘资源融合归一化处理,包括:根据任务特征向量通过边缘资源状态处理,生成边缘资源状态向量;

14、基于边缘资源状态向量进行趋势波动预测,生成云端资源波动向量;

15、对云端资源波动向量进行融合归一化处理,得到资源调度画像。

16、优选的,对资源调度画像进行推理敏感处理,并通过自适应二次反馈分割,包括:根据资源调度画像通过推理敏感处理,生成教师模型精度敏感矩阵;

17、基于教师模型精度敏感矩阵进行自适应二次反馈分割,生成候选分割点集。

18、优选的,对候选分割点集和资源调度画像进行环境深度q处理,包括:

19、对候选分割点集和资源调度画像进行环境状态编码处理,生成环境状态;

20、根据环境状态通过深度q处理,生成分割动作。

21、优选的,基于分割动作进行即时奖励分割处理,包括:

22、基于分割动作进行即时奖励处理,生成即时奖励;

23、对即时奖励进行回放分割处理,生成模型分割方案。

24、优选的,根据模型分割方案通过边缘稀疏化量化处理,包括:根据模型分割方案通过边缘节点初始化处理,得到本地模型副本;

25、基于本地模型副本进行差分隐私梯度处理,生成加密梯度;

26、对加密梯度进行稀疏化量化处理,得到压缩梯度。

27、优选的,基于压缩梯度进行加权聚合判定处理,包括:

28、根据压缩梯度通过加权聚合处理,生成聚合梯度向量;

29、基于聚合梯度向量进行全局动量更新处理,生成更新后全局模型;

30、对更新后全局模型进行损失判定处理,得到全局训练聚合模型。

31、优选的,基于全局训练聚合模型进行时序能耗成本处理,得到成本向量,对成本向量进行纳什均衡回收处理,包括:根据全局训练聚合模型通过时序卷积处理,生成任务流到达率;

32、基于任务流到达率进行离散化动作处理,得到策略矩阵;

33、对策略矩阵进行加权时延能耗处理,得到成本向量;

34、根据成本向量通过纳什均衡处理,生成纳什均衡决策;

35、基于纳什均衡决策进行自适应权重处理,得到自适应策略;

36、对自适应策略进行算力回收处理,生成推理部署执行方案。

37、该技术方案还提供了一种面向ai开发全生命周期算力调度系统,该系统包括:任务特征模块,采集目标算力系统的原始边缘数据流,根据原始边缘数据流通过自适应滤波自编码处理,得到任务特征向量;

38、资源调度模块,基于任务特征向量进行边缘资源融合归一化处理,得到资源调度画像;

39、模型分割模块,对资源调度画像进行推理敏感处理,并通过自适应二次反馈分割,生成候选分割点集,根据候选分割点集和资源调度画像进行环境状态回放分割处理,生成模型分割方案;

40、训练聚合模块,根据模型分割方案通过边缘稀疏化量化处理,得到压缩梯度,基于压缩梯度进行加权聚合判定处理,得到全局训练聚合模型;

41、部署执行模块,基于全局训练聚合模型进行时序能耗成本处理,得到成本向量,对成本向量进行纳什均衡回收处理,生成推理部署执行方案。

42、借由上述技术方案,本发明提供了一种面向ai开发全生命周期算力调度方法及系统,至少具备以下有益效果:

43、本发明构建了语义感知、趋势前瞻的资源调度画像生成体系,有效解决了传统方法因全局轮询和固定权重融合导致的资源视图滞后、无法预判云端风险的问题;其通过任务特征向量中编码的算力簇标识符直接索引边缘资源数据库,将资源采集延迟大幅降低,提供与任务相关且无冗余的实时本地资源快照;另外,还通过自适应指数平滑提取资源波动指数,并与任务时延敏感性导出的动态权重协同融合,使资源画像能根据任务紧迫度自动调整边云侧重,将异构资源量纲统一,为后续分割决策提供了可直接比较的量化权衡基础,从而加速了强化学习收敛并提升了动态环境下调度风险预判的准确性。

44、通过引入教师模型精度敏感矩阵的一次评估双重利用机制,攻克了传统分割决策因多次前向推理导致决策延迟高、在资源波动下精度预估失真的技术瓶颈,能够以单次评估快速完成候选分割点的筛选与精度基准的提供,决策响应速度较全层遍历大幅提升;同时,其设计的二次反馈与资源波动修正机制可根据边缘算力和云端波动指数,自适应调整候选搜索空间并对奖励函数中的精度项施加非线性惩罚,这种自适应不仅将深度q网络收敛轮次缩短、使波动环境下推理精度提升、尾延迟大幅下降,且边缘带宽将任务完成率提升,使分割方案始终与实时资源状态保持同步。

45、构建了通信高效、隐私安全的联邦训练聚合链路,有效解决了边缘非独立同分布数据条件下全量梯度同步上传通信开销大、小样本噪声梯度导致收敛震荡的问题;一方面,其通过异步topk稀疏压缩根据资源调度画像中的实时上行带宽,自适应确定保留梯度数量,将单轮梯度通信量从全量压缩,训练吞吐量大幅提升,同时异步上传消除同步阻塞;另一方面,其通过以各节点样本数占比为权重的联邦平均聚合与动量更新机制,自动放大主流样本节点的梯度贡献,且标签失衡的极端节点产生的有害扰动,使收敛震荡幅度大幅降低,并保障原始数据不可逆保护,在非独立同分布数据下保障了模型收敛的鲁棒性与训练效率。

46、最后,本发明还通过引入时序卷积网络负载预测与专家混合在线学习,攻克了传统静态部署无法预判负载峰谷、低负载期模型副本持续占用资源造成浪费的瓶颈,能够提前捕获负载峰谷切换趋势并完成算力预调配;同时,其设计的非合作博弈纳什均衡求解机制,使各边缘节点仅依据自身时延与能耗成本独立更新负载分配比例,无需中心协调即可收敛至均衡,决策延迟大幅下降,并配合专家权重在线更新与算力回收触发,在夜间低负载时段自动卸载空闲节点的模型副本使能耗降低,不仅消除了中心化调度单点瓶颈,还能在节点因断电冷重启导致模型版本不一致时,通过回收信号修正资源调度画像使分割方案自动避让,实现了推理部署在动态故障场景下的自愈式负载均衡。