一种面向多转运中心的边缘算力云边协同管理方法及系统与流程

本发明涉及gpu算力资源管理，特别是一种面向多转运中心的边缘算力云边协同管理方法及系统。

背景技术：

1、随着物流分拣自动化、视频智能分析和边缘人工智能技术的发展，转运中心逐步在装卸区、输送线及分拣格口部署摄像头、视频解码服务器和gpu边缘节点，并利用暴力分拣识别、包裹错分识别等边缘应用对现场视频进行实时处理。相较于将原始视频持续上传至云端的集中处理方式，边缘计算能够缩短视频传输路径，降低中心网络带宽占用，并提高现场识别和告警响应的实时性。对于具有多个转运中心的物流网络，云边协同管理技术进一步通过云端管理平台对不同地理位置的gpu节点、应用版本和运行状态进行集中管理，在边缘侧保留视频解码、算法推理和本地任务执行能力。现有云边协同架构通常采用容器镜像管理、边缘节点注册、资源监控及任务调度等技术，使边缘应用能够在不同gpu服务器上部署运行，并通过云端统一获取节点利用率、应用运行状态和计算结果。随着转运中心数量、视频通道路数及边缘应用种类持续增加，gpu算力管理已由单节点资源配置问题发展为涉及多转运中心状态协同、异构gpu能力换算、应用资源需求估计和业务优先级保障的综合资源管理问题，然而，现有多转运中心边缘算力管理技术通常主要依据gpu利用率、空闲显存或固定资源配置进行任务分配，缺少对包裹通过量、有效视频输入速率、算法输入队列积压、业务事件紧急程度以及画面目标密度和运动强度的联合分析，因而难以在转运作业负荷变化前准确确定边缘应用的实际算力需求。

技术实现思路

1、鉴于上述现有存在的问题，提出了本发明。

2、因此，本发明提供了一种面向多转运中心的边缘算力云边协同管理方法及系统，解决现有技术难以在转运作业负荷变化前准确确定边缘应用的实际算力需求的问题。

3、为解决上述技术问题，本发明提供如下技术方案：

4、第一方面，本发明提供了一种面向多转运中心的边缘算力云边协同管理方法，其包括，

5、部署云端管理平台建立边缘管理域并划分状态周期采集边缘节点数据生成资源状态账本；

6、在状态周期内采集边缘应用作业参数分析边缘应用作业压力，根据边缘应用作业压力生成弹性算力需求区间；

7、通过资源状态账本构建应用可执行节点集合；

8、划分算力令牌并分析应用令牌分配优先度进行算力令牌分配，对允许转运的边缘应用选择目标转运中心，基于目标转运中心的应用可执行节点集合选择目标节点，锁定目标节点后创建应用实例进行边缘应用转运。

9、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述部署云端管理平台建立边缘管理域并划分状态周期采集边缘节点数据生成资源状态账本具体为：

10、在云端部署云端管理平台；

11、在每个转运中心内建立独立的边缘管理域；

12、云端管理平台分别为转运中心、边缘节点、终端设备、边缘应用、应用版本和应用实例生成唯一标识；

13、设置统一时间服务，各转运中心每60秒发起一次时间同步，完成时间同步后，将运行时间划分为连续状态周期，在每个状态周期内，边缘节点代理按照5秒采样间隔采集动态状态并以状态周期编号为索引形成多转运中心资源状态账本。

14、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述在状态周期内采集边缘应用作业参数分析边缘应用作业压力具体为：

15、在每个状态周期内，针对转运中心中的边缘应用采集作业关联参数，包括包裹通过量、有效视频输入速度、算法输入队列积压量、业务事件紧急程度、画面目标密度以及画面运动强度；

16、边缘应用对状态周期内接收的视频帧执行目标检测，统计每帧有效目标数量，将状态周期内各帧有效目标数量的平均值作为当前目标数量，并将其除以最近七个完整运行日中同一应用目标数量的95百分位基准，得到归一化画面目标密度；

17、边缘应用对相邻抽取帧进行灰度化处理，并计算对应像素的绝对差值，对全部像素绝对差值求平均，得到单组相邻帧的变化程度，再对状态周期内全部相邻帧变化程度求平均，得到当前周期的画面运动量，将当前画面运动量除以最近七个完整运行日内同一应用画面运动量的95百分位基准，得到归一化画面运动强度；

18、将归一化画面目标密度和归一化画面运动强度与1加权计算画面复杂程度；

19、针对包裹通过量、有效视频输入速率和算法输入队列积压量，分别统计最近七个完整运行日内对应数据的95百分位，得到包裹通过量基准、有效视频输入速率基准以及队列积压基准，采用基准值分别进行归一化得到归一化包裹通过量、归一化有效视频输入速率以及归一化队列积压量并与业务事件紧急程度加权后乘以画面复杂程度得到边缘应用在状态周期内的作业压力；

20、采用指数平滑方式计算下一状态周期的预测压力。

21、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述根据边缘应用作业压力生成弹性算力需求区间具体为：

22、云端为边缘应用新版本建立资源描述文件；

23、针对每一种边缘应用版本和每一种支持的gpu型号建立独立基准测试任务；

24、对于转运中心中的边缘应用，根据当前接入视频路数、单路抽帧频率和画面复杂程度的乘积计算应用修正输入规模；

25、将同一应用版本、同一gpu型号的有效基准测试结果按照修正输入规模从小到大排列，形成多个测试点，每个测试点包括修正输入规模和对应的gpu等效占用量；

26、若当前修正输入规模处于相邻测试点的修正输入规模之间，则采用相邻测试点线性插值计算基础gpu需求；

27、将各测试点的gpu显存峰值按照修正输入规模排列，对于位于相邻测试点之间的当前输入规模，使用相邻显存峰值进行线性插值，得到基础显存需求，在基础显存需求上增加显存安全余量，生成推荐显存需求；

28、根据应用资源描述文件分别计算三种修正输入规模，并获得对应gpu需求，形成应用弹性算力需求区间。

29、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述通过资源状态账本构建应用可执行节点集合具体为：

30、在每个状态周期内，从资源状态账本中提取转运中心的每个边缘节点的运行数据并生成节点运行状态记录；

31、计算边缘节点基础状态因子，包括心跳状态因子、温度状态因子、错误状态因子、网络状态因子以及磁盘状态因子；

32、将边缘节点基础状态因子进行加权融合得到节点综合健康度；

33、综合节点物理资源、当前资源占用、系统预留资源和健康度，计算节点有效gpu容量和节点有效显存容量；

34、建立边缘节点与边缘应用的兼容状态约束和数据本地性状态约束；

35、根据节点健康度、有效gpu容量、有效显存容量、兼容状态及数据本地性状态，构建应用可执行节点集合。

36、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述划分算力令牌并分析应用令牌分配优先度进行算力令牌分配，对允许转运的边缘应用选择目标转运中心具体为：

37、将一个gpu等效容量划分为固定粒度的算力令牌，根据有效gpu容量计算转运中心可用于新增任务和弹性调整的令牌数量；

38、根据三种修正输入规模对应的gpu需求分别生成最低保障令牌、推荐补充令牌和突发补充令牌，标记应用业务优先级，将业务优先级、归一化预测压力以及归一化队列积压量进行加权得到应用令牌分配优先度；

39、云端管理平台首先为转运中心内全部实时应用分配最低保障令牌，在完成最低保障后，优先为一级应用补足推荐令牌，再按照令牌分配优先度从高到低为其他应用分配推荐令牌，若仍存在剩余可用令牌，则继续按照相同优先度分配突发令牌，最后剩余的令牌进入非实时任务共享资源池；

40、对于资源描述文件中标记为允许跨转运中心运行的非实时任务，云端管理平台从其他转运中心中筛选具有剩余令牌的候选中心，并计算候选中心接收得分，选择接收得分最高且得分不低于0.50的转运中心作为非实时任务目标中心；

41、将令牌分配结果和跨中心任务接收结果作为一条完整算力承诺令牌记录。

42、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述基于目标转运中心的应用可执行节点集合选择目标节点具体为：

43、转运中心本地接收到算力承诺令牌后进行令牌校验，并为令牌中的应用绑定最低保障令牌，对转运中心的可执行节点集合中每个候选节点计算应用部署后的候选节点部署代价，将部署代价最小的候选节点作为目标节点。

44、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：所述锁定目标节点后创建应用实例进行边缘应用转运

45、目标节点锁定后，本地任务调度器检查应用镜像、模型和配置文件是否已经位于节点本地；

46、校验通过后，目标节点按照令牌对应的gpu容量和推荐显存需求创建应用实例，将视频解析sdk、模型文件和应用配置挂载至实例，并建立与视频解码服务器之间的输入通道；

47、实例启动后先输入预设测试帧完成模型预热，再每10秒执行一次健康检查，连续三次健康检查均通过后，将正式视频流切换至新实例；

48、若任一健康检查失败，则停止该实例、释放已绑定令牌和节点资源，并将失败原因写入应用实例状态记录，之后从剩余候选节点中重新选择部署代价最低的节点，最多重新部署一次，再次失败时生成应用部署异常记录。

49、作为本发明所述面向多转运中心的边缘算力云边协同管理方法的一种优选方案，其中：将应用实例部署结果组织为一条完整应用部署关系记录并上传至资源状态账本。

50、第二方面，本发明提供了一种面向多转运中心的边缘算力云边协同管理系统，包括，

51、数据处理模块，用于部署云端管理平台建立边缘管理域并划分状态周期采集边缘节点数据生成资源状态账本；

52、应用算力分析模块，用于在状态周期内采集边缘应用作业参数分析边缘应用作业压力，根据边缘应用作业压力生成弹性算力需求区间；

53、节点分析模块，用于通过资源状态账本构建应用可执行节点集合；

54、算力分配与转运模块，用于划分算力令牌并分析应用令牌分配优先度进行算力令牌分配，对允许转运的边缘应用选择目标转运中心，基于目标转运中心的应用可执行节点集合选择目标节点，锁定目标节点后创建应用实例进行边缘应用转运。

55、本发明有益效果为：本发明通过建立多转运中心资源状态账本，实现设备、节点、应用、版本及视频通道的统一关联和时序记录，提高运行状态的可追溯性；通过融合转运作业量、视频输入、队列积压、事件等级和画面复杂程度生成作业压力，并结合实测响应关系形成弹性算力需求，提高gpu需求估计的场景适应性；通过节点健康度、有效资源、兼容状态及数据本地性构建可执行节点集合，降低任务部署至异常或不兼容节点的风险；通过分层算力承诺令牌协调云端资源边界与边缘实时调度，并利用部署代价选择目标节点、完成镜像校验和实例健康检查，最终提高多转运中心gpu资源利用效率、实时应用保障能力及边缘应用部署稳定性。