一种路由器网关摄像头边缘AI资源虚拟化动态分配方法与流程

本发明涉及边缘计算与人工智能，特别指一种路由器网关摄像头边缘ai资源虚拟化动态分配方法。

背景技术：

1、随着物联网、人工智能和高性能计算技术的飞速发展，智慧家庭、智慧城市及工业物联网等应用场景日益普及。在这些场景中，海量的终端设备（如传感器、摄像头）产生了巨大的数据量。传统的“设备采集数据-上传至云端处理-返回结果”的云计算模式，因受限于网络带宽、传输延迟和云端算力成本等因素，已难以满足诸如人脸识别、自动巡检、安防报警等应用对毫秒级低延迟和极高实时性的要求。

2、因此，将计算任务下沉至网络边缘侧，利用靠近数据源头的路由器、网关和摄像头等设备进行就近处理，已成为当前技术发展的主流趋势。然而，在实际部署中，上述边缘设备构成了一个典型的异构计算层级，其硬件架构和算力能力差异巨大：路由器通常处于网络中心地位但通用算力（cpu）相对较弱；网关设备作为边缘计算的核心节点，通常具备较强的综合算力（多核cpu及gpu）；而智能摄像头则多配备专用的视觉处理单元（npu）以高效执行ai推理任务，但其整体资源（尤其是内存和存储）严重受限。

3、在现有的边缘计算资源管理技术中，普遍采用以下方案：

4、1、基于静态分区的资源管理：例如，通过linux cgroups等技术为操作系统或容器预先分配固定的cpu时间片、内存限额等资源配额。这种分区在系统启动后即固化，难以根据实时的业务负载进行动态调整。

5、2、基于简单规则的事件驱动调度：例如，在kubernetes等容器编排平台中，调度器主要依据节点当前的实时资源水位（如cpu利用率超过80%）进行被动式的应用迁移或副本扩缩容。

6、然而，面对边缘侧业务负载的突发性、波动性和碎片化特征，上述现有技术方案仍存在以下显著的缺陷和不足：

7、一、资源静态固化导致整体利用率低下：静态分配策略无法适应业务负载的时间潮汐效应。例如，当安防摄像头在夜间闲置时，其具备强大ai算力的npu处于空闲状态，而与此同时，网关可能正在进行复杂的视频流解码任务导致cpu过载。由于资源被预先绑定，这种“忙的忙死，闲的闲死”的现象普遍存在，导致整个边缘集群的物理算力利用率通常仅维持在较低水平，造成了硬件资源的极大浪费。

8、二、调度机制滞后，缺乏预测性与实时性：基于阈值规则的被动式调度属于“事后补救”措施。当系统监控到资源负载超过预设阈值并触发调度动作时，应用的服务质量（qos）实际上已经发生了劣化。对于需要毫秒级响应的ai推理任务，这种延迟是不可接受的。现有调度器无法对即将到来的突发负载（如摄像头突然检测到大量移动目标）进行预判和前瞻性的资源准备。

9、三、异构资源缺乏统一抽象，难以实现跨设备协同：cpu、gpu、npu等不同类型的算力单元在架构、指令集和编程模型上存在天然差异，现有技术缺乏一套统一的虚拟化模型来屏蔽这些底层硬件差异。这使得路由器、网关和摄像头的算力无法被汇聚成一个逻辑上的、可统一编排的资源池，导致系统无法将一个设备的空闲算力（例如摄像头的npu）透明地调度给另一个设备（例如网关）上的任务使用，严重制约了边缘侧整体算力的最大化利用。

10、因此，如何提供一种路由器网关摄像头边缘ai资源虚拟化动态分配方法，实现提升边缘集群中cpu、gpu、npu等异构算力的整体利用率、跨设备算力协同调度效率、对突发性业务负载的实时响应与前瞻性预调度能力，成为一个亟待解决的技术问题。

技术实现思路

1、本发明要解决的技术问题，在于提供一种路由器网关摄像头边缘ai资源虚拟化动态分配方法，实现提升边缘集群中cpu、gpu、npu等异构算力的整体利用率、跨设备算力协同调度效率、对突发性业务负载的实时响应与前瞻性预调度能力。

2、本发明提供了一种路由器网关摄像头边缘ai资源虚拟化动态分配方法，包括以下步骤：

3、步骤s1：通过部署于各边缘设备的异构资源抽象层，将各边缘设备的物理算力资源封装为具有统一资源描述格式的虚拟计算单元，并将所述虚拟计算单元的描述信息上报至全局资源池管理模块，以构建统一的边缘算力资源池，并维护所述边缘算力资源池中各虚拟计算单元的状态信息；所述边缘设备包括路由器、网关和智能摄像头；

4、步骤s2：采集各边缘设备的历史负载数据；

5、步骤s3：根据所述历史负载数据，利用预定的预测模型预测各边缘设备在未来时间窗口内的资源需求，得到预测结果；

6、步骤s4：根据所述预测结果和边缘算力资源池中虚拟计算单元的当前状态信息，生成资源分配策略，所述资源分配策略包括：在预测的负载高峰到达之前，预先从所述边缘算力资源池中锁定空闲的虚拟计算单元；以及当被锁定的虚拟计算单元归属于其他边缘设备时，建立跨设备的虚拟计算单元借用关系，将所述虚拟计算单元挂载至目标设备使用；

7、步骤s5：根据所述资源分配策略调整目标设备的资源配额，执行资源分配或跨设备资源挂载操作；

8、步骤s6：监测目标设备的任务负载，当满足资源回收条件时，释放已分配的虚拟计算单元并更新所述边缘算力资源池中各虚拟计算单元的状态信息。

9、进一步的，所述步骤s1中，所述虚拟计算单元的描述信息包括：虚拟计算单元的唯一标识符、归属设备标识、资源类型、cpu核心数量、内存容量、npu算力值、存储容量、当前状态和资源切片粒度。

10、进一步的，所述步骤s2具体为：

11、采集各边缘设备的历史负载数据，对采集到的所述历史负载数据进行归一化和时序对齐的预处理；所述历史负载数据包括cpu利用率、内存占用率、npu利用率、任务队列长度和网络吞吐量中的至少一种。

12、进一步的，所述步骤s3中，所述预测模型为lstm模型或transformer模型，所述未来时间窗口为1秒至5秒，所述预测结果包括各边缘设备在未来时间窗口内各时刻的预测cpu利用率、预测内存占用率和预测任务队列长度。

13、进一步的，所述步骤s4中，所述预先从所述边缘算力资源池中锁定空闲的虚拟计算单元，是在预测的负载峰值到达之前的1秒至5秒内执行；所述资源分配策略还以全局资源利用率最大化和高优先级任务的服务质量保障为优化目标。

14、进一步的，所述步骤s4中，所述建立跨设备的虚拟计算单元借用关系包括：

15、源设备的异构资源抽象层按预设资源切片粒度将物理算力动态切分为多个虚拟计算单元，并为各虚拟计算单元配置独立的资源隔离域，所述资源隔离域包含独立的cpu控制组、内存命名空间及npu算力调度队列；

16、所述全局资源池管理模块响应于目标设备发起的借用请求，根据所述预测结果中的预测资源缺口匹配空闲的虚拟计算单元，并向该虚拟计算单元归属的源设备发送借用协商请求；

17、所述源设备经健康状态检查确认后，将对应的虚拟计算单元切换为预锁定状态，并反馈至所述全局资源池管理模块；

18、所述全局资源池管理模块建立并记录逻辑映射关系，所述逻辑映射关系至少包含目标设备标识、虚拟资源标识符、源设备标识及借用时间窗口，并将所述逻辑映射关系同步至目标设备和源设备的异构资源抽象层；

19、所述源设备的异构资源抽象层根据所述逻辑映射关系创建数据转发通道及资源配额隔离执行环境；所述目标设备的异构资源抽象层创建远程资源代理实例，通过所述数据转发通道将所述虚拟计算单元挂载至本地资源命名空间，并注册为本地操作系统可调用的扩展计算资源；

20、所述远程资源代理实例包含请求排队模块和流控模块，所述请求排队模块用于按预设优先级转发计算请求，所述流控模块用于根据网络状态动态调整传输参数；

21、借用关系终止时，所述全局资源池管理模块更新所述逻辑映射关系，并通知所述源设备回收所述数据转发通道及资源配额隔离执行环境、所述目标设备销毁所述远程资源代理实例。

22、进一步的，所述步骤s5中，所述调整目标设备的资源配额，通过linux cgroups机制或容器化资源限制机制实现，所述资源配额包括cpu时间片配额、内存限额、npu算力使用配额和网络带宽配额。

23、进一步的，所述步骤s6中，所述资源回收条件为：目标设备的实时负载低于预设回收阈值且持续时间超过预设稳定时间；或者接收到资源回收指令。

24、进一步的，所述路由器配置有cpu算力，所述网关配置有多核cpu和gpu算力，所述智能摄像头配置有npu算力；所述全局资源池管理模块和用于执行所述预测模型的资源预测与调度引擎部署于网关。

25、进一步的，所述方法还包括：

26、设备动态加入步骤：当新的边缘设备接入时，新的边缘设备通过其异构资源抽象层将自身物理算力封装为虚拟计算单元并上报至所述全局资源池管理模块，所述全局资源池管理模块将虚拟计算单元加入边缘算力资源池。

27、本发明的优点在于：

28、1、通过部署异构资源抽象层，将路由器、网关和智能摄像头中异构的cpu、gpu、npu物理算力封装为具有统一描述格式的虚拟计算单元，并上报至全局资源池管理模块构建统一的边缘算力资源池，从根本上打破设备间的物理边界，为跨设备算力协同奠定基础；在此基础上，采集各边缘设备的历史负载数据并利用lstm或transformer模型预测未来1-5秒内的资源需求，在预测的负载峰值到达前预先从资源池中锁定空闲虚拟计算单元，并通过建立包含资源切片隔离、逻辑映射关系同步、数据转发通道及远程资源代理实例的跨设备借用机制，将归属于其他设备的虚拟计算单元透明挂载至目标设备的本地资源命名空间，使目标设备上的任务能够像调用本地资源一样使用远端空闲的npu或cpu算力，同时远程资源代理内置请求排队与流控模块，根据网络状态动态调整传输参数，保障跨设备调用的实时稳定性；之后根据分配策略动态调整目标设备的cpu时间片、内存限额、npu算力及网络带宽配额，并在负载回落至回收阈值后及时释放资源并更新池状态，形成“感知-预测-前瞻锁定-透明挂载-动态调整-及时回收”的闭环，从而大幅提升异构算力的整体利用率，实现高效的跨设备协同调度，并对突发性业务负载做出前瞻性预调度，确保毫秒级ai任务的响应及时性。

29、2、通过部署异构资源抽象层，将路由器、网关、摄像头中各类物理算力（cpu、gpu、npu）封装为统一描述的虚拟计算单元，并汇聚为全局边缘算力资源池，实现算力资源的池化共享；在此基础上，根据预测结果提前锁定空闲虚拟计算单元并支持跨设备借用，使算力能够按需流动至负载密集的设备，有效消除设备间的“忙闲不均”现象，从而在整体上大幅提高边缘集群的物理算力利用效率，减少硬件资源闲置与浪费。

30、3、采集边缘设备的历史负载数据，并利用预测模型对未来短时间窗口内的资源需求进行准确预估，进而在负载峰值到来之前预先执行资源锁定和跨设备挂载操作；这种前瞻性的预调度机制使得目标设备在实际任务激增时已具备充足的可用算力，能够从容应对突发的计算请求，确保ai推理等实时任务在任何时刻都能获得及时的资源支撑，从而有效保障业务的连续性与响应速度。

31、4、通过统一的虚拟计算单元描述格式和全局资源池管理模块，屏蔽了底层硬件在架构、指令集和编程模型上的差异，使不同设备的异构算力在逻辑上融为一个可统一编排的资源整体；当某设备算力不足时，无需感知对方硬件类型，即可透明地将其他设备上的虚拟计算单元挂载至本地使用，实现算力的跨设备无缝调用；这一机制极大简化了异构环境下资源调度的复杂度，使边缘集群的协同能力得到本质提升。

32、5、不仅设计了资源的动态分配和跨设备借用流程，还明确了资源回收条件和触发机制，在目标设备负载回落或收到回收指令时及时释放已分配的虚拟计算单元，并同步更新资源池状态；由此，整个资源生命周期涵盖“预测锁定—挂载使用—回收释放”的完整闭环，保证已借出的资源能够迅速归还给原设备，避免长期占用导致的二次资源紧缺，同时维持资源池状态信息的实时准确，为后续调度决策提供可靠依据，使系统始终保持动态平衡和高效运转。

33、6、允许源设备按照预设的资源切片粒度，将物理算力灵活切分为多个虚拟计算单元，并为每个单元配置独立的资源隔离域（包括cpu控制组、内存命名空间及npu调度队列）；这种细粒度切分机制使得资源分配可以精确匹配任务需求，避免粗粒度分配造成的浪费或不足；同时，独立的隔离域确保了不同任务或不同设备在共享算力时互不干扰，有效防止资源争抢和性能抖动，既保证了调度的灵活性和精准性，又维护了多任务并发场景下的系统稳定性与安全性。

34、7、全局资源池管理模块和用于执行预测模型的资源预测与调度引擎部署于网关，而非云端或更高级别的中心服务器。这一部署选择充分考虑了边缘场景的实际约束：网关作为边缘计算的核心节点，通常具备较强的综合算力（多核cpu和gpu），足以承担资源调度和模型推理的计算开销，同时又无需将大量的设备状态数据和调度请求上传至云端，避免了额外带宽占用和云端处理延迟。更重要的是，即使广域网连接出现波动或中断，网关仍能独立完成资源池管理和预测调度，保证了系统在弱网甚至断网环境下的自治运行能力，显著提升了边缘ai系统的部署灵活性和环境适应性。

35、8、设置了设备动态加入步骤，规定新的边缘设备接入时只需通过其异构资源抽象层将物理算力封装为虚拟计算单元并上报至全局资源池管理模块，即可自动加入边缘算力资源池，无需重启系统或重新配置已有设备；这一机制使得整个边缘算力集群具备天然的弹性扩展能力——无论是新增智能摄像头、升级路由器还是扩充网关节点，新设备的算力都能在接入瞬间被资源池识别和纳管，立即参与全局调度；这种“即插即用”的动态加入方式，为智慧家庭、智慧城市等不断有设备迭代和增补的应用场景提供了极大的工程便利性和长期演进能力。

36、9、在跨设备借用流程中，要求全局资源池管理模块将建立的逻辑映射关系同步至目标设备和源设备的异构资源抽象层，而不仅仅是单向记录在中心管理模块中；这种三方同步机制确保了目标设备知晓自己挂载了哪些远程资源、源设备知晓自己的哪些虚拟单元正被借用、全局模块掌握完整的分配拓扑，任何一方都能获取一致且完整的资源状态视图；当调度决策需要基于当前状态做出时，各设备本地即可快速响应，无需反复查询中心节点，既降低了全局模块的通信压力，又避免了因状态不同步导致的资源冲突或重复分配，为大规模并发调度场景下的决策准确性和系统一致性提供了坚实保障。

37、10、在目标设备创建的远程资源代理实例中，不仅包含请求排队模块，还设置了流控模块，该模块能够根据网络状态动态调整传输参数；这一设计充分考虑到了边缘设备之间往往通过wi-fi、有线或甚至电力线等多样化的网络互联，链路质量（如带宽、延迟、丢包率）随时间和环境显著波动的现实情况；通过引入网络状态感知的流控机制，跨设备计算请求的传输速率和超时策略能够自适应地调整，有效避免因网络拥塞导致远程调用超时或数据丢失，从而在保证算力调度的同时，同步保障了远程计算请求的传输可靠性和时效性，使本发明的技术方案在复杂多变的真实边缘网络环境中仍能稳定高效运行。