一种电网端侧的轻量化算力模型服务动态扩缩容与负载均衡控制方法及系统与流程

本发明涉及电网智能化运维，具体涉及一种电网端侧的轻量化算力模型服务动态扩缩容与负载均衡控制方法及系统。

背景技术：

1、当前电网端侧模型服务的调度与负载管理方式存在不足：一方面，现有调度方法多采用固定节点部署模式，未结合主节点推理负载动态调整辅节点启停，要么主节点推理过载导致服务卡顿、响应延迟，要么辅节点闲置造成终端算力资源浪费，资源利用率低下；另一方面，现有负载均衡策略多依赖复杂调度组件，需占用大量终端算力资源，适配性差，且未针对电网端侧终端算力设备特性设计轻量化逻辑，易出现单节点资源过载崩溃、负载分配不均等问题。

2、在动态扩缩容方面，现有技术多采用粗放式调度策略，扩容时未精准匹配模型资源需求与节点可用资源，易导致资源碎片化；缩容时未科学筛选冗余节点，无法最大化释放闲置资源。此外，电网端侧设备分布分散、运维难度大，现有方法缺乏完善的异常监测与自愈机制，无法实时识别主节点过载、辅节点故障等异常，需人工干预处理，难以实现无人值守运维，易导致模型服务中断，影响电网端侧智能化业务的正常开展。

技术实现思路

1、发明目的：本发明的目的是提供一种电网端侧的轻量化算力模型服务动态扩缩容与负载均衡控制方法及系统，基于主-辅节点协同架构构建轻量化、高可靠的模型服务调度体系，通过资源精准匹配式扩缩容实现资源优化利用，通过串行反馈式负载均衡防止节点过载，通过全周期异常监测与自愈实现无人值守，适配电网端侧终端算力设备资源受限、带宽有限、可靠性要求高的实际场景，提高资源利用率，解决背景技术中存在的问题。

2、技术方案：本发明所述的一种电网端侧的轻量化算力模型服务动态扩缩容与负载均衡控制方法，包括以下步骤：

3、步骤1：主-辅节点架构初始化，主节点为电网端侧终端算力设备，初始阶段无预先存在的辅节点，仅当主节点推理过载时，从电网端侧现有终端算力设备中筛选符合条件的设备临时产生并启动为辅节点，承担模型推理任务；辅节点启动后，建立该辅节点与子线程之间的一对一绑定关系，每个子线程仅负责对应辅节点的请求分发与结果接收，主节点自身推理任务独立处理；

4、步骤2：动态扩缩容策略执行，采用资源精准匹配式扩容与梯度缩容相结合的方式，扩容时，主节点监测到自身过载后，从电网端侧现有终端算力设备中筛选可用资源满足模型最低资源需求且资源匹配度最高的设备，临时产生为辅节点并启动服务；缩容时，主节点监测到自身负载降低后，优先选择当前已启动的辅节点中处理速度最慢的节点关闭服务，并收回其承担的推理请求；

5、步骤3：轻量化负载均衡调度，基于临时产生的辅节点与子线程一对一绑定的架构，采用单请求串行处理、结果确认后再分发的核心逻辑，子线程向绑定的辅节点分发一个推理请求后等待该辅节点返回处理结果，确认无误后再分发下一个请求；

6、步骤4：异常监测与自愈处理，主节点实时监测自身及当前已启动的各辅节点的运行状态，识别自身过载、辅节点故障及辅节点资源过载三类异常，并针对各类异常自动执行隔离、服务关闭、资源释放及服务重新部署操作；

7、步骤5：闭环校验，主节点在完成扩缩容、负载调整或自愈操作后，校验自身及当前已启动辅节点的服务状态与资源使用情况，确保流程闭环。

8、进一步的，步骤1具体如下：在电网端侧部署终端算力设备，主节点初始阶段优先承担所有模型推理请求；仅在主节点推理过载时，才从电网端侧现有终端算力设备中动态筛选并临时产生辅节点；预设监控周期、扩容阈值、缩容阈值和防抖周期；仅在主节点过载并筛选出临时辅节点后，建立该辅节点与子线程的一对一绑定关系，每个子线程仅负责对应辅节点的请求分发与结果接收。

9、进一步的，步骤2具体如下：扩容时，主节点按预设监控周期监测自身核心指标，满足扩容阈值后先计算模型服务最低资源需求，再从电网端侧现有在线终端算力设备中筛选可用资源满足需求且资源匹配度最高的设备临时产生为辅节点，启动后分流推理请求；缩容时，主节点监测到自身负载低于缩容阈值后，根据当前已启动的各辅节点返回结果的速度计算各辅节点平均处理速度，筛选处理速度最慢的辅节点关闭服务并收回推理请求；每次扩缩容操作完成后启动防抖周期，暂停指标采集与调度决策。

10、进一步的，步骤3具体如下：基于主节点过载后临时产生并已绑定的辅节点与子线程的一对一绑定关系实现负载隔离；主节点优先自身处理推理请求，在已启动临时辅节点的情况下，通过子线程向辅节点串行分发请求，子线程分发一个请求后等待辅节点返回处理结果，确认无误后再分发下一个请求；通过串行分发逻辑，严格控制每个辅节点同一时间仅处理一个请求。

11、进一步的，步骤4具体如下：各节点按预设周期向主节点上报自身运行状态、资源使用率及心跳信号；主节点识别三类异常情形，即主节点连续多个周期消息队列持续增长或资源使用率超阈值判定为自身过载，已启动辅节点连续多个周期未收到心跳信号且询问无响应判定为辅节点故障，已启动辅节点资源使用率连续多个周期超阈值判定为辅节点资源过载；自身过载触发扩容流程重新筛选产生新辅节点，辅节点异常则下发关闭指令隔离异常节点并分流其请求，待资源释放后若主节点仍过载则重新筛选辅节点部署服务。

12、本发明所述的一种电网端侧的轻量化算力模型服务动态扩缩容与负载均衡控制系统，包括：

13、初始化模块：用于主-辅节点架构初始化，主节点为电网端侧终端算力设备，初始阶段无预先存在的辅节点，仅当主节点推理过载时，从电网端侧现有终端算力设备中筛选符合条件的设备临时产生并启动为辅节点，承担模型推理任务；辅节点启动后，建立该辅节点与子线程之间的一对一绑定关系，每个子线程仅负责对应辅节点的请求分发与结果接收，主节点自身推理任务独立处理；

14、扩缩容模块：用于动态扩缩容策略执行，采用资源精准匹配式扩容与梯度缩容相结合的方式，扩容时，主节点监测到自身过载后，从电网端侧现有终端算力设备中筛选可用资源满足模型最低资源需求且资源匹配度最高的设备，临时产生为辅节点并启动服务；缩容时，主节点监测到自身负载降低后，优先选择当前已启动的辅节点中处理速度最慢的节点关闭服务，并收回其承担的推理请求；

15、负载均衡模块：用于轻量化负载均衡调度，基于临时产生的辅节点与子线程一对一绑定的架构，采用单请求串行处理、结果确认后再分发的核心逻辑，子线程向绑定的辅节点分发一个推理请求后等待该辅节点返回处理结果，确认无误后再分发下一个请求；

16、监测自愈模块：用于异常监测与自愈处理，主节点实时监测自身及当前已启动的各辅节点的运行状态，识别自身过载、辅节点故障及辅节点资源过载三类异常，并针对各类异常自动执行隔离、服务关闭、资源释放及服务重新部署操作；

17、闭环校验模块：用于闭环校验，主节点在完成扩缩容、负载调整或自愈操作后，校验自身及当前已启动辅节点的服务状态与资源使用情况，确保流程闭环。

18、进一步的，初始化模块中，具体如下：在电网端侧部署终端算力设备，主节点初始阶段优先承担所有模型推理请求；仅在主节点推理过载时，才从电网端侧现有终端算力设备中动态筛选并临时产生辅节点；预设监控周期、扩容阈值、缩容阈值和防抖周期；仅在主节点过载并筛选出临时辅节点后，建立该辅节点与子线程的一对一绑定关系，每个子线程仅负责对应辅节点的请求分发与结果接收。

19、进一步的，扩缩容模块中，具体如下：扩容时，主节点按预设监控周期监测自身核心指标，满足扩容阈值后先计算模型服务最低资源需求，再从电网端侧现有在线终端算力设备中筛选可用资源满足需求且资源匹配度最高的设备临时产生为辅节点，启动后分流推理请求；缩容时，主节点监测到自身负载低于缩容阈值后，根据当前已启动的各辅节点返回结果的速度计算各辅节点平均处理速度，筛选处理速度最慢的辅节点关闭服务并收回推理请求；每次扩缩容操作完成后启动防抖周期，暂停指标采集与调度决策。

20、进一步的，负载均衡模块中，具体如下：基于主节点过载后临时产生并已绑定的辅节点与子线程的一对一绑定关系实现负载隔离；主节点优先自身处理推理请求，在已启动临时辅节点的情况下，通过子线程向辅节点串行分发请求，子线程分发一个请求后等待辅节点返回处理结果，确认无误后再分发下一个请求；通过串行分发逻辑，严格控制每个辅节点同一时间仅处理一个请求。

21、进一步的，监测自愈模块中，具体如下：各节点按预设周期向主节点上报自身运行状态、资源使用率及心跳信号；主节点识别三类异常情形，即主节点连续多个周期消息队列持续增长或资源使用率超阈值判定为自身过载，已启动辅节点连续多个周期未收到心跳信号且询问无响应判定为辅节点故障，已启动辅节点资源使用率连续多个周期超阈值判定为辅节点资源过载；自身过载触发扩容流程重新筛选产生新辅节点，辅节点异常则下发关闭指令隔离异常节点并分流其请求，待资源释放后若主节点仍过载则重新筛选辅节点部署服务。

22、有益效果：与现有技术相比，本发明具有如下显著优点：（1）采用“主节点优先推理、过载后临时产生并启动辅节点”的协同架构，结合资源精准匹配式扩容与梯度缩容策略，避免终端算力资源碎片化与闲置浪费，大幅提升资源利用率，适配电网端侧资源受限场景。（2）设计轻量化串行反馈式负载均衡策略，无需复杂调度组件，低资源开销，可有效防止临时产生的辅节点过载崩溃，兼顾负载均衡与服务稳定性。（3）构建全自动化异常自愈机制，实现主节点及临时辅节点异常的实时识别、隔离与恢复，无需人工干预，实现电网端侧无人值守运维，降低运维成本。（4）整体逻辑轻量化、可落地性强，无需额外新增硬件，可直接从电网端侧现有终端算力设备中临时产生辅节点，适配电网端侧带宽有限、运行环境复杂的场景，显著提升模型服务调度效率与运行稳定性。