一种分层架构的异构集群功耗监控与控制系统及方法
本发明涉及高性能计算与数据中心运维,尤其是一种分层架构的异构集群功耗监控与控制系统及方法。
背景技术:
1、随着高性能计算与人工智能业务的规模持续增长,集群中的中央处理器(cpu)、图形处理器(gpu)、基板管理控制器(bmc)等异构部件的功耗管理复杂度不断提升。现有功耗监控与控制方案通常分别依赖sysfs、nvml、redfish等不同硬件接口进行数据采集或控制操作,整体上缺乏统一的接口抽象与标准化的管理模型,导致跨硬件平台的管理扩展成本较高。
2、经检索,中国专利cn121455696a公开了一种异构gpu资源管理调度方法,其基于设备插件配合prometheus与grafana组合栈来采集gpu功耗指标,该方法虽然能够实现一定程度的功耗数据可视化,但缺乏对功耗变化趋势的预测能力以及自动化的功耗决策机制,仍需要人工介入进行判断与调控;美国专利us7725572b1公开了一种基于mbean服务器的中央监控架构,该架构面向通用管理场景,未能针对异构硬件在功耗响应速率、非线性特征及热惯性等方面的差异提供区别化的控制策略;中国专利cn112291346a公开了面向异构节点集群的拟态应用部署管理系统,其采用异构节点监控服务定时上报机制,但其功能主要停留在节点级状态监控层面,未能构建集群级的预测驱动功耗配额管理能力。综合上述对比文献可知,现有方案普遍缺乏功耗趋势预测能力、自动化功耗决策能力、异构硬件差异化处理机制、异常自动检测与分类机制,以及集群范围内基于预测的功耗配额动态管理能力。
3、在实际系统部署中,现有技术还存在若干架构层面的缺陷:硬件管理接口不统一(如sysfs、nvml、redfish等),导致跨硬件扩展成本较高;监控链路与控制链路彼此割裂,功耗调控决策大多依赖人工判断,难以形成从感知到调控的自动化闭环流程;在多节点集群场景下,各组件之间的依赖关系与数据流向缺乏清晰定义,致使系统级的联动功耗调控难以有效实施;此外,现有方案未能充分感知并适配中央处理器、图形处理器、基板管理控制器等不同硬件类型在功耗变化速率、非线性特征以及热惯性等方面的本质差异,从而制约了功耗控制系统的精细化程度与整体能效优化效果。
技术实现思路
1、本发明所要解决的技术问题是提供一种分层架构的异构集群功耗监控与控制系统,以解决异构集群中硬件接口不统一、监控与控制割裂、功耗决策依赖人工经验以及集群功耗预算缺少预测性分配的问题。
2、本发明解决上述技术问题所采用的技术方案为:一种分层架构的异构集群功耗监控与控制系统,包括节点代理模块、时序数据库模块、异构感知智能决策引擎模块和控制前端模块;
3、所述的节点代理模块部署于异构集群的各计算节点中,包括多个硬件组件对象;所述的节点代理模块用于统一调度各硬件组件对象的数据更新接口,并将各硬件组件对象返回的自身硬件状态数据拼接为prometheus文本格式的时序指标,同时暴露http监控端点和http控制端点;
4、所述的时序数据库模块用于根据预设的采集周期主动拉取http监控端点暴露的时序指标,对时序指标依次进行时间戳对齐与去重存储操作,得到时序样本;
5、所述的异构感知智能决策引擎模块包括自适应预测子模块、异构评分决策子模块、多元异常检测子模块和预测驱动协同分配子模块;
6、所述的自适应预测子模块用于对时序样本进行预测,得到包含未来k步功耗预测值、预测一阶增量和预测二阶梯度的预测结果;
7、所述的异构评分决策子模块用于根据硬件状态数据识别负载类型,并根据识别出的负载类型选择对应的权重配置;对不同硬件状态数据执行差异化归一化,将归一化后的硬件状态数据按照权重配置与预测一阶增量、预测二阶梯度进行加权求和,得到综合评分;再通过预设的升级阈值和降级阈值形成滞回死区,根据综合评分与滞回死区的关系确定控制模式并生成候选控制参数;
8、所述的多元异常检测子模块用于根据功耗-温度异常类别对候选控制参数进行修正得到响应参数;
9、所述的预测驱动协同分配子模块用于根据集群预算对响应参数进行微调整得到最终控制参数;
10、所述的控制前端模块用于将最终控制参数封装为http/api请求并发送至目标节点的http控制端点;
11、所述的节点代理模块还用于解析通过http控制端点接收的http请求,将最终控制参数路由至对应的硬件组件对象,并通过硬件控制接口执行控制。
12、与现有技术相比,本发明的优点在于通过在每一计算节点部署节点代理模块,该模块统一调度各硬件组件对象的数据更新接口,并将不同硬件返回的状态数据拼接为统一的prometheus文本格式时序指标,同时暴露独立的http监控端点和http控制端点,既实现了对sysfs、nvml、redfish等各异构硬件接口的标准化抽象,降低了跨硬件平台的管理扩展成本,又明确了监控数据采集链路与控制指令下发链路的物理边界与交互协议,使得监控与控制不再割裂,为后续的自动化闭环决策提供了架构基础;时序数据库模块按照预设的采集周期主动拉取监控端点数据并进行时间戳对齐与去重存储,为自适应预测子模块提供了高质量的时序样本;自适应预测子模块基于时序样本输出未来k步功耗预测值、预测一阶增量和预测二阶梯度的多维预测结果,使得系统能够提前感知功耗变化趋势,为后续决策提供前瞻性依据,避免了传统方案中仅依赖当前瞬时值导致调控滞后的问题;异构评分决策子模块能够根据硬件状态数据识别当前负载类型,并针对不同负载类型选择对应的权重配置,进而对不同硬件状态数据执行差异化归一化处理,将归一化后的数据与预测一阶增量、预测二阶梯度进行加权求和得到综合评分,再通过预设的升级阈值和降级阈值形成的滞回死区,根据综合评分与死区的相对关系确定控制模式并生成候选控制参数;这一过程充分考虑了中央处理器、图形处理器、基板管理控制器等异构硬件在功耗响应速率、非线性特征及热惯性上的本质差异,通过负载感知的权重适配和滞回死区设计,有效避免了控制参数在临界点附近的频繁振荡,提升了调控决策的稳定性和硬件适配性;多元异常检测子模块根据功耗-温度异常类别对候选控制参数进行修正得到响应参数,能够在检测到异常状态时及时调整控制策略,防止异常工况下的不当调控,增强了系统的安全性和鲁棒性;预测驱动协同分配子模块进一步根据集群全局预算对响应参数进行微调整,得到最终控制参数,使得各节点的功耗调节不仅立足于自身预测与状态,还能协同满足整个集群的功耗配额约束,实现了从节点级精细化调控到集群级全局优化的统一;控制前端模块将最终控制参数封装为http/api请求发送至目标节点的控制端点,节点代理模块解析请求并将参数路由至对应的硬件组件对象,通过硬件控制接口执行实际控制操作,由此完整打通了“数据采集—时序存储—预测分析—差异化决策—异常修正—集群协同—指令执行”的全链路闭环流程,整个过程中无需人工介入,显著降低了运维负担,同时通过预测驱动、异构感知和全局协同的综合机制,切实提升了异构集群在动态负载下的功耗控制精度、响应速度和整体能效表现。
13、所述的硬件组件对象至少包括集群中中央处理器组件、图形处理器组件和基板管理控制器组件;其中,所述的中央处理器组件用于采集包含cpu频率、cpu利用率和调频策略的硬件状态数据,所述的图形处理器组件用于采集包含gpu功耗、温度、gpu利用率和功耗限制的硬件状态数据,所述的基板管理控制器组件用于采集包含整机功耗、风扇状态和传感器状态的硬件状态数据。
14、所述的自适应预测子模块的具体操作为:
15、对各硬件组件对象分别维护独立的holt双参数指数平滑预测模型,按水平分量和趋势分量递推计算未来k步功耗预测值;
16、获取归一化预测误差,并对水平平滑系数和趋势平滑系数进行参数自整定更新;
17、获取预测一阶增量和预测二阶梯度,其中预测一阶增量为未来一步功耗预测值与当前功耗观测值的差值,预测二阶梯度为当前预测一阶增量与上一时刻预测一阶增量的差值;
18、计算k步功耗预测值的置信区间,当置信区间的上界超过预算阈值时,提前触发异构评分决策子模块或预测驱动协同分配子模块执行决策。各硬件的预测模型能够根据自身功耗变化特性动态调整参数,有效适应中央处理器、图形处理器和基板管理控制器在功耗响应速率和非线性特征上的差异;通过计算预测一阶增量和预测二阶梯度,能够量化功耗的变化速率和加速趋势,为后续综合评分提供比单一预测值更丰富的动态特征;同时,计算k步预测值的置信区间,并在置信区间上界超过预算阈值时提前触发决策模块执行操作,使得系统能够在功耗实际超标之前先行响应,实现了从被动告警向主动预防的转变,显著提升了集群功耗调控的前瞻性和安全性。
19、所述的异构评分决策子模块中,所述的升级阈值大于所述的降级阈值;当综合评分超过升级阈值时,控制模式切换至更保守的模式,生成更积极的降功耗候选控制参数;当综合评分低于降级阈值时,控制模式切换至更积极的模式,允许提升性能;当综合评分介于两者之间时,维持当前控制模式。这种三段式决策机制使得系统既能对功耗风险作出快速响应,又能在安全范围内充分利用硬件性能,在功耗约束与计算效能之间实现了合理的动态平衡。
20、所述的多元异常检测子模块分别计算功耗z-score和温度z-score,并根据二者的联合关系区分真实过载、传感器异常、硬件故障及散热异常,以此确定所述的功耗-温度异常类别;其中,当判定为真实过载或散热异常时,对候选控制参数进行保护性降功耗或调整风扇策略的修正;当判定为传感器异常或硬件故障时,仅触发告警而不修正候选控制参数。分别计算功耗z-score和温度z-score,并根据二者的联合关系将异常区分为真实过载、传感器异常、硬件故障及散热异常四种功耗-温度异常类别,这种联合判别方式克服了单一阈值检测容易产生误报或漏报的缺陷,能够精准定位异常根因而非仅仅感知异常现象;当判定为真实过载或散热异常时,说明功耗升高确实源于实际负载或散热条件恶化,此时对候选控制参数进行保护性降功耗或调整风扇策略的修正,能够有效遏制功耗继续攀升或改善散热环境,起到实质性的保护作用;而当判定为传感器异常或硬件故障时,由于数据本身不可信或硬件已失效,此时仅触发告警而不修正控制参数,避免了基于错误数据产生不当调控指令,防止了因误判而导致的无效调控或二次损害,增强了系统在异常工况下的容错能力和运行安全性。
21、所述的预测驱动协同分配子模块根据各节点的预测功耗、当前功耗和综合能效比计算功耗配额,并在节点当前功耗超过对应配额时,将所述的响应参数调整为降功耗方向的控制参数;所述的综合能效比定义为节点性能代理值与当前功耗的比值。预测驱动协同分配子模块并非仅依据当前功耗进行配额判断,而是综合各节点的预测功耗、当前功耗和综合能效比(性能代理值与当前功耗的比值)来计算各节点的功耗配额,其中预测功耗反映了节点未来短期内的功耗走向,当前功耗反映了实时状态,综合能效比则表征了节点单位功耗所能贡献的性能价值;三者的综合评估使得配额分配不仅着眼于当前和未来的能耗约束,还能够优先将功耗预算倾斜给能效比更高的节点,从而在集群总功耗预算受限的前提下,以更合理的策略分配各节点的功耗额度,提升集群整体的能效利用率;当节点当前功耗超过对应配额时,将响应参数调整为降功耗方向的控制参数,这一机制使得各节点的实际功耗能够向配额目标收敛,实现了集群范围内基于预测和能效优先级的动态功耗配额管理。
22、还包括可视化展示模块,所述的可视化展示模块用于读取时序样本并形成监控视图;
23、所述的系统支持自动模式、监督模式和人工接管模式;在自动模式下,所述的异构感知智能决策引擎模块自动生成最终控制参数并下发;在监督模式下,最终控制参数经用户通过可视化展示模块确认后,再由控制前端模块下发;在人工接管模式下,由用户通过控制前端模块直接设定控制参数。可视化展示模块为用户提供了功耗趋势、异常状态等关键信息的直观呈现;同时系统支持自动模式、监督模式和人工接管模式三种工作模式,在自动模式下智能决策引擎自动生成并下发最终控制参数,实现了无需人工介入的全自动化闭环调控,适用于常规工况下的大规模集群高效运维;在监督模式下最终参数经用户通过可视化模块确认后再下发,兼顾了自动化效率与人工审核的安全性,适用于关键业务或策略调整初期的谨慎部署场景;在人工接管模式下由用户直接设定控制参数,为极端异常情况或特殊运维需求提供了最高权限的人工干预途径;三种模式的分级设计使得系统在自动化程度和人工可控性之间具备灵活切换的能力,能够适应不同应用场景、不同管理策略和不同安全等级下的多元化运维需求。
24、一种使用上述所述的一种分层架构的异构集群功耗监控与控制系统的方法,包括以下步骤:
25、步骤1,获取各硬件组件对象采集的自身硬件状态数据并拼接为prometheus文本格式的时序指标;
26、步骤2,根据预设的采集周期对时序指标依次进行时间戳对齐与去重存储操作,得到时序样本;
27、步骤3-1,对时序样本进行预测,得到包含未来k步功耗预测值、预测一阶增量和预测二阶梯度的预测结果;
28、步骤3-2,根据硬件状态数据识别负载类型,并根据识别出的负载类型选择对应的权重配置;对不同硬件状态数据执行差异化归一化,将归一化后的硬件状态数据按照权重配置与预测一阶增量、预测二阶梯度进行加权求和,得到综合评分;再通过预设的升级阈值和降级阈值形成滞回死区,根据综合评分与滞回死区的关系确定控制模式并生成候选控制参数;
29、步骤3-3,根据功耗-温度异常类别对候选控制参数进行修正,得到响应参数;
30、步骤3-4,根据集群预算对响应参数进行调整,得到最终控制参数;
31、步骤4,将步骤3-4得到的最终控制参数下发至各计算节点,并由各计算节点路由至对应的硬件组件对象,执行控制;
32、步骤5,执行控制后,返回步骤1重新采集硬件状态数据并继续执行,形成反馈闭环。步骤之间的时序逻辑和数据流转关系清晰定义了数据采集、预测决策、控制执行和反馈更新的完整闭环路径,使得整个系统能够在每一轮采集周期内自动完成“感知—预测—决策—执行—反馈”的迭代过程,从而确保了集群功耗状态能够被持续追踪、动态评估和实时调控,最终实现长时间运行条件下稳定、连续、自适应功耗管理目标。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com