一种任务与场景联合驱动的设备算力评估方法和系统与流程

本发明属于算力评估，更具体地，涉及一种任务与场景联合驱动的设备算力评估方法和系统。

背景技术：

1、随着人工智能、云计算产业持续规模化发展，异构算力硬件广泛落地，各类推理、训练任务业务需求差异化显著，算力设备选型、集群资源调度均依赖准确的算力评估结果，算力评估体系成为支撑数字基础设施高效运转的核心环节。当前行业主流算力评估手段多依托通用基准测试程序，依靠浮点峰值、理论带宽等静态硬件参数完成打分，整体评估逻辑存在明显局限性，难以适配复杂多变的真实业务落地需求。

2、传统评估方式脱离业务任务本身特性，仅采用标准化合成负载开展测试，无法区分计算密集、访存密集等不同任务的运行差异。两份理论峰值接近的算力硬件，在不同算子结构的业务模型中会呈现悬殊的时延、吞吐表现，单纯依靠通用跑分极易造成硬件选型偏差，增加部署成本与资源浪费。同时现有方案未纳入部署场景约束条件，无法兼顾时延阈值、功耗上限、并发压力等业务硬性限制，评估结果仅能反映硬件极限性能，不能衡量设备在规定约束下的稳定服务能力。

3、现有评估手段多单一采集底层硬件指标或上层软件执行数据，软硬件运行信息相互割裂，难以定位负载波动下的性能衰减根源。各类硬件指标、算子执行指标量纲不统一，缺少标准化融合手段，多维性能数据无法形成统一量化依据。多数评估体系采用固定权重计算综合得分，无法根据场景需求动态调整指标优先级，时延敏感、功耗受限等差异化场景无法得到针对性评估结论。

4、整体来看，现有算力评估方法存在任务解耦、场景缺失、数据维度单一、多维特征耦合关系挖掘不足、评估权重固化等多重问题，评估结果与真实业务运行状态偏差较大，无法为算力调度、硬件选型、系统优化提供可靠量化支撑。行业亟需一套兼顾任务特性与场景约束、多维度数据协同建模、适配不同业务需求的精细化算力评估方案。

技术实现思路

1、本发明旨在克服现有算力评估脱离业务任务、忽略部署约束、数据维度单一、评价权重固定的缺陷，结合任务计算特征与场景环境约束开展联合建模，通过分层测试采集软硬件双层运行数据，借助张量分解挖掘多维性能关联，依据场景需求动态分配评估权重，实现贴合真实业务工况的算力测算，为算力硬件选型与资源调度提供可靠量化依据。

2、针对现有技术的以上缺陷或改进需求，作为本发明的第一方面，本发明提供一种任务与场景联合驱动的设备算力评估方法，包括：

3、s1.获取待评估任务的计算属性特征以及目标部署场景的环境约束特征，并通过特征融合模型对所述计算属性特征和所述环境约束特征进行联合编码，生成任务-场景联合特征向量；

4、s2.基于所述任务-场景联合特征向量，动态生成包含多个资源负载梯度的测试探针序列，并控制待评估设备执行所述测试探针序列以同步采集双层运行数据；

5、s3.对所述双层运行数据进行时序对齐与特征融合，并将融合后的数据输入算力效能张量映射模型进行张量分解，输出多维算力效能张量；

6、s4.基于所述环境约束特征生成动态权重向量，利用所述动态权重向量对所述多维算力效能张量进行加权聚合，输出针对所述待评估设备的最终算力评估结果。

7、进一步地，所述s1中，获取待评估任务的计算属性特征以及目标部署场景的环境约束特征，具体包括：

8、解析所述待评估任务的计算图，提取算子计算密度与内存访存模式，生成所述计算属性特征；其中，所述算子计算密度包括乘加运算量与参数量的比值，所述内存访存模式包括内存带宽需求与缓存重用率；

9、获取所述目标部署场景的约束条件，提取时延阈值、功耗上限以及并发吞吐需求，生成所述环境约束特征；

10、同时，所述通过特征融合模型对所述计算属性特征和所述环境约束特征进行联合编码，生成任务-场景联合特征向量，具体包括：将所述计算属性特征和所述环境约束特征输入基于多层感知机或transformer构建的特征融合模型，映射至高维空间进行交叉融合，输出所述任务-场景联合特征向量。

11、进一步地，所述s2中，基于所述任务-场景联合特征向量，动态生成包含多个资源负载梯度的测试探针序列，具体包括：

12、根据所述任务-场景联合特征向量中表征的算子计算密度与内存访存模式，从所述待评估任务的计算图中提取计算密集型算子和访存密集型算子，构造具有不同输入张量维度的微基准测试用例，并将所述待评估任务的整体模型封装为全量模型测试用例；

13、基于所述环境约束特征中的并发吞吐需求，以并发请求数或批处理大小作为负载调节变量，量化设定多个资源负载梯度；所述多个资源负载梯度包括低于所述并发吞吐需求的常规负载梯度、达到所述并发吞吐需求的满载梯度，以及超出所述并发吞吐需求预设比例的超载梯度，以探测所述待评估设备的性能衰减拐点；

14、将所述全量模型测试用例和所述微基准测试用例按照所述多个资源负载梯度进行阶梯式递增编排，并在相邻的资源负载梯度之间插入状态重置与热稳定间隔，生成所述测试探针序列。

15、进一步地，所述s2中，同步采集双层运行数据，具体包括：

16、基于统一的系统单调时钟，通过读取所述待评估设备的硬件性能计数器，以预设的固定采样周期采集底层硬件状态数据，所述底层硬件状态数据包括处理器运行频率、各级缓存命中率、内存带宽利用率以及实时功耗；

17、通过调用推理引擎的性能分析接口或注册回调函数，以算子执行事件为触发条件采集上层执行追踪数据，并为采集到的各项上层执行追踪数据分配基于所述系统单调时钟的时间戳，所述上层执行追踪数据包括算子执行耗时、内存分配峰值、张量数据传输耗时以及任务排队延迟。

18、进一步地，所述s3中，对所述双层运行数据进行时序对齐与特征融合，具体包括：

19、以所述上层执行追踪数据中各算子执行事件的起始时间戳和结束时间戳构建时间窗口，从所述底层硬件状态数据中提取落入各个所述时间窗口内的数据序列，并计算所述数据序列的统计特征值，完成所述底层硬件状态数据向所述上层执行追踪数据的事件粒度对齐；

20、对对齐后的所述统计特征值与所述上层执行追踪数据进行标准化处理以消除量纲差异，在特征维度上进行拼接，并基于拼接后的数据计算表征硬件资源消耗与算子执行耗时之间映射关系的交叉关联特征，得到所述融合运行数据。

21、进一步地，所述s3中，将融合后的数据输入算力效能张量映射模型进行张量分解，输出多维算力效能张量，具体包括：

22、将所述融合运行数据按照算子节点、资源负载梯度和性能指标三个维度进行结构化重组，构建三阶初始效能张量；

23、再对所述三阶初始效能张量进行分解，得到核心张量以及分别对应于所述三个维度的因子矩阵；在分解过程中，通过设定截断秩过滤掉方差贡献率低于预设阈值的成分，以去除采集噪声并提取主成分特征；

24、基于所述核心张量表征的各维度间全局交互强度，以及所述因子矩阵表征的各维度内在特征分布，计算所述待评估设备在不同资源负载梯度下执行各算子节点时的综合效能得分，并将所述综合效能得分重组为所述多维算力效能张量。

25、进一步地，所述s4中，基于所述环境约束特征生成动态权重向量，具体包括：

26、将所述环境约束特征输入预先训练的场景自适应权重网络；

27、通过所述场景自适应权重网络识别所述目标部署场景的核心性能偏好，并基于所述核心性能偏好动态调整各算力评估维度的权重值，输出所述动态权重向量；其中，当所述目标部署场景为时延敏感型场景时，自动调高时延相关维度的权重值；当所述目标部署场景为功耗受限型场景时，自动调高功耗相关维度的权重值。

28、进一步地，所述s4中，利用所述动态权重向量对所述多维算力效能张量进行加权聚合，输出针对所述待评估设备的最终算力评估结果，具体包括：

29、利用所述动态权重向量对所述多维算力效能张量中的各个维度进行加权求和计算，得到所述待评估设备的综合算力评分；

30、将所述综合算力评分与性能指标阈值要求进行对比，计算所述待评估设备在所述目标部署场景下的约束满足度；

31、将所述综合算力评分和所述约束满足度进行组合，输出包含绝对性能水平和场景契合程度的所述最终算力评估结果。

32、作为本发明的第二方面，还提供一种任务与场景联合驱动的设备算力评估系统，包括：

33、任务场景联合编码单元，用于获取待评估任务的计算属性特征以及目标部署场景的环境约束特征，并通过特征融合模型对所述计算属性特征和所述环境约束特征进行联合编码，生成任务-场景联合特征向量；

34、运行数据采集单元，用于基于所述任务-场景联合特征向量，动态生成包含多个资源负载梯度的测试探针序列，并控制待评估设备执行所述测试探针序列以同步采集双层运行数据；

35、数据融合与张量分解单元，用于对所述双层运行数据进行时序对齐与特征融合，并将融合后的数据输入算力效能张量映射模型进行张量分解，输出多维算力效能张量；

36、加权聚合与评估输出单元，用于基于所述环境约束特征生成动态权重向量，利用所述动态权重向量对所述多维算力效能张量进行加权聚合，输出针对所述待评估设备的最终算力评估结果。

37、作为本发明的第三方面，还提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行任一项所述的一种任务与场景联合驱动的设备算力评估方法。

38、总体而言，通过本发明所构思的以上技术方案与现有技术相比，能够取得下列有益效果：

39、1.本发明的任务与场景联合驱动的设备算力评估方法，通过提取任务计算属性与场景环境约束特征并完成联合编码生成统一特征向量，依托融合后的特征构建适配业务负载的多梯度测试探针序列。该方法不再采用通用无差别测试负载，能够完整贴合待评估任务算子密度、访存特征以及场景并发吞吐需求，测试流程覆盖常规、满载、超载多级负载区间，可捕捉设备性能衰减拐点。测试过程同步采集底层硬件运行数据与上层算子执行数据，统一时钟基准完成时序记录，完整保留硬件资源消耗与软件任务执行的全维度原始信息，避免单一维度数据采集造成的性能信息缺失，从数据源头保障算力评估结果与真实业务运行状态保持一致，减少通用跑分带来的评估偏差。

40、2.本发明的任务与场景联合驱动的设备算力评估方法，通过对时序错位的双层运行数据开展事件粒度对齐与多维度特征融合，引入张量分解处理融合后数据生成多维算力效能张量。时序对齐操作将高频硬件采样数据映射至算子执行时间窗口，消除软硬件数据时间分辨率不匹配带来的数据失真，标准化处理与交叉关联特征计算能够统一各类指标量纲，充分挖掘硬件资源消耗与算子运行耗时的内在关联。三阶张量结构完整保留算子、负载、性能指标三者耦合关系，分解过程过滤低方差噪声成分提取核心性能特征，依托张量模式积量化不同工况下设备综合效能，相比传统二维数据统计方式，完整留存多维性能交互信息，提升算力量化结果的准确性。

41、3.本发明的任务与场景联合驱动的设备算力评估方法，通过基于环境约束特征生成动态权重向量并对多维算力效能张量加权聚合得到最终评估结果。场景自适应权重网络依据部署场景固有约束自动调整各项性能指标权重，时延敏感场景提升时延指标权重，功耗受限场景侧重功耗指标权重，适配不同业务的核心性能偏好。加权聚合过程同步输出设备综合算力评分与场景约束满足度两项指标，既体现设备绝对算力水平，也量化设备与目标部署环境的适配程度，解决固定权重评估无法区分场景差异化需求的问题，输出的评估结论可直接支撑硬件选型、算力调度与系统性能优化工作。