面向同质化算力请求的碳减排基线动态核算系统、方法及介质与流程

本发明涉及工业云平台，尤其涉及面向同质化算力请求的碳减排基线动态核算系统、方法及介质。

背景技术：

1、随着企业将文本生成、智能客服、内容审核等业务接入上游算力机房，多个租户会持续提交业务类型、调用模型规格、上下文长度和输出长度不同的b端算力请求；现有算力服务通常按请求逐次调用模型，并依据机房电能计量数据与区域电网碳排放因子核算能耗及碳排放，供租户进行节能管理和碳减排台账登记。

2、现有技术在多个租户的同类请求集中执行时，往往直接利用机房总耗电或统一平均能耗估算减排量，未能同时建立各请求的单独调用能耗基准、剔除散热器跨鳍片尘桥引起的风扇附加耗电并按照租户的基准能耗分配节约电量，导致节电基准、聚合实际耗电和租户归属口径不能对应，因而难以准确形成可追溯的多租户碳减排核算结果。

技术实现思路

1、本发明的目的是为了解决现有技术中存在的难以准确形成可追溯的多租户碳减排核算结果的缺点，而提出的面向同质化算力请求的碳减排基线动态核算系统、方法及介质。

2、为了解决现有技术存在的问题，本发明采用了如下技术方案：

3、面向同质化算力请求的碳减排基线动态核算系统，包括：

4、基准模块，对业务请求集合中的b端算力请求进行归集，得到同质算力请求组；依据同质算力请求组，得到非聚合基准总耗电；

5、因子模块，从电网碳排放因子库中提取区域电网碳排放因子；

6、尘桥模块，对聚合推理批次对应的鳍片入口图像进行分类，得到跨鳍片尘桥图像；依据跨鳍片尘桥图像，确定尘桥对应散热风扇的风扇耗电量；

7、节电模块，基于非聚合基准总耗电与风扇耗电量，计算节约电量；

8、核算模块，根据节约电量、非聚合基准总耗电和区域电网碳排放因子，对同质算力请求组进行碳减排基线动态核算，得到碳减排核算台账。

9、优选地，得到同质算力请求组，包括：

10、获取待处理的b端算力请求；

11、从每个b端算力请求中获取业务类型和调用模型规格；

12、按照业务类型，对b端算力请求进行分类，得到业务请求集合；

13、按照调用模型规格，对每个业务请求集合中的b端算力请求进行归集，得到候选算力请求组；

14、将候选算力请求组，作为同质算力请求组。

15、优选地，得到非聚合基准总耗电，包括：

16、依据同质算力请求组中的业务类型，从分层基线库中获取对应的单独调用基准能耗记录；

17、依据同质算力请求组中的调用模型规格、上下文长度和输出长度，在单独调用基准能耗记录中确定对应的基准耗电量，以得到b端算力请求对应的单独调用基准能耗；

18、对同质算力请求组中各b端算力请求对应的单独调用基准能耗进行汇总，得到非聚合基准总耗电。

19、优选地，提取区域电网碳排放因子，包括：

20、获取上游算力机房对应的可调用模型规格；

21、将基准能耗核算请求组中的调用模型规格与上游算力机房对应的可调用模型规格进行匹配，确定与基准能耗核算请求组对应的目标上游算力机房；

22、获取电网碳排放因子库；

23、依据目标上游算力机房对应的机房区域，从电网碳排放因子库中提取对应的区域电网碳排放因子。

24、优选地，得到跨鳍片尘桥图像，包括：

25、将同质算力请求组中的b端算力请求发送至目标上游算力机房，并对发送至目标上游算力机房的b端算力请求进行批次归集，得到聚合推理批次；

26、获取聚合推理批次的聚合计算资源；其中，聚合计算资源包括gpu、gpu散热器以及对应的散热风扇；

27、获取聚合计算资源中各gpu散热器对应的鳍片入口图像；

28、从鳍片入口图像中提取尘附着区域；

29、从鳍片入口图像中提取鳍片入口边缘；

30、依据尘附着区域与鳍片入口边缘之间的连接关系，对鳍片入口图像进行分类，得到相邻鳍片尘桥图像和跨鳍片尘桥图像。

31、优选地，确定尘桥对应散热风扇的风扇耗电量，包括：

32、对跨鳍片尘桥图像中的鳍片入口边缘进行标记提取，得到尘桥起始鳍片、尘桥跨越鳍片和尘桥搭接鳍片；

33、沿尘桥起始鳍片至尘桥搭接鳍片的方向，对经过尘桥跨越鳍片的尘附着区域进行连续提取，得到跨鳍片搭接尘桥区域；

34、对跨鳍片搭接尘桥区域经过的鳍片间通道进行统计，得到gpu散热器对应的尘桥占用通道；

35、确定尘桥占用通道对应的尘桥对应散热风扇；

36、获取聚合推理批次在执行过程中尘桥对应散热风扇的风扇耗电量。

37、优选地，计算节约电量，包括：

38、依据聚合推理批次在执行过程中的gpu计算功率，从聚合计算资源对应的散热基准记录中获取散热风扇基准耗电量；

39、根据风扇耗电量与散热风扇基准耗电量，确定跨鳍片搭接尘桥区域对应的散热附加耗电；

40、在聚合推理批次开始执行时，获取聚合计算资源的累计耗电量，得到初始累计耗电量；

41、在聚合推理批次完成执行时，获取聚合计算资源的累计耗电量，得到结束累计耗电量；

42、基于结束累计耗电量与初始累计耗电量，计算聚合计量耗电；

43、从聚合计量耗电中去除散热附加耗电，得到聚合实际耗电；

44、基于非聚合基准总耗电与聚合实际耗电，计算节约电量。

45、优选地，得到碳减排核算台账，包括：

46、对属于同一租户的b端算力请求对应的单独调用基准能耗进行汇总，得到各租户对应的租户基准能耗；

47、根据各租户对应的租户基准能耗和非聚合基准总耗电，计算各租户对应的基准能耗占比；

48、根据基准能耗占比，对节约电量进行分配，得到租户节约电量；

49、根据各租户对应的租户节约电量和区域电网碳排放因子，确定各租户对应的二氧化碳减排量；

50、根据二氧化碳减排量，对同质算力请求组进行碳减排基线动态核算，得到碳减排核算台账。

51、为了解决上述问题，本发明还提供面向同质化算力请求的碳减排基线动态核算方法，所述方法包括：

52、对业务请求集合中的b端算力请求进行归集，得到同质算力请求组；依据同质算力请求组，得到非聚合基准总耗电；

53、从电网碳排放因子库中提取区域电网碳排放因子；

54、对聚合推理批次对应的鳍片入口图像进行分类，得到跨鳍片尘桥图像；依据跨鳍片尘桥图像，确定尘桥对应散热风扇的风扇耗电量；

55、基于非聚合基准总耗电与风扇耗电量，计算节约电量；

56、根据节约电量、非聚合基准总耗电和区域电网碳排放因子，对同质算力请求组进行碳减排基线动态核算，得到碳减排核算台账。

57、本发明还提供一种存储介质，包括计算机程序，计算机程序被处理器执行时实现上述的面向同质化算力请求的碳减排基线动态核算系统。

58、与现有技术相比，本发明的有益效果是：

59、1、通过按业务类型和调用模型规格形成同质算力请求组，依据上下文长度与输出长度匹配请求的单独调用基准能耗，将同组请求批次归集执行，使非聚合基准总耗电与聚合执行对象保持一致，避免统一平均能耗造成基准偏离，为节约电量核算建立可核对的比较基础。

60、2、通过提取gpu散热器的跨鳍片搭接尘桥区域，定位尘桥占用通道及对应散热风扇，并以相同gpu计算功率下的散热风扇基准耗电量扣除散热附加耗电，使聚合实际耗电排除散热器积尘状态的影响，避免把风扇附加耗电误计入聚合推理能耗，使节约电量保持一致的比较口径。

61、3、通过按租户汇总单独调用基准能耗并形成基准能耗占比，将节约电量分配至各租户，结合目标上游算力机房区域的电网碳排放因子折算二氧化碳减排量，使减排结果关联租户、批次、因子及核算时刻，支持碳减排基线随批次更新，改善多租户减排结果无法追溯的问题。