一种算力资源广域互联调控方法及系统与流程

摘要: 本发明属于通信,具体涉及一种算力资源广域互联调控方法及系统。背景技术:1、随着人工智能训练、科学计算、电力业务智能分析和大规模数据处理需求不断增长,多个数据中心...
一种算力资源广域互联调控方法及系统与流程

本发明属于通信,具体涉及一种算力资源广域互联调控方法及系统。

背景技术:

1、随着人工智能训练、科学计算、电力业务智能分析和大规模数据处理需求不断增长,多个数据中心之间的算力协同已成为提升算力资源利用效率的重要方式。基于“东数西算”和新型电力系统的建设需求,数据中心既是高耗能主体,也逐步具备一定的负荷调节潜力。通过跨区域算力协同,可以在一定程度上缓解局部算力资源紧张、数据中心负荷集中以及不同区域电力供需不均衡等问题。

2、现有技术中,针对跨数据中心算力调度,通常根据用户任务需求、算力资源余量、存储资源情况、网络带宽、链路时延或任务完成时间等因素选择计算节点或数据中心。对于部分算电协同场景,也会参考分时电价、需求响应价格或电力市场价格等信息,对计算任务的执行时间或执行位置进行调整。上述方式能够在一定条件下实现算力任务的跨域分配,但多侧重于算力资源选择、网络路径选择或任务卸载决策中的某一方面。

3、在实际广域算力协同场景中,计算任务跨数据中心迁移不仅涉及计算资源是否可用,还受到广域网络质量、数据传输条件、任务执行时限、不同数据中心运行成本以及电网侧业务要求等多方面因素影响。现有处理方式在面对多数据中心、多网络层级以及多业务约束同时存在的场景时,容易出现任务调度结果与网络承载能力不匹配、计算任务执行位置与实际运行成本不协调、调度执行过程与后续业务核算衔接不足等问题,影响广域算力资源调控的稳定性和经济性。

4、此外,数据中心参与电网调节时,需要在较短时间内完成业务响应、任务迁移、资源配置和结果核算等处理。现有技术中,电网侧业务系统、算力资源管理系统和网络资源管理系统通常相对独立,跨系统协同过程依赖多次人工确认或离线决策,导致响应链条较长,难以满足广域算力负荷灵活调节和持续核算的应用需求。

5、因此,亟需一种算力资源广域互联调控方法,以提高跨数据中心算力调度过程中资源协同、迁移执行和结果核算的准确性与一致性。

技术实现思路

1、本发明提供的一种算力资源广域互联调控方法,通过电价信号、算网资源状态、任务需求、协同编排和迁移核算的关联处理,解决现有技术中跨数据中心算力调度与网络资源协同不足、迁移结果难以核算的问题。

2、第一方面,本发明提供一种算力资源广域互联调控方法,所述方法包括:

3、获取电网主站发布的电价信号以及多个数据中心的资源运行数据和算力资源状态,根据所述电价信号和所述资源运行数据生成综合算力成本数据;

4、获取算力业务意图,对所述算力业务意图进行解析,生成任务链以及所述任务链中各计算任务对应的资源需求数据;

5、基于所述任务链、资源需求数据、综合算力成本数据和所述算力资源状态,在满足各计算任务的资源需求的条件下,确定目标迁移任务及所述任务链中各计算任务的执行数据中心、计算资源和任务执行时间窗口;针对所述目标迁移任务,确定在对应任务执行时间窗口内执行源数据中心迁移至目标数据中心采用的ip层传输路径和光传输层承载路径,生成包含所述目标迁移任务的任务位置映射结果、网络路径映射结果和任务执行时间窗口的三维协同编排方案,基于所述三维协同编排方案生成跨层控制指令;

6、按照所述跨层控制指令执行目标迁移任务的算力资源调度和网络资源调度,完成跨数据中心迁移,获取迁移执行数据;

7、基于所述迁移执行数据确定迁移期间的能耗数据和负荷变化数据,根据所述能耗数据、负荷变化数据和所述综合算力成本数据核算算力负荷迁移的成本与收益,生成互动结算数据。

8、采用上述方案,本发明的算力资源广域互联调控方法,通过获取电价信号、资源运行数据和算力资源状态,生成综合算力成本数据,实现电网侧价格因素与数据中心运行成本的关联表征;通过解析算力业务意图生成任务链和资源需求数据,结合综合算力成本数据和算力资源状态生成三维协同编排方案,实现目标迁移任务在位置、路径和时间维度上的联合确定;进一步地,通过跨层控制指令执行算力资源调度和网络资源调度,基于迁移执行数据生成互动结算数据,实现跨数据中心迁移执行与迁移核算之间的闭环处理,提高广域算力资源调控的协同性和可核算性。

9、在本发明的一些实施方式中,所述根据所述电价信号和所述资源运行数据生成综合算力成本数据,包括:从所述电价信号中提取调度容量补偿价格、需求响应激励价格、分时电价、节点边际电价和实时电价中的至少一种,生成电价参数;基于所述资源运行数据获取各数据中心的算力资源能耗、制冷系统能耗、供配电系统能耗、辅助系统能耗和电能利用效率pue,生成基础电价数据;获取各数据中心的算力资源使用费用和计算任务迁移成本,根据所述电价参数、基础电价数据、算力资源使用费用和计算任务迁移成本,生成所述综合算力成本数据。

10、在本发明的一些实施方式中,所述对所述算力业务意图进行解析,生成任务链,包括:获取所述算力业务意图中的业务类型、任务目标、执行期限和调度偏好,生成业务意图特征数据;基于所述业务意图特征数据确定算力业务种类、业务特征和任务属性,生成业务解析结果;基于所述业务解析结果匹配标准化任务模板,确定多个计算任务以及多个计算任务之间的逻辑关系,生成所述任务链。

11、在本发明的一些实施方式中,所述生成所述任务链中各计算任务对应的资源需求数据,包括:基于所述任务链获取各计算任务的发生时间、持续时间、执行顺序和截止期限,生成时间需求;基于所述任务链获取各计算任务所需的cpu资源、gpu资源、内存资源和存储资源,生成计算资源需求;基于所述任务链获取各计算任务对应的带宽需求、时延需求、丢包率需求和抖动需求,生成网络资源需求;根据所述时间需求、计算资源需求和网络资源需求,生成所述资源需求数据。

12、在本发明的一些实施方式中,所述生成包含任务位置映射结果、网络路径映射结果和任务执行时间窗口的三维协同编排方案,包括:基于所述任务链、资源需求数据和综合算力成本数据,识别任务链中执行成本较高或资源利用效率较低的任务,从所述任务链中确定目标迁移任务;基于所述资源需求数据、综合算力成本数据和多个数据中心的资源运行数据,采用成本效益分析与资源匹配方法确定各计算任务对应的数据中心和计算资源,生成所述任务位置映射结果;基于所述资源需求数据和所述算力资源状态,采用多约束联合优化方法确定各计算任务对应的ip层传输路径和光传输层承载路径,生成所述网络路径映射结果;基于所述时间需求、综合算力成本数据和所述任务链中各计算任务之间的逻辑关系,采用关键路径与成本感知的联合调度方法确定各计算任务的执行窗口,生成所述任务执行时间窗口;根据所述任务位置映射结果、网络路径映射结果和任务执行时间窗口,生成所述三维协同编排方案。

13、在本发明的一些实施方式中,所述基于所述三维协同编排方案生成跨层控制指令,包括:基于所述任务位置映射结果生成面向算力资源控制系统的算力控制指令,其中,所述算力控制指令包含算力资源迁移、预留或分配指令中的至少一种;基于所述网络路径映射结果生成面向ip网络控制系统的ip网络控制指令和面向光网络控制系统的光网络控制指令,其中,所述ip网络控制指令包含srv6 policy、mpls隧道、qos或拥塞控制参数配置指令中的至少一种,所述光网络控制指令包含otn硬管道、波长、oduk时隙或osuflex时隙配置指令中的至少一种;基于所述网络路径映射结果和所述任务执行时间窗口生成面向智算网关的网关控制指令,其中,所述网关控制指令包含流量引导、速率调整、接入控制或拥塞控制指令中的至少一种;将所述算力控制指令、ip网络控制指令、光网络控制指令和网关控制指令确定为所述跨层控制指令。

14、在本发明的一些实施方式中,所述按照所述跨层控制指令执行目标迁移任务的算力资源调度和网络资源调度,包括:从所述三维协同编排方案中提取所述目标迁移任务;根据所述算力控制指令为所述目标迁移任务分配cpu资源、gpu资源、内存资源和存储资源中的至少一种,生成算力资源调度结果;根据所述ip网络控制指令为所述目标迁移任务建立ip层传输路径,配置服务质量参数和拥塞控制参数,生成ip网络调度结果;根据所述光网络控制指令为所述目标迁移任务创建或调整光传输层承载通道,生成光网络调度结果;根据所述网关控制指令调整智算网关的流量引导规则和流量控制参数,生成网关调度结果;根据所述算力资源调度结果、ip网络调度结果、光网络调度结果和网关调度结果,执行所述目标迁移任务的算力资源调度和网络资源调度。

15、在本发明的一些实施方式中,所述完成跨数据中心迁移,获取迁移执行数据,包括:基于所述任务位置映射结果确定所述目标迁移任务的源数据中心和目标数据中心;基于所述网络路径映射结果、算力资源调度结果、ip网络调度结果、光网络调度结果和网关调度结果,执行所述目标迁移任务由源数据中心向目标数据中心的跨数据中心迁移;获取所述目标迁移任务在迁移期间的实际迁移时段、迁移前算力负荷、迁移后算力负荷和能耗采集数据,生成所述迁移执行数据;其中,所述迁移执行数据还包括任务执行状态和网络连接状态中的至少一种。

16、在本发明的一些实施方式中,所述基于所述迁移执行数据确定迁移期间的能耗数据和负荷变化数据,根据所述能耗数据、负荷变化数据和综合算力成本数据核算算力负荷迁移的成本与收益,生成互动结算数据,包括:基于所述迁移执行数据获取所述目标迁移任务在迁移期间对应的算力资源能耗、制冷系统能耗、供配电系统能耗和辅助系统能耗中的至少一种,生成所述能耗数据;基于所述迁移执行数据获取所述源数据中心和目标数据中心在迁移前后的算力负荷变化量,生成所述负荷变化数据;根据所述能耗数据、负荷变化数据和所述综合算力成本数据,核算所述算力负荷迁移的成本与收益,生成迁移核算结果;根据所述迁移核算结果生成包含结算对象、结算时段、结算金额和结算依据的互动结算数据。

17、与现有技术相比较,本发明的有益效果在于:

18、本发明通过获取电网主站发布的电价信号、多个数据中心的资源运行数据和算力资源状态,生成综合算力成本数据,使跨数据中心算力调度能够同时反映电网侧价格因素和数据中心运行成本;通过对算力业务意图进行解析,形成任务链和各计算任务对应的资源需求数据,以资源需求数据为约束生成包含任务位置映射结果、网络路径映射结果和任务执行时间窗口的三维协同编排方案,提高目标迁移任务、承载位置、传输路径和执行窗口确定的准确性;进一步地,通过跨层控制指令执行算力资源调度和网络资源调度,基于迁移执行数据确定能耗数据和负荷变化数据后生成互动结算数据,形成从电价感知、任务编排、跨层执行到迁移核算的闭环处理,提高广域算力资源调控结果的执行可靠性和结算可核算性。

19、第二方面,本发明提供一种算力资源广域互联调控系统,包括:

20、成本数据生成模块,用于获取电网主站发布的电价信号以及多个数据中心的资源运行数据和算力资源状态,根据所述电价信号和所述资源运行数据生成综合算力成本数据;

21、意图解析模块,用于获取算力业务意图,对所述算力业务意图进行解析,生成任务链以及所述任务链中各计算任务对应的资源需求数据;

22、协同编排模块,用于基于所述任务链、资源需求数据、综合算力成本数据和所述算力资源状态,在满足各计算任务的资源需求的条件下,确定目标迁移任务及所述任务链中各计算任务的执行数据中心、计算资源和任务执行时间窗口;针对所述目标迁移任务,确定在对应任务执行时间窗口内执行源数据中心迁移至目标数据中心采用的ip层传输路径和光传输层承载路径,生成包含所述目标迁移任务的任务位置映射结果、网络路径映射结果和任务执行时间窗口的三维协同编排方案,基于所述三维协同编排方案生成跨层控制指令;

23、迁移执行模块,用于按照所述跨层控制指令执行目标迁移任务的算力资源调度和网络资源调度,完成跨数据中心迁移,获取迁移执行数据;

24、结算数据生成模块,用于基于所述迁移执行数据确定迁移期间的能耗数据和负荷变化数据,根据所述能耗数据、负荷变化数据和所述综合算力成本数据核算算力负荷迁移的成本与收益,生成互动结算数据。

25、第三方面,本发明提供一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的方法。

26、第四方面,本发明提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的方法。

27、本发明的附加优点、目的,以及特征将在下面的描述中将部分地加以阐述,且将对于本领域普通技术人员在研究下文后部分地变得明显,或者可以根据本发明的实践而获知。本发明的目的和其它优点可以通过在说明书以及附图中具体指出并获得。

28、本领域技术人员将会理解的是,能够用本发明实现的目的和优点不限于以上具体所述,并且根据以下详细说明将更清楚地理解本发明能够实现的上述和其他目的。