用于分布式计算服务器的热机械功率平滑的制作方法

摘要: 背景技术:1、大规模机器学习(ml)和/或人工智能(ai)模型训练是可以涉及数千个通过高带宽网络(诸如无限带宽(ib))互连的图形处理单元(gpu)的分布式计算...
用于分布式计算服务器的热机械功率平滑的制作方法

背景技术:

1、大规模机器学习(ml)和/或人工智能(ai)模型训练是可以涉及数千个通过高带宽网络(诸如无限带宽(ib))互连的图形处理单元(gpu)的分布式计算。例如,为了训练大语言模型,计算工作负载跨gpu集群中互连的数千个gpu被划分。在该计算的某些阶段,收集操作(例如,allreduce)收集并且组合由gpu生成的信息。gpu基本空闲,直到收集操作完成,并且gpu开始下一计算工作负载。

技术实现思路

1、本文描述和要求保护的实现方式通过提供一种服务器来解决下面描述的问题,该服务器包括处理器阵列,处理器阵列随时间以同步波动的工作负载和对应的同步波动的净功耗运行;变速冷却风扇阵列,用以向处理器供应冷却空气,并且作为服务器的热机械功率平滑设备运行;以及控制器。该控制器响应于处理器的低功耗状态,将冷却风扇速度设置为最大,以及响应于处理器的高功耗状态,将冷却风扇速度设置为自动。

2、本文还描述和记载了其他实现方式。

1.一种服务器(100),包括:

2.根据权利要求1所述的服务器,其中所述处理器是图形处理单元(gpu),用以解决用于训练机器学习(ml)和人工智能(ai)模型中的一者或两者的计算工作负载。

3.根据权利要求1所述的服务器,其中所述同步波动的净功耗在最小功耗与最大功耗之间波动,在所述最小功耗下所述处理器阵列基本空闲,在所述最大功耗下所述处理器阵列满载计算工作负载。

4.根据权利要求1所述的服务器,其中所述控制器是用于所述服务器的基板管理控制器(bmc)。

5.根据权利要求4所述的服务器,其中所述处理器的功耗状态由所述bmc检测或预测。

6.根据权利要求1所述的服务器,还包括:

7.根据权利要求1所述的服务器,其中所述变速冷却风扇包括加重转子,用以向所述服务器增加机械存储容量。

8.根据权利要求1所述的服务器,还包括:

9.根据权利要求8所述的服务器,其中所述再生制动机构用作不间断电源(ups),以桥接瞬时电力中断。

10.根据权利要求1所述的服务器,还包括:

11.根据权利要求1所述的服务器,其中:

12.根据权利要求1所述的服务器,其中:

13.一种针对服务器执行热机械功率平滑的方法(600),包括:

14.根据权利要求13所述的方法,其中所述监测操作对所述处理器的所述净功耗的检测到的变化作出反应。

15.根据权利要求13所述的方法,其中所述监测操作响应于接收到停止和启动工作负载信号,预测所述处理器的所述净功耗的变化。