服务器及服务器集群的制作方法

摘要: 本发明属于服务器,具体涉及一种服务器及服务器集群。背景技术:1、随着人工智能技术的发展,ai服务器被广泛应用于模型训练与推理场景。相关技术中,机柜级刀片式ai服...
服务器及服务器集群的制作方法

本发明属于服务器,具体涉及一种服务器及服务器集群。

背景技术:

1、随着人工智能技术的发展,ai服务器被广泛应用于模型训练与推理场景。相关技术中,机柜级刀片式ai服务器通常采用整机柜集中供电、集中管理的架构,以单机柜32块刀片式节点为最小部署单元,最小整机柜高度达到52u,理论峰值功耗可达120kw。该类架构虽然在算力密度上具有一定的优势,但其最小部署单元较大,对于边缘ai推理、中小模型等轻量化模型应用场景而言,应用门槛较高,容易造成算力与成本的浪费,不利于轻量化部署。

技术实现思路

1、本发明旨在至少在一定程度上解决相关技术中的技术问题之一。为此,本发明的实施例提出一种服务器,该服务器能够在满足ai算力需求的同时降低部署门槛,有利于实现高密度、低功耗、易运维的轻量化部署,适配轻量化模型应用场景。

2、本发明的实施例还提出一种服务器集群,该服务器集群能够实现算力的弹性扩展,适配小规模推理集群的部署需求。

3、本发明实施例的服务器,包括:机箱,所述机箱具有两两垂直的高度方向、长度方向和宽度方向;中背板,所述中背板设于所述机箱内,所述中背板的板面平行于所述高度方向与所述长度方向所确定的平面,所述中背板具有沿其厚度方向相对的第一板面和第二板面,所述第一板面设有多个gpu接口,所述第二板面设有供电接口以及多个交换接口;多个gpu模组,多个所述gpu模组沿所述长度方向间隔设置,并分别与多个所述gpu接口一一对接;多个交换模组,多个所述交换模组沿所述高度方向间隔设置,并分别与多个所述交换接口一一对接,任一所述交换模组均与全部所述gpu模组通信连接;管理模组,所述管理模组设于所述机箱内,并至少与所述中背板连接,用于对多个所述gpu模组进行统一带外管理;电源模组,所述电源模组设于所述机箱内,所述电源模组包括输入端和输出端,所述输出端与所述供电接口连接,以经所述中背板向多个所述gpu模组、多个所述交换模组和所述管理模组供电;散热模组,所述散热模组用于对多个所述gpu模组和多个所述交换模组散热。

4、本发明实施例的服务器,中背板沿其厚度方向的两侧分别通过第一板面的多个gpu接口和第二板面的多个交换接口对接多个gpu模组和多个交换模组,任一交换模组均与全部gpu模组通信连接,有利于缩短gpu模组与交换模组之间的信号链路;电源模组的输出端与中背板的供电接口连接,经中背板向多个gpu模组、多个交换模组和管理模组统一供电,管理模组对多个gpu模组进行统一带外管理,散热模组对多个gpu模组和多个交换模组统一散热,从而在单个机箱内实现多节点的集成,有利于实现高密度、低功耗、易运维的轻量化部署。

5、优选地,所述机箱构造为机架式机箱,所述机箱的高度尺寸为9u-11u;和/或,所述gpu模组的数量为4-8个;和/或,每个所述gpu模组包括2颗gpu芯片;和/或,所述交换模组的数量为2-4个。

6、本发明实施例的服务器,机箱的高度尺寸为9u-11u,相较于传统机柜级ai服务器以整机柜为最小部署单元的方式,有利于降低部署门槛;gpu模组的数量为4-8个且每个gpu模组包括2颗gpu芯片,有利于在有限的机箱空间内兼顾算力密度与部署成本;交换模组的数量为2-4个,有利于兼顾交换互联的可靠性与部署成本。

7、优选地,沿所述高度方向,所述机箱划分为相邻的第一安装区和第二安装区,所述gpu模组、所述中背板、所述交换模组和所述管理模组位于所述第一安装区,所述电源模组位于所述第二安装区;沿所述宽度方向,以所述中背板为分界线,所述第一安装区划分为第一子安装区和第二子安装区,所述gpu模组、所述管理模组位于所述第一子安装区,所述交换模组位于所述第二子安装区;沿所述长度方向,所述管理模组设于多个所述gpu模组中处于端部的所述gpu模组的旁侧。

8、本发明实施例的服务器,gpu模组、交换模组、管理模组和中背板集中于第一安装区,电源模组独立布置于第二安装区,供电区域与算力区域相互分离,有利于降低电源模组对信号传输的干扰,并便于分区维护;gpu模组与交换模组分置于中背板的两侧,有利于缩短两者之间的信号链路。

9、优选地,所述gpu模组包括第一底板以及插装于所述第一底板的pcie卡、存储件和gpu芯片,所述第一底板靠近所述中背板的一端设有多个第一连接端,所述第一连接端的数量与所述交换模组的数量一致,多个所述第一连接端与多个所述交换模组一一对应通信连接,所述gpu芯片、所述pcie卡和所述存储件的信号经所述第一底板汇聚后,由多个所述第一连接端输出。

10、本发明实施例的服务器,gpu芯片、pcie卡和存储件的信号经第一底板汇聚后,通过与多个交换模组一一对应的多个第一连接端分别输出,使得每个gpu模组均能够与全部交换模组通信连接,有利于缩短信号链路,提高信号质量。

11、优选地,所述交换模组包括第二底板和设于所述第二底板的交换芯片,所述第二底板上设有多个第二连接端,所述第二连接端与所述第一连接端对应插接以形成通信连接;每个所述第二底板上的所述第二连接端的数量与所述第一底板的数量一致,且多个所述第二连接端与多个所述第一连接端一一对应插接。

12、本发明实施例的服务器,每个交换模组的第二连接端的数量与第一底板的数量一致,多个第二连接端与多个第一连接端一一对应插接,使得任一交换模组均与全部gpu模组直接插接互联,形成全互联的交换架构,有利于缩短信号链路,减少转接造成的信号损耗。

13、优选地,所述中背板在所述第二连接端与所述第一连接端的插接位置设有避让孔;和/或,所述第二底板上设有多个光互联端口,所述光互联端口用于插接光纤端子;和/或,相互插接的一组所述第二连接端与所述第一连接端的插接面的方向相互垂直,以形成正交插接。

14、本发明实施例的服务器,第一连接端和第二连接端经避让孔穿过中背板并直接插接,高速信号无需经中背板转接,有利于减少信号损耗;光互联端口插接光纤端子后,可实现光互联集群化扩展,有利于实现多台设备间的低延迟、高吞吐级联;第二连接端与第一连接端的插接面相互垂直形成正交插接,使得竖向设置的gpu模组与水平设置的交换模组直接对接,有利于进一步缩短信号链路,提高信号质量。

15、优选地,所述gpu模组包括gpu芯片,所述交换模组包括交换芯片,所述散热模组包括液冷模组和风冷模组;每个所述gpu模组和每个所述交换模组分别对应一个所述液冷模组,所述液冷模组包括至少一个冷板以及与所述至少一个冷板的内部腔室连通的进液管道和出液管道,所述冷板贴合于对应的所述gpu芯片或者所述交换芯片,所述进液管道和所述出液管道延伸至所述机箱的外部;所述风冷模组包括风扇,所述风扇设于所述gpu模组和/或所述交换模组。

16、本发明实施例的服务器,高功耗的gpu芯片和交换芯片由贴合的冷板进行液冷散热,冷却液经延伸至机箱外部的进液管道和出液管道循环,其余功耗较低的器件由风扇进行风冷散热,形成液冷与风冷相结合的混合散热方式,有利于在保证散热效果的同时降低散热能耗。

17、优选地,所述电源模组包括供电板和多个转换模块;所述转换模块用于将交流电转换为直流电,所述转换模块具有交流输入接口和直流输出接口,多个所述交流输入接口共同构成所述电源模组的输入端;所述供电板与多个所述转换模块的所述直流输出接口连接,所述供电板具有至少一个直流输出端,所述直流输出端构成所述电源模组的输出端。

18、本发明实施例的服务器,多个转换模块分别将交流电转换为直流电,供电板汇聚多个转换模块输出的直流电后,经直流输出端统一输出,再经中背板向多个gpu模组、多个交换模组和管理模组供电,有利于提高供电的可靠性。

19、优选地,还包括汇流排,所述汇流排连接于全部所述直流输出端与所述中背板的所述供电接口之间。

20、本发明实施例的服务器,全部直流输出端输出的直流电经汇流排传输至中背板的供电接口,汇流排的载流能力较强、阻抗较低,有利于降低大电流传输过程中的线路损耗,提高供电的可靠性。

21、本发明实施例的服务器集群,包括多台如上述任一实施例所述的服务器,多台所述服务器之间通信连接。

22、本发明实施例的服务器集群,多台服务器通信连接形成服务器集群,可以实现算力的弹性扩展,适配小规模推理集群的部署需求;各服务器的交换模组经光互联端口插接光纤端子实现级联,有利于实现设备间的低延迟、高吞吐通信。