服务器、服务器节点和节点互联系统的制作方法

摘要: 本申请涉及服务器,尤其涉及一种服务器、服务器节点、节点互联系统、数据传输方法、设备和存储介质。背景技术:1、目前,服务器在对接收到的网络数据进行运算时,需要先将...
服务器、服务器节点和节点互联系统的制作方法

本申请涉及服务器,尤其涉及一种服务器、服务器节点、节点互联系统、数据传输方法、设备和存储介质。

背景技术:

1、目前,服务器在对接收到的网络数据进行运算时,需要先将网络数据存储到中央处理器的内存,再从中央处理器的内存传输到图像处理器的显存,由图像处理器对网络数据进行运算后再传输到中央处理器的内存,最后到达存储设备,上述过程中,网络数据需要多次被搬运和拷贝,影响数据传输效率。

技术实现思路

1、本申请提供了一种服务器、服务器节点和节点互联系统,以至少解决相关技术中数据传输效率低的问题。

2、本申请提供了一种服务器,包括:数据处理器、至少一个交换器、存储设备和至少一个图形处理器;交换器包括上游端口和至少两个下游端口;其中,上游端口与数据处理器连接,至少一个下游端口与存储设备连接,至少一个下游端口与至少一个图形处理器连接;

3、数据处理器包括网络数据收发器,网络数据收发器设有远程直接内存访问引擎,网络数据收发器用于接收网络数据,通过远程直接内存访问引擎将网络数据通过交换器传输至存储设备或至少一个图形处理器;

4、至少一个图形处理器和存储设备通过交换器进行数据传输。

5、本申请还提供了一种服务器节点,服务器节点上设有至少一个如上述任一项的服务器。

6、本申请还提供了一种节点互联系统,包括网络交换机和至少一个如上述的服务器节点,至少一个服务器节点通过网络交换机通信连接。

7、本申请的服务器、服务器节点和节点互联系统,服务器包括数据处理器、至少一个交换器、存储设备和至少一个图形处理器,数据处理器包括网络数据收发器和远程直接内存访问引擎,远程直接内存访问引擎用于将网络收发器将接收到的网络数据通过交换器传输至存储设备,图形处理器和存储设备可通过交换器进行数据传输,服务器在对网络数据进行处理过程中无需多次对网络数据进行搬运和拷贝,可以节约带宽,提高数据传输和处理的效率。

1.一种服务器,其特征在于,包括:数据处理器、至少一个交换器、存储设备和至少一个图形处理器;所述交换器包括上游端口和至少两个下游端口;其中,所述上游端口与所述数据处理器连接,至少一个所述下游端口与所述存储设备连接,至少一个所述下游端口与所述至少一个图形处理器连接;

2.根据权利要求1所述的服务器,其特征在于,所述交换器设有点对点直接内存访问引擎,所述点对点直接内存访问引擎用于实现所述至少一个图形处理器的显存和所述存储设备的内存之间的直接数据传输。

3.根据权利要求1所述的服务器,其特征在于,所述图形处理器还用于生成校验码,将所述校验码和待传输的数据通过所述交换器发送至所述存储设备,使所述存储设备根据所述校验码进行循环冗余校验;

4.根据权利要求1所述的服务器,其特征在于,所述数据处理器还设有键值处理引擎,所述键值处理引擎用于实现键值缓存数据的序列化或反序列化处理。

5.根据权利要求4所述的服务器,其特征在于,所述远程直接内存访问引擎还用于将所述序列化或反序列化处理后的键值缓存数据写入所述图形处理器或所述存储设备。

6.根据权利要求1所述的服务器,其特征在于,所述数据处理器还包括中央处理器和根端口控制器,所述中央处理器用于获取设备信息,所述设备信息为所述交换器的上游接口和下游接口连接的设备的信息,根据所述设备信息确定通道资源配置信息并发送至所述根端口控制器,使所述根端口控制器根据所述通道资源配置信息对所述交换器的通道资源进行配置。

7.根据权利要求6所述的服务器,其特征在于,所述中央处理器还用于响应于上电操作,激活所述根端口控制器,使所述根端口控制器按照预设的上电顺序,依次控制所述至少两个下游端口开启,实现所述至少一个交换器、所述至少一个图形处理器和所述存储设备的上电。

8.根据权利要求7所述的服务器,其特征在于,所述中央处理器还用于在所述存储设备上电之后,对所述网络数据收发器进行初始化,使所述网络数据收发器处于数据接收状态。

9.根据权利要求1所述的服务器,其特征在于,所述数据处理器还包括中央处理器,所述网络数据收发器还用于接收任务请求,所述中央处理器用于响应于所述任务请求,为所述任务请求的任务分配对应的虚拟资源,以使所述服务器使用所述虚拟资源执行所述任务。

10.根据权利要求1所述的服务器,其特征在于,所述交换器还包括通信模块,所述服务器通过所述通信模块与其他服务器的其他交换器的通信模块进行通信连接,使所述图形处理器与所述其他交换器连接的图形处理器进行数据交互。

11.根据权利要求10所述的服务器,其特征在于,所述服务器和所述其他服务器位于相同的节点。

12.根据权利要求1所述的服务器,其特征在于,所述服务器用于对人工智能模型进行训练,所述图形处理器用于通过所述交换器,将人工智能模型计算时的中间值写入所述存储设备的缓存区;所述图形处理器用于通过所述交换器,将所述人工智能模型计算得到的结果数据写入所述存储设备的存储区。

13.根据权利要求1所述的服务器,其特征在于,所述服务器位于第一节点,所述第一节点通过网络交换机与至少一个第二节点通信连接,所述第二节点设有至少一个服务器,所述第一节点和所述至少一个第二节点通过所述网络交换机进行数据交互。

14.根据权利要求13所述的服务器,其特征在于,所述第一节点和所述至少一个第二节点通过网络交换机与主节点连接,所述主节点用于在接收到推理任务时,将所述推理任务划分为至少两个推理子任务,将所述至少两个推理子任务发送至所述第一节点所述至少一个第二节点中的相应节点,使所述节点执行所述推理子任务。

15.根据权利要求13所述的服务器,其特征在于,所述第一节点和所述至少一个第二节点通过网络交换机与主节点连接,所述主节点用于在接收到目标数据时,将所述目标数据划分为至少两个目标子数据,将所述至少两个目标子数据发送至所述第一节点和所述至少一个第二节点中的相应节点,使所述节点存储所述目标子数据。

16.一种服务器节点,其特征在于,所述服务器节点上设有至少一个如权利要求1-15任一项所述的服务器。

17.根据权利要求16所述的服务器节点,其特征在于,当所述服务器节点包括至少两个服务器时,所述至少两个服务器通过通信模块进行通信连接,使所述至少两个服务器的图形处理器进行数据交互。

18.一种节点互联系统,其特征在于,包括网络交换机和至少一个如权利要求16-17任一项所述的服务器节点,至少一个服务器节点通过所述网络交换机通信连接。

19.根据权利要求18所述的节点互联系统,其特征在于,所述服务器节点包括主节点、第一节点和第二节点,所述主节点用于在接收到推理任务时,将所述推理任务划分为至少两个推理子任务,将所述至少两个推理子任务发送至所述第一节点所述至少一个第二节点中的相应节点,使所述节点执行所述推理子任务。

20.根据权利要求18所述的节点互联系统,其特征在于,所述服务器节点包括主节点、第一节点和第二节点,所述主节点用于在接收到目标数据时,将所述目标数据划分为至少两个目标子数据,将所述至少两个目标子数据发送至所述第一节点和所述至少一个第二节点中的相应节点,使所述节点存储所述目标子数据。