数据处理方法和芯片与流程
本技术实施例涉及计算机,尤其涉及数据处理方法和芯片。
背景技术:
1、服务器集群是由多个服务器组成的系统,能够借助分布式架构显著提升整体处理能力、可靠性和资源利用率,广泛应用于云计算、大数据分析及高性能计算等领域。在这种高度协同的系统中,集群内的各个服务器芯片需要进行大量的数据传输操作。
2、目前,业界尝试通过芯片的内存访问指令,以实现集群内芯片间的高效数据传输,提升通信效率。尽管该方法在服务器内部的高可靠性环境中表现出色,但在跨服务器的低可靠性场景下,由于网络传输路径异常导致的丢包问题,可能会引发数据丢失,这不仅影响服务器集群的稳定性,还可能造成严重的服务器群集服务丢失。
3、例如,人工智能(artificial intelligence,ai)集群里ai芯片需要进行大量的数据传输,为了提高ai集群里的ai芯片间的通信能力,在业界逐渐直接采用芯片的内存访问指令进行ai芯片间的数据传输,这种简单的通信机制更有利于提高通信数据的有效载荷,但是这种内存语义的传输方式一般是应用在互连可靠性高的服务器内,在ai集群中,有时互联的物理介质为光连接,而光连接的可靠性相对较差,这会导致数据传输容易失败或者丢失从而导致故障扩散,引起整个ai集群瘫痪。
技术实现思路
1、本技术实施例提供了数据处理方法和芯片,用于增强服务器集群在数据传输过程的稳定性。为达到上述目的,本技术实施例采用如下技术方案:
2、第一方面,本技术实施例提供了一种数据处理方法,应用于服务器集群的第一芯片,第一芯片为计算芯片或交换芯片,服务器集群包括多个服务器,多个服务器通过二级交换芯片连接,多个服务器中的每个服务器包括多个计算芯片,多个计算芯片通过一级交换芯片连接,该方法包括:获取数据传送指令。发送或执行数据传送指令。在数据传送指令发送失败或执行失败的情况下,生成代答消息或接收代答消息。其中,数据传送指令为读指令或写指令,代答消息用于指示数据传送指令发送失败的原因或执行失败的原因。
3、本技术实施例提供的方案,在服务器集群在数据传输过程中,当出现故障(如数据传送指令发送失败或执行不成功)时,系统会通过代答消息明确指示故障的具体原因,从而使相关芯片(如指令发起方芯片或交换芯片)能够及时获知故障原因并采取相应措施(如释放被占用的资源、重传指令或丢弃指令),避免资源浪费和故障扩散。因此,通过引入代答消息,本方案增强了服务器集群在数据传输过程的稳定性。
4、在一种可能的实现方式中,上述生成代答消息包括:根据第一信息生成代答消息,上述第一信息包括端口号、上述数据传送指令的发送方信息、地址范围或消息格式错误信息中的至少一项。
5、可以理解是,端口号、数据传送指令的发送方信息、地址范围以及消息格式错误信息,这些要素与故障原因密切相关,因而可以基于这些信息生成代答消息。具体而言:
6、端口号用于精准定位数据传送指令在传输过程中的特定接口或链路通道。借助端口号,能够识别端口未启用、被占用或与目标设备不匹配等故障原因,从而依据端口号生成相应的代答消息。
7、数据传送指令的发送方信息揭示了指令来源的身份、权限或类型等关键信息。通过分析发送方信息,可以确定身份验证失败、权限不足、类型不匹配等故障原因,进而根据这些信息生成代答消息。
8、地址范围明确了数据传送指令的目的地址范围。通过检查地址范围,能够判断目的地址是否位于有效路由或访问控制范围内,从而依据地址范围生成代答消息。
9、消息格式错误信息反映了关联协议或指令结构的合规性状况。借助这些错误信息,可以识别指令结构或关联协议存在的错误,并据此生成相应的代答消息。
10、在一种可能的实现方式中,上述代答消息包括应答类型、故障码、应答值、应答内容或设备标记中的至少一项。
11、可以理解的是,应答类型、故障码、应答值、应答内容或设备标记等信息能够揭示故障相关细节,因此代答消息中宜包含这些内容,具体说明如下:
12、应答类型用以区分代答消息是数据传送指令成功执行后的正常反馈,还是指令执行过程中出现故障后的异常应答。
13、故障码可精确指出数据传送指令发生故障的具体原因。
14、应答值则展示数据传送指令的执行结果,通过该结果可判断指令是否顺利完成。
15、设备标记揭示代答消息的传输路径,鉴于代答消息与数据传送指令的传输路径基本一致,借此可确定数据传送指令的实际传输路径。
16、在一种可能的实现方式中,上述方法还包括:根据上述代答消息执行第一操作。
17、其中,上述第一操作包括重传上述数据传送指令、丢弃上述数据传送指令、释放请求上述数据传送指令相关的资源、上报故障、在上述代答消息中添加设备标记或发送上述代答消息中的至少一项。
18、可以理解的是,根据代答消息执行第一操作,有助于快速释放资源、防止故障扩散并解决故障,从而进一步增强了服务器集群在数据传输过程中的稳定性。具体而言:
19、重传数据传送指令可分为原路径重传和切换路径重传两种。原路径重传指令能有效解决因临时网络波动或设备短暂故障导致的数据传送失败问题;而切换路径重传指令则针对路径故障引发的数据传送失败提供解决方案。
20、丢弃数据传送指令可终止无法恢复的无效数据传送指令(如因目标节点不可达、协议不兼容、越权访问等导致的持续失败),避免因重复尝试无效操作而占用服务器集群资源,从而降低整体性能损耗。
21、释放请求上述数据传送指令相关的资源,解除与数据传送指令绑定的资源占用,防止资源泄漏,确保服务器集群资源能被其他正常任务高效复用。
22、当遭遇服务器集群无法自行修复的数据传送指令故障时,通过上报故障(例如向软件上报故障信息),及时通知运维人员进行处理,能够有效提升服务器集群的人机协同处理能力。
23、发送代答消息(如向源节点发送代答消息)通知具备故障处理能力的节点(如源节点)当前传输失败的状态及原因,以便及时处理故障,提升服务器集群的协同处理能力。
24、在代答消息中添加设备标记,有助于在处理故障时,根据设备标记确定和定位故障路径,从而减少故障处理所需时间,提高故障处理效率。
25、在一种可能的实现方式中,上述服务器集群为异构系统。
26、在一种可能的实现方式中,上述异构系统为ai集群。
27、在一种可能的实现方式中,上述数据传送指为内存访问指令。
28、可以理解的是,人工智能将是未来技术发展的主要方向,ai网络模型训练是人工智能的基础,通过ai集群训练可以快速训练出精度更高,功能更强大的网络模型。但是随着模型功能越来越复杂,模型越来越大,参数越来越大,需要万卡以上的ai集群来执行ai训练,并且ai集群里ai芯片需要进行大量的数据传输,为了提高ai集群里的ai芯片间的通信能力,在业界逐渐直接采用芯片的内存访问指令进行ai芯片间的数据传输,这种简平的通信机制更有利于提高通信数据的有效载荷,但是这种内存语义的传输方式一般是应用在互联可靠性高的服务器内,在ai集群里有时候互联的物理介质是光连接,光连接的可靠性差,这会导致数据传输容易失败或者丢失从而导致故障扩散,引起整个ai集群瘫痪,为此可以采用本方案,以增强ai集群在数据传输过程的稳定性。
29、第二方面,本技术实施例提供了一种数据处理芯片,上述数据处理芯片为服务器集群中的计算芯片或交换芯片,上述服务器集群包括多个服务器,上述多个服务器通过二级交换芯片连接,上述多个服务器中的每个服务器包括多个计算芯片,上述多个计算芯片通过一级交换芯片连接,该数据处理芯片包括:收发模块和处理模块。
30、上述收发单元,用于获取数据传送指令,上述数据传送指令为读指令或写指令。
31、上述收发单元,还用于发送或执行上述数据传送指令。
32、上述处理单元,用于在上述数据传送指令发送失败或执行失败的情况下,生成代答消息或接收上述代答消息,上述代答消息用于指示上述数据传送指令发送失败的原因或执行失败的原因。
33、在一种可能的实现方式中,上述处理单元具体用于:根据第一信息生成代答消息,上述第一信息包括端口号、上述数据传送指令的发送方信息、地址范围或消息格式错误信息中的至少一项。
34、在一种可能的实现方式中,上述代答消息包括应答类型、故障码、应答值、应答内容或设备标记中的至少一项。
35、在一种可能的实现方式中,上述处理单元还用于:根据上述代答消息执行第一操作,上述第一操作包括重传上述数据传送指令、丢弃上述数据传送指令、释放请求上述数据传送指令相关的资源、上报故障、在上述代答消息中添加设备标记或发送上述代答消息中的至少一项。
36、在一种可能的实现方式中,上述服务器集群为异构系统。
37、在一种可能的实现方式中,上述异构系统为ai集群。
38、第三方面,本技术实施例还提供了一种服务器集群,该服务器集群包括第一芯片和第二芯片,上述第一芯片和上述第二芯片为第二方面或其任意可能的实现方式中的数据处理芯片。
39、上述第一芯片,用于向上述第二芯片发送上述代答消息,上述代答消息用于指示上述数据传送指令发送失败的原因或执行失败的原因;
40、上述第二芯片,用于根据上述代答消息执行第一操作,上述第一操作包括重传上述数据传送指令、丢弃上述数据传送指令、释放请求上述数据传送指令相关的资源、上报故障、在上述代答消息中添加设备标记或发送上述代答消息中的至少一项。
41、在一种可能的实现方式中,上述第二芯片具体用于:在上述代答消息指示链路断开的情况下,执行重传上述数据传送指令、上报故障或在上述代答消息中添加设备标记中的至少一项。
42、可以理解的是,链路断开可能是局部问题,通过切换路径重传上述数据传送指令,可以绕过故障点,使数据传送指令成功发送。
43、上报故障可以便于运维人员获知链路故障并触发维护流程(如更换光纤),避免故障影响服务器集群性能。
44、添加设备标记中可以记录故障路径便于后续诊断,确定链路故障具体位置。
45、在一种可能的实现方式中,上述第二芯片具体用于:在上述代答消息指示目的芯片无响应的情况下,执行丢弃上述数据传送指令、释放请求上述数据传送指令相关的资源或上报故障中的至少一项。
46、可以理解的是,无响应数据传送指令会占用芯片的性能(如缓冲区和处理能力),释放资源可避免影响芯片的性能。
47、如果目的芯片多次无响应,通过丢弃数据传输指令,以防止继续重传数据传输指令占用服务器集群资源。
48、上报故障可以便于重新调度任务到其他芯片,或标记目的芯片为故障芯片。
49、在一种可能的实现方式中,上述第二芯片具体用于:在上述代答消息指示上述数据传送指令格式错误的情况下,执行丢弃上述数据传送指令、释放请求上述数据传送指令相关的资源或上报故障中的至少一项。
50、可以理解的是,格式错误的指令无法执行,继续处理会浪费资源,因此需要丢弃。
51、释放资源确保芯片可以处理其他任务。
52、格式错误通常是软件配置错误,上报故障便于运维人员修复错误。
53、在一种可能的实现方式中,上述第二芯片具体用于:在上述代答消息指示上述数据传送指令转发超时的情况下,执行重传上述数据传送指令、上报故障或在上述代答消息中添加设备标记中的至少一项。
54、可以理解的是,超时可能是临时拥塞,重传或切换路径可以使数据传送指令成功发送。
55、通过添加设备标记,可以记录路径信息帮助分析超时原因(如交换芯片负载过高)。
56、通过上报故障,可以通知运维人员调整服务器集群负载或优化传输路径。
57、第四方面,本技术实施例还提供了一种数据处理装置,该装置包括:至少一个处理器,当上述至少一个处理器执行程序代码或指令时,实现上述第一方面或其任意可能的实现方式中的方法。
58、可选地,数据处理装置可以是芯片或芯片系统。
59、可选地,该装置还可以包括至少一个存储器,该至少一个存储器用于存储该程序代码或指令。
60、第五方面,本技术实施例还提供一种芯片,包括:输入接口、输出接口、至少一个处理器。可选地,该芯片还包括存储器。该至少一个处理器用于执行该存储器中的代码,当该至少一个处理器执行该代码时,该芯片实现上述第一方面或其任意可能的实现方式中的方法。
61、可选地,上述芯片还可以为集成电路。
62、第六方面,本技术实施例还提供一种计算机可读存储介质,用于存储计算机程序,该计算机程序包括用于实现上述第一方面或其任意可能的实现方式中的方法。
63、第七方面,本技术实施例还提供一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机实现上述第一方面或其任意可能的实现方式中的方法。
64、本实施例提供的数据处理装置、计算机存储介质、计算机程序产品和芯片均用于执行上文所提供的数据处理方法,因此,其所能达到的有益效果可参考上文所提供的数据处理方法中的有益效果,此处不再赘述。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com