基于UCIeflit格式的片上网络隧道传输方法和装置与流程

摘要: 本发明涉及裸片间通信。具体而言,本发明涉及一种计算机实施的方法与装置,用于以低延迟、高性能的方式,在通用芯粒互联高速(ucie)flit格式上对片上网络(noc...
基于UCIeflit格式的片上网络隧道传输方法和装置与流程

本发明涉及裸片间通信。具体而言,本发明涉及一种计算机实施的方法与装置,用于以低延迟、高性能的方式,在通用芯粒互联高速(ucie) flit格式上对片上网络(noc)进行隧道传输。

背景技术:

1、随着对高性能计算系统(尤其是在人工智能(ai)领域)的需求不断增加,这些系统的复杂性也在不断升级。为了应对先进工艺节点的挑战,现代硅片设计采用了多个较小尺寸的裸片,通过像2d或2.5d中介层等封装技术相互连接。通用芯粒互联高速(ucie)协议为裸片间通信桥接提供了低延迟、高带宽的解决方案,ucie协议栈通常支持pcie和cxl等行业标准协议。但是,将裸片间通信转换为这些协议可能会导致不必要的延迟、性能降低和面积使用效率低下的问题,所有这些都会对关键性能指标(kpi)产生负面影响。因此,能够在裸片之间隧道化传输片上网络(noc)的流控制器,对于优化系统性能至关重要。最小化裸片间通信中增加的延迟对于满足现代计算系统的严苛的kpi变得越来越重要。

2、在us2008186998a1中记载了用于减少noc通信中延迟的现有方法的一个示例,us2008186998a1涉及集成电路,该集成电路包含由片上网络(noc)连接的多个处理模块(ip)。每个处理模块(ip)都配备了网络接口(ni),负责向noc发送数据和从noc接收数据。此外,该文档引入了一种方法,其中共享至少一些分配给源自同一网络接口的通道的时隙。

3、另一个示例见us2024211422a1,其中讨论了包括具有互连noc的多个ic的多芯片器件。该文档引入了集成电路内的地址转换电路,当数据流源自第一集成电路并打算到达第二集成电路上的目的地时,该数据流首先被定向到第二集成电路的地址转换电路。该电路执行地址转换,并将数据流重新插入到具有适当目的地id的第二ic中的noc。

4、如上所述,为了应对这些挑战,已经取得了各种进展。然而,仍需要更高效和更具扩展性的裸片间通信方法,以实现低延迟和高性能的片上网络(noc)隧道传输。

技术实现思路

1、以下简要概述本发明,以便提供对本发明一些方面的基本理解。该概述不是对本发明的详尽概述。其唯一目的是以简化形式呈现本发明的一些构思,作为稍后呈现更详细描述的序言。

2、本发明的目的是提供一种计算机实施的方法和装置,用于以低延迟和高性能的方式,在通用芯粒互联高速(ucie)的流量控制单元(flow control unit,flit)格式上对片上网络(noc)进行隧道传输。

3、本发明的一个方面提供了一种用于片上网络(noc)隧道传输的计算机实施的方法,其特征在于以下步骤,采用报文令牌定帧(packet token framing,ptf),基于ucieflit格式内的可用尺寸,将一个或多个nembus协议(nbsp) flit或其片段封装成通用芯粒互联高速(ucie) flit格式,将ptf作为报文令牌标识符,附加到nbsp flit头部,利用ptf对nbsp flit进行定帧,以识别起始和结束边界,形成封装报文;将报文长度、报文类型、通道类型和协议数据宽度承载在ptf中;以及使用封装的报文在ucie flit格式上实现跨noc隧道传输。

4、在本发明的实施例中,地址写入、地址读取和写入响应的每一次通道传输均对应单个报文。

5、在本发明的实施例中,对于写通道或读通道,将完整有效载荷作为单个报文以单次传输来发送。

6、在本发明的实施例中,整个有效载荷被合并并作为用于写入或读取通道的单个报文的多个传输来发送。

7、在本发明的实施例中,在ucie flit格式上封装nbsp flit的16个物理通道与16个虚拟通道。

8、在本发明的实施例中,基于ucie flit格式的noc隧道传输能够支持nbsp报文的一致性数据流与非一致性数据流。

9、本发明的另一方面提供了一种片上网络(noc)隧道传输的装置,其包括流控制器,该流控制器被配置为,基于ucie flit格式内的可用尺寸,将nembus协议(nbsp) flit或其片段封装成通用芯粒互联高速(ucie) flit格式,将ptf作为报文令牌标识符,附加到nbspflit头部,利用ptf对nbsp flit进行定帧,以识别起始和结束边界,形成封装报文;将报文长度、报文类型、通道类型和协议数据宽度承载在ptf中;以及使用封装的报文在ucie flit格式上实现跨noc隧道传输。

10、在本发明的实施例中,报文令牌定帧能够携带从1个数据字(dw)到1024个dw的报文有效载荷大小。

11、本发明由特征和下文在附图中充分描述和说明的部件的组合组成,应当理解,可以对细节进行各种改变,而不脱离本发明的范围或牺牲本发明的任何优点。

1.一种用于片上网络noc隧道传输的计算机实施方法(100),其特征在于,包括以下步骤:

2.根据权利要求1所述的方法(100),其中,地址写入、地址读取和写入响应的每一次通道传输均对应单个报文。

3.根据权利要求1所述的方法(100),其中,对于写通道或读通道,完整有效载荷作为单个报文以单次传输被发送。

4.根据权利要求1所述的方法(100),其中,对于写通道或读通道,完整有效载荷被合并并作为单个报文以多次传输被发送。

5.根据权利要求1所述的方法(100),其中,在ucie flit格式上封装nbsp flit的16个物理通道和16个虚拟通道。

6.根据权利要求1所述的方法(100),其中,通过ucie flit格式的跨noc隧道传输,能够支持nbsp报文的一致性数据流和非一致性数据流。

7.一种用于片上网络noc隧道传输的装置(200),包括:

8.根据权利要求7所述的设备(200),其中,所述报文令牌定帧能够携带的报文有效载荷尺寸为从1个数据字至1024个数据字。