多芯粒集成芯片、计算存储芯粒、分布式路由方法及电子设备与流程

本技术涉及集成电路，尤其涉及一种多芯粒集成芯片、计算存储芯粒、分布式路由方法及电子设备。

背景技术：

1、随着人工智能训练和推理需求的增长，对计算芯片的算力密度和存储带宽提出了更高要求。受限于晶圆制造良率和封装尺寸，单一大面积计算裸片难以持续提升性能。多芯粒（chiplet）集成技术通过将多个独立的芯粒进行封装互连，成为提升整体算力和存储规模的有效途径。

2、然而，多芯粒架构的互连拓扑主要依赖中央交换节点或采用全互连组网方式。随着芯粒数量的增加，依赖中央交换节点的架构会受到交换组件岸线宽度和端口数量的物理限制；全互连拓扑则要求每一个芯粒与其他所有芯粒建立点对点直连，导致封装布线数量呈二次方增长。上述互连架构限制了芯粒阵列向大规模平滑扩展的能力，导致芯片在扩大阵列规模时面临扩展灵活性差、封装布线复杂度高以及互连资源消耗过大等问题。

技术实现思路

1、本技术实施例提供一种多芯粒集成芯片、计算存储芯粒、分布式路由方法及电子设备，能够通过在垂直堆叠的计算存储芯粒中引入分布式两级端口路由机制，在无需中央交换节点的情况下实现大规模芯粒阵列的灵活扩展。

2、本技术实施例的技术方案是这样实现的：

3、本技术实施例提供一种多芯粒集成芯片，包括至少一个芯粒阵列，所述芯粒阵列包括多个计算存储芯粒，每个所述计算存储芯粒包括计算裸片、以及与所述计算裸片垂直堆叠的至少一个动态随机存取存储器；

4、所述计算裸片包括分布式路由器以及设置于所述计算裸片四周的多个芯粒间互连端口；

5、所述多个芯粒间互连端口包括组内近邻端口和边界扩展端口，所述组内近邻端口用于连接所述芯粒阵列内部的计算存储芯粒，所述边界扩展端口用于连接所述芯粒阵列外部的新增计算存储芯粒；

6、所述分布式路由器分别连接所述组内近邻端口和所述边界扩展端口，所述分布式路由器用于在所述组内近邻端口和所述边界扩展端口中确定下一跳端口，并用于通过所述下一跳端口转发通信报文。

7、本技术实施例提供一种计算存储芯粒，所述计算存储芯粒包括计算裸片以及与所述计算裸片垂直堆叠的至少一个动态随机存取存储器；

8、所述计算裸片包括分布式路由器以及设置于所述计算裸片四周的多个芯粒间互连端口；

9、所述计算存储芯粒用于在初始化时通过所述多个芯粒间互连端口发送探测信号，并基于所述探测信号的反馈结果生成有效端口位图；

10、所述计算存储芯粒用于基于所述有效端口位图将所述多个芯粒间互连端口动态划分为组内近邻端口和边界扩展端口，所述组内近邻端口用于与同属一个芯粒阵列的其他计算存储芯粒进行通信，所述边界扩展端口用于跨阵列连接所述芯粒阵列外部的计算存储芯粒；

11、所述分布式路由器用于在所述组内近邻端口和所述边界扩展端口中确定下一跳端口，并通过所述下一跳端口转发通信报文。

12、本技术实施例提供一种分布式路由方法，应用于多芯粒集成芯片，所述多芯粒集成芯片包括至少一个芯粒阵列，所述芯粒阵列包括多个计算存储芯粒，每个所述计算存储芯粒包括分布式路由器以及设置于所述计算存储芯粒的计算裸片四周的多个芯粒间互连端口，所述方法包括：

13、通过所述计算存储芯粒，经由所述多个芯粒间互连端口发送探测信号；

14、通过所述计算存储芯粒，基于所述探测信号的反馈结果生成有效端口位图；

15、通过所述计算存储芯粒，基于所述有效端口位图将所述多个芯粒间互连端口划分为用于连接所述芯粒阵列内部的组内近邻端口以及用于连接所述芯粒阵列外部的边界扩展端口；

16、通过所述分布式路由器，在所述组内近邻端口和所述边界扩展端口中确定下一跳端口；

17、通过所述分布式路由器，经由所述下一跳端口转发通信报文。

18、在上述方案中，所述通过所述分布式路由器，在所述组内近邻端口和所述边界扩展端口中确定下一跳端口，包括：

19、获取所述通信报文指向的目标计算存储芯粒的目标坐标，以及所述分布式路由器所在计算存储芯粒的本地坐标；

20、比较所述目标坐标的横向维度坐标与所述本地坐标的横向维度坐标，得到横向比对结果；

21、在所述横向比对结果表征横向维度坐标不一致的情况下，在横向互连方向的所述组内近邻端口或所述边界扩展端口中确定所述下一跳端口，以缩小横向坐标差值；

22、在所述横向比对结果表征横向维度坐标一致、且纵向维度坐标不一致的情况下，在纵向互连方向的所述组内近邻端口或所述边界扩展端口中确定所述下一跳端口。

23、在上述方案中，所述通过所述分布式路由器，在所述组内近邻端口和所述边界扩展端口中确定下一跳端口，包括：

24、获取所述分布式路由器中配置的到达目标计算存储芯粒的多条备选转发路径，所述多条备选转发路径分别对应不同的芯粒间互连端口；

25、获取所述多条备选转发路径对应的芯粒间互连端口的链路信用量或者发送队列深度；

26、基于所述链路信用量或者所述发送队列深度表征的拥塞状态，在所述多条备选转发路径对应的芯粒间互连端口中确定所述下一跳端口。

27、在上述方案中，所述通信报文包括优先级字段，所述通过所述分布式路由器，经由所述下一跳端口转发通信报文，包括：

28、解析所述通信报文中的所述优先级字段，确定所述通信报文的优先级级别；

29、在所述优先级级别为第一优先级的情况下，为所述通信报文分配独立虚通道；其中，携带键值缓存数据或梯度同步数据的所述通信报文被配置为所述第一优先级；

30、通过所述分布式路由器，基于所述独立虚通道，优先经由所述下一跳端口转发所述通信报文。

31、在上述方案中，所述基于所述有效端口位图将所述多个芯粒间互连端口划分为用于连接所述芯粒阵列内部的组内近邻端口以及用于连接所述芯粒阵列外部的边界扩展端口之后，所述方法还包括：

32、对处于未连接状态的所述边界扩展端口执行端接检测；

33、在所述端接检测未通过时，关闭处于所述未连接状态的边界扩展端口的驱动电路，以执行屏蔽操作。

34、本技术实施例提供一种电子设备，所述电子设备包括处理器，其中，所述处理器包括本技术实施例提供的多芯粒集成芯片或计算存储芯粒。

35、本技术实施例具有以下有益效果：

36、将计算裸片与至少一个动态随机存取存储器垂直堆叠形成计算存储芯粒，实现了计算与存储的高效整合，提升了计算存储芯粒内部的数据交互效率；在计算裸片中设置分布式路由器以及多个芯粒间互连端口，并将多个芯粒间互连端口划分为用于连接芯粒阵列内部计算存储芯粒的组内近邻端口、以及用于连接芯粒阵列外部新增计算存储芯粒的边界扩展端口，利用分布式路由器在组内近邻端口和边界扩展端口中确定下一跳端口，并通过该下一跳端口转发通信报文，使得通信报文的路由转发过程直接由各个计算存储芯粒依靠自身携带的分布式路由器完成，在增加计算存储芯粒的数量时，通过边界扩展端口进行对接即可直接接入新增计算存储芯粒，从而提升了多芯粒集成芯片扩大阵列规模的灵活性，增强了芯粒阵列的互连扩展能力。