多通道访问存储部件以及处理器的制作方法

1.本发明涉及人工智能技术领域，特别是涉及一种多通道访问存储部件以及处理器。


背景技术：

2.随着智能时代的到来，各种人工智能应用对算力的要求越来越高。传统的冯诺依曼计算架构已经不能适应于快速算力增长的需求，尤其是存在严重的“存储器墙”问题。“存储器墙”问题是指，随之工艺的进步和芯片时钟频率的提升，存储器的速度和带宽不能成比例的适应时钟频率的提升，造成“芯片计算部分跑的很快，但存储器提供数据的速度跟不上”的问题。由此可见，在一个设计一个计算芯片过程中，如何改善访存速率，如何提高访存效率成为一项重要的问题。
3.load-store电路(访问存储部件)是专门用于与存储器交互的功能部件，主要负责根据指令从存储器取数据和根据指令向存储器存数据。load-store功能部件的性能直接关系到计算芯片整体的性能水平，设计高效率的load-store功能部件就变得十分重要。目前，人工智能、大数据处理等应用都普遍具有高数据并行度的特点，对存储器的带宽需求更高，这就要求load-store功能部件也需要具备并发能力。
4.针对上述的现有技术中存在的现有的访问存储部件由于不具备数据并发能力，导致无法和存储器之间并发通信，从而使得存储器的访问存储效率低的技术问题，目前尚未提出有效的解决方案。


技术实现要素：

5.本发明公开提供了一种多通道访问存储部件以及处理器，以至少解决现有技术中存在的现有的访问存储部件由于不具备数据并发能力，导致无法和存储器之间并发通信，从而使得存储器的访问存储效率低的技术问题。
6.根据本发明的一个方面，提供了一种多通道访问存储部件，包括：用于实现和存储器的多通道通信连接，包括：命令缓存模块，用于缓存接收的至少一个访问命令和/或存储命令；命令译码模块，与命令缓存模块通信连接，用于对访问命令和/或存储命令进行解码；置换网络模块，与命令译码模块通信连接，用于将解码后的访问命令和/或存储命令进行分配；以及存储器块访问控制模块，与置换网络模块通信连接，包括多个存储器块访问控制块，用于接收置换网络模块发送的访问命令和/或存储命令。
7.可选地，访问命令包括：操作类型、取数地址、取数模式；以及存储命令包括：操作类型、存数地址、存数模式、存数据。
8.可选地，置换网络模块为x置换网络，包括：多个接收开关单元，用于从命令译码模块接收访问命令和/或存储命令；以及多个输出开关单元，用于将访问命令和/或存储命令输出值存储器块访问控制模块。
9.可选地，多个接收开关单元为交换开关/直连开关。
10.可选地，多个输出开关单元为交换开关/直连开关。
11.根据本发明的另一个方面，提供了一种处理器，包括上述的任意一种多通道访问存储部件，还包括：运算器，与多通道访问存储部件通信连接，用于向多通道访问存储部件发送访问命令和/或存储命令；存储器，与多通道访问存储部件通信连接，用于接收多通道访问存储部件发送的访问命令和/或存储命令，实现数据的读和/或写；控制器，与运算器和多通道访问存储部件通信连接，用于发送控制信息，其中多通道访问存储部件包括：命令缓存模块，用于缓存接收的至少一个访问命令和/或存储命令；命令译码模块，与命令缓存模块通信连接，用于对访问命令和/或存储命令进行解码；置换网络模块，与命令译码模块通信连接，用于将解码后的访问命令和/或存储命令进行分配；以及存储器块访问控制模块，与置换网络模块通信连接，包括多个存储器块访问控制块，用于接收置换网络模块发送的访问命令和/或存储命令。
12.从而根据本发明实施例提供的多通道访问存储部件和处理器，通过在命令译码模块和存储器块访问控制模块之间设置网络置换模块，从而通过网络置换模块使得多通道访问存储部件可以实现n路访问(load)以及存储(store)的并发流水线工作。进而解决了现有技术中存在的现有的多通道访问存储部件由于不具备数据并发能力，导致无法和存储器之间并发通信，从而使得存储器的访问存储效率低的技术问题。置换网络模块中的各个通道具有固定的时延，从而使得多通道访问存储部件可以支持n路load、store中的任意0～n路冲突访问相同存储器的不同存储行或相同存储行；并且当发生m(m≤n)路访问冲突时，能够在最多m个时钟周期内解决访问冲突。
13.根据下文结合附图对本发明的具体实施例的详细描述，本领域技术人员将会更加明了本发明的上述以及其他目的、优点和特征。
附图说明
14.后文将参照附图以示例性而非限制性的方式详细描述本发明的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解，这些附图未必是按比例绘制的。附图中：
15.图1是根据本发明实施例第一个方面所述的多通道访问存储部件的示意图；
16.图2是图1所示的置换网络的示意图；
17.图3是图2所示的输入开关单元/输出开关单元的状态示意图；以及
18.图4是根据本发明实施例第二个方面所述的处理器的示意图。
具体实施方式
19.需要说明的是，在不冲突的情况下，本发明公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明公开。
20.为了使本技术领域的人员更好地理解本发明公开方案，下面将结合本发明公开实施例中的附图，对本发明公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明公开一部分的实施例，而不是全部的实施例。基于本发明公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明公开保护的范围。
21.需要说明的是，本发明公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换，以便这里描述的本发明公开的实施例。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
22.需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本发明的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
23.图1是根据本发明实施例第一个方面所述的多通道访问存储部件的示意图，参考图1所示，多通道访问存储部件10包括：用于实现和存储器的多通道通信连接，包括：命令缓存模块110，用于缓存接收的至少一个访问命令和/或存储命令；命令译码模块120，与命令缓存模块110通信连接，用于对访问命令和/或存储命令进行解码；置换网络模块130，与命令译码模块120通信连接，用于将解码后的访问命令和/或存储命令进行分配；以及存储器块访问控制模块140，与置换网络模块130通信连接，包括多个存储器块访问控制块，用于接收置换网络模块130发送的访问命令和/或存储命令。
24.正如背景技术中所述的，load-store电路(访问存储部件)是专门用于与存储器交互的功能部件，主要负责根据指令从存储器取数据和根据指令向存储器存数据。load-store功能部件的性能直接关系到计算芯片整体的性能水平，设计高效率的load-store功能部件就变得十分重要。目前，人工智能、大数据处理等应用都普遍具有高数据并行度的特点，对存储器的带宽需求更高，这就要求load-store功能部件也需要具备并发能力。
25.有鉴于此，本发明实施例提供了一种多通道访问存储部件10，通过在命令译码模块120和存储器块访问控制模块140之间设置网络置换模块130，从而通过网络置换模块130使得多通道访问存储部件10可以实现n路访问(load)以及存储(store)的并发流水线工作。进而解决了现有技术中存在的现有的多通道访问存储部件由于不具备数据并发能力，导致无法和存储器之间并发通信，从而使得存储器的访问存储效率低的技术问题。
26.此外，置换网络模块130中的各个通道具有固定的时延，从而使得多通道访问存储部件10可以支持n路load、store中的任意0～n路冲突访问相同存储器的不同存储行或相同存储行；并且当发生m(m≤n)路访问冲突时，能够在最多m个时钟周期内解决访问冲突。
27.此外，命令译码模块120：来自n路通道的访问命令和/或存储命令被缓存后，进入命令译码模块120，由于多通道访问存储部件10接收的来自外界的可能是编码后的命令，命令译码模块120的功能是将编码后的命令译码，然后送入后面的置换网络模块130进行处理；
28.网络置换模块130：访问命令和/或存储命令被译码后，得到真实的各个通道的访存信息，由于n路访问命令和/或存储命令请求能够任意访问n个存储器块，所以被译码的命令需要利用一个交换网络被任意的送到所访问的存储器块。
29.存储器块访问控制模块140：被译码的命令经过置换网络模块130的交换，进入与之对应的存储器块访问控制模块中，存储器块访问控制模块140发出对存储器的读/写信
号，完成数据读写。
30.此外，本发明提出的实现方案由于采用了置换网络结构，相比同类功能模块，实现所消耗的数字逻辑单元更小，具有明显的面积优势。
31.可选地，访问命令包括：操作类型、取数地址、取数模式；以及存储命令包括：操作类型、存数地址、存数模式、存数据。其中，访问命令，即load命令包括以下信息：操作类型(如取字、半字、字节等)、取数地址、取数模式等；存储命令，即store命令包括如下：操作类型(如取字、半字、字节等)、存数地址、存数模式、存数据等。
32.可选地，置换网络模块130为x置换网络，包括：多个接收开关单元131，用于从命令译码模块120接收访问命令和/或存储命令；以及多个输出开关单元132，用于将访问命令和/或存储命令输出值存储器块访问控制模块140。
33.具体地，参考图2所示，置换网络模块130具有n*log(n)的空间复杂度；能够实现任意的1对1置换连接。并且参考图2所示，置换网络模块130所有通路具有固定的延时。从而使得多通道访问存储部件10可以支持n路load、store中的任意0～n路冲突访问相同存储器的不同存储行或相同存储行；并且当发生m(m≤n)路访问冲突时，能够在最多m个时钟周期内解决访问冲突。
34.可选地，多个接收开关单元131为交换开关/直连开关。多个输出开关单元132为交换开关/直连开关。
35.具体地，图3示出了开关单元的两种状态，其中接收开关单元131和输出开关单元132均可设置为交换开关状态或者直连开关状态。具体不做限定，用户可以根据需求自行设定。
36.根据本发明的另一个方面，提供了一种处理器，包括上述的任意一种多通道访问存储部件10，还包括：运算器20，与多通道访问存储部件10通信连接，用于向多通道访问存储部件10发送访问命令和/或存储命令；存储器30，与多通道访问存储部件10通信连接，用于接收多通道访问存储部件10发送的访问命令和/或存储命令，实现数据的读和/或写；控制器40，与运算器20和多通道访问存储部件10通信连接，用于发送控制信息，其中多通道访问存储部件10包括：命令缓存模块110，用于缓存接收的至少一个访问命令和/或存储命令；命令译码模块120，与命令缓存模块110通信连接，用于对访问命令和/或存储命令进行解码；置换网络模块130，与命令译码模块120通信连接，用于将解码后的访问命令和/或存储命令进行分配；以及存储器块访问控制模块140，与置换网络模块130通信连接，包括多个存储器块访问控制块，用于接收置换网络模块130发送的访问命令和/或存储命令。
37.具体地，参考图2所示，多通道访问存储部件10(load-store功能部件)是连接存储器30和运算器20的媒介，多通道访问存储部件10接收控制器40的命令，向存储器30发出访问存储操作，访问存储操作主要包括从存储器30读数据和向存储器写数据。其中多通道访问存储部件10，通过在命令译码模块120和存储器块访问控制模块140之间设置网络置换模块130，从而通过网络置换模块130使得多通道访问存储部件10可以实现n路访问(load)以及存储(store)的并发流水线工作。进而解决了现有技术中存在的现有的多通道访问存储部件由于不具备数据并发能力，导致无法和存储器之间并发通信，从而使得存储器的访问存储效率低的技术问题。
38.此外，置换网络模块130中的各个通道具有固定的时延，从而使得多通道访问存储
部件10可以支持n路load、store中的任意0～n路冲突访问相同存储器的不同存储行或相同存储行；并且当发生m(m≤n)路访问冲突时，能够在最多m个时钟周期内解决访问冲突。
39.此外，多通道访问存储部件10的说明参考本发明实施例第一个方面所述的内容，此处就不再一一赘述。
40.从而根据本发明实施例提供的多通道访问存储部件10和处理器，通过在命令译码模块120和存储器块访问控制模块140之间设置网络置换模块130，从而通过网络置换模块130使得多通道访问存储部件10可以实现n路访问(load)以及存储(store)的并发流水线工作。进而解决了现有技术中存在的现有的多通道访问存储部件由于不具备数据并发能力，导致无法和存储器之间并发通信，从而使得存储器的访问存储效率低的技术问题。置换网络模块130中的各个通道具有固定的时延，从而使得多通道访问存储部件10可以支持n路load、store中的任意0～n路冲突访问相同存储器的不同存储行或相同存储行；并且当发生m(m≤n)路访问冲突时，能够在最多m个时钟周期内解决访问冲突。
41.除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明公开的范围。同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
42.为了便于描述，在这里可以使用空间相对术语，如“在
……
之上”、“在
……
上方”、“在
……
上表面”、“上面的”等，用来描述如在图中所示的一个器件或特征与其他器件或特征的空间位置关系。应当理解的是，空间相对术语旨在包含除了器件在图中所描述的方位之外的在使用或操作中的不同方位。例如，如果附图中的器件被倒置，则描述为“在其他器件或构造上方”或“在其他器件或构造之上”的器件之后将被定位为“在其他器件或构造下方”或“在其他器件或构造之下”。因而，示例性术语“在
……
上方”可以包括“在
……
上方”和“在
……
下方”两种方位。该器件也可以其他不同方式定位(旋转90度或处于其他方位)，并且对这里所使用的空间相对描述作出相应解释。
43.在本发明公开的描述中，需要理解的是，方位词如“前、后、上、下、左、右”、“横向、竖向、垂直、水平”和“顶、底”等所指示的方位或位置关系通常是基于附图所示的方位或位置关系，仅是为了便于描述本发明公开和简化描述，在未作相反说明的情况下，这些方位词并不指示和暗示所指的装置或元件必须具有特定的方位或者以特定的方位构造和操作，因此不能理解为对本发明公开保护范围的限制；方位词“内、外”是指相对于各部件本身的轮廓的内外。
44.以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求的保护范围为准。