方法、集成电路及计算机可读存储介质与流程

1.本公开涉及计算机领域，具体而言，涉及一种方法、集成电路及计算机可读存储介质。


背景技术：

2.现代计算系统越来越多地被设计为处理专用任务，在系统中实现专用任务的处理器通常被称为加速器。和通用处理器相比，加速器被配置为更高效地执行某些操作，例如算数运算。通用处理器实施通用指令集架构(instruction set architectures,isas)以将处理器配置为执行各种计算机可执行指令，而专用处理器(例如加速器)可以实施上述指令集架构中的一些子集或实施专用指令集架构。
3.计算系统的存储器提供了高效执行指令所必需的暂存空间，处理器执行指令时需要在处理器与一个或多个系统的存储器之间传输数据。这样的数据传输发生在各个总线连接上，每根总线的连接都具有固定的数字带宽容量，来表征该总线上的最大数据传输速率。如果处理器到存储器的数据吞吐率超过了连接处理器和存储器的总线的带宽容量，则可能导致瓶颈(bottleneck)，即在总线的带宽容量被填满时暂停指令执行。
4.在实践中，不同处理器架构的不同设计导致不同处理器(例如加速器)的数据传输需求不同。最大化数据总线的带宽容量以防止瓶颈并不是适用于所有计算系统甚至同一计算系统中的所有处理器的一刀切解决方案。在一些处理器的数据吞吐率较小的情况下，总线连接可能未被充分利用甚至闲置，导致计算系统的电力浪费。因此，在设计包含新型和异构的处理器(例如加速器)的计算系统时，不仅需要避免数据传输瓶颈，还需要充分利用总线连接。


技术实现要素：

5.为解决上述问题，本公开实施例提供一种方法、集成电路及计算机可读存储介质。
6.根据本公开实施例的第一方面，提供一种方法，包括：
7.通过计算系统的存储器接口控制器的模式切换控制器，将所述存储器接口控制器切换至第一模式，所述第一模式选自至少一种窄带模式和宽带模式；以及
8.通过所述存储器接口控制器禁用以下中的一个：
9.根据第一总线标准的所述存储器接口控制器的多个窄带存储器接口的一个，或根据第二总线标准的所述存储器接口控制器的宽带存储器接口。
10.可选地，还包括：
11.在所述存储器接口控制器的所述多个窄带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第二总线标准将所述计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元；以及
12.在所述存储器接口控制器的所述宽带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第一总线标准将所述计算系统的所述系统存储单元虚拟化为虚拟
窄带存储单元；
13.其中，所述存储器接口控制器通过根据多主、多从的第一总线标准构建的存储器互连在虚拟窄带存储单元和多个存储用户之间传输数据。
14.可选地，还包括：
15.在所述存储器接口控制器的所述多个窄带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输；以及
16.在所述存储器接口控制器的所述宽带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
17.可选地，还包括：将一个或多个仲裁规则和/或配置值写入所述存储器接口控制器的配置寄存器，
18.其中，所述模式切换控制器至少基于写入所述配置寄存器的所述仲裁规则将所述存储器接口控制器切换到所述第一模式。
19.可选地，还包括：通过所述模式切换控制器将所述存储器接口控制器切换至第二模式，所述第二模式选自至少一种窄带模式和宽带模式，以及
20.通过所述存储器接口控制器禁用以下的另一个：根据所述第一总线标准的所述存储器接口控制器的所述多个窄带存储器接口，或根据所述第二总线标准的所述存储器接口控制器的所述宽带存储器接口。
21.根据本公开实施例的第二方面，提供一种集成电路，包括：
22.计算系统的存储器接口控制器，所述存储器接口控制器包括：
23.模式切换控制器，被配置为将所述存储器接口控制器切换到选自至少一种窄带模式和宽带模式中的第一模式；
24.并被配置为禁用以下中的一个：根据第一总线标准的所述存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的所述存储器接口控制器的宽带存储器接口。
25.可选地，所述存储器接口控制器还被配置为：
26.在所述存储器接口控制器的所述多个窄带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第二总线标准将所述计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元；以及
27.在所述存储器接口控制器的所述宽带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第一总线标准将所述计算系统的所述系统存储单元虚拟化为虚拟窄带存储单元；
28.其中，所述存储器接口控制器被配置通过根据多主、多从第一总线标准构建的存储器互连在所述虚拟窄带存储单元和所述多个存储用户之间传输数据。
29.可选地，所述存储器接口控制器还被配置为：
30.在所述存储器接口控制器的所述多个窄带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输；以及
31.在所述存储器接口控制器的所述宽带存储器接口被禁用的情况下，利用所述存储
器接口控制器，根据所述第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
32.可选地，所述存储器接口控制器还包括配置寄存器，所述配置寄存器具有写入其中的一个或多个仲裁规则和/或配置值，
33.其中，所述模式切换控制器被配置为至少基于写入所述配置寄存器的仲裁规则将所述存储器接口控制器切换到所述第一模式。
34.可选地，所述模式切换控制器还被配置为将所述存储器接口控制器切换至第二模式，所述第二模式选自至少一种所述窄带模式和所述宽带模式；以及
35.所述存储器接口控制器进一步被配置为禁用以下中的另一个：根据所述第一总线标准的所述存储器接口控制器的所述多个窄带存储器接口，或根据所述第二总线标准的所述存储器接口控制器的所述宽带存储器接口。
36.根据本公开实施例的第三方面，提供一种计算机可读存储介质，存储可由一个或多个处理器执行的计算机可读指令，当由所述一个或多个处理器执行时，使所述一个或多个处理器执行以下操作，包括：
37.通过计算系统的存储器接口控制器的模式切换控制器，将所述存储器接口控制器切换至第一模式，所述第一模式选自至少一种窄带模式和宽带模式；以及
38.通过所述存储器接口控制器禁用以下中的一个：
39.根据第一总线标准的所述存储器接口控制器的多个窄带存储器接口，或
40.根据第二总线标准的所述存储器接口控制器的宽带存储器接口。
41.可选地，所述操作还包括：
42.在所述存储器接口控制器的所述多个窄带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第二总线标准将所述计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元；以及
43.在所述存储器接口控制器的所述宽带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第一总线标准将所述计算系统的所述系统存储单元虚拟化为虚拟窄带存储单元。
44.可选地，所述操作还包括：
45.在所述存储器接口控制器的所述多个窄带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输；以及
46.在所述存储器接口控制器的所述宽带存储器接口被禁用的情况下，利用所述存储器接口控制器，根据所述第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输；
47.其中，所述存储器接口控制器通过根据多主、多从第一总线标准构建的存储器互连在所述虚拟窄带存储单元和所述多个存储用户之间传输数据。
48.可选地，所述操作还包括：通过所述模式切换控制器将所述存储器接口控制器切换至第二模式，所述第二模式选自至少一种窄带模式和宽带模式；以及
49.通过所述存储器接口控制器禁用以下中的另一个：根据所述第一总线标准的所述存储器接口控制器的所述多个窄带存储器接口，或根据所述第二总线标准的所述存储器接
口控制器的所述宽带存储器接口。
50.本公开实施例提供的方法，通过存储器接口控制器的模式切换控制器在至少两个模式之间进行切换，以达到避免数据传输瓶颈，并充分利用总线连接的目的。
附图说明
51.具体描述将与附图一起描述。在附图中，附图标记中最左边的数字表示其第一次出现的附图。在不同的附图中，使用相同的附图标记表示相同/相似的元件/特征。
52.图1示出了根据本公开示例性的实施例提供的被配置为用于任意通用或专用计算的系统的系统架构；
53.图2示出了根据本公开示例性的实施例提供的处理器和存储器互连的架构图；
54.图3a示出了从每个存储用户角度来看的架构图；
55.图3b示出了从宽带存储用户角度来看的架构图；
56.图4a示出了运行在窄带模式下的存储器接口控制器；
57.图4b示出了运行在宽带模式下的存储器接口控制器；
58.图5a和5b示出了根据本公开示例性的实施例提供的存储器接口模式切换方法的流程图。
具体实施方式
59.本文讨论的系统和方法涉及存储器接口，并且更具体地实现了一种计算系统的双模式存储器接口，其可配置为向计算系统的不同处理器提供具有不同等级带宽容量的存储器接口。
60.图1示出了根据本公开示例性的实施例提供的被配置为用于任意通用或专用计算的系统100的系统架构。
61.本文描述的技术和机制可以由系统100的多个示例以及由任何其他计算设备、系统和/或环境来实现。系统100可以是任何种类的计算设，例如个人计算机、个人平板电脑、移动设备、可操作以执行矩阵算术计算的其他此类计算设备。图1所示的系统100仅是系统的一个示例，并非旨在对用于执行上述过程和/或程序的任何计算设备的使用范围或功能性的任何限制。适用于实施例的其他众所周知的计算设备、系统、环境和/或配置包括但不限于个人计算机、服务器计算机、手持或膝上型设备、多处理器系统、基于微处理器的系统、机顶盒、游戏机、可编程消费电子产品、网络pc、小型计算机、大型计算机、包括上述任何系统或设备的分布式计算环境、使用现场可编程门阵列(field programmable gate arrays,fpgas)的各种实现、专用集成电路(application specific integrated circuits,asics)和/或类似装置。
62.在根据本公开示例性的实施例提供的系统100内，如图1所示的元件以及下文描述的元件可被实现为物理集成到片上系统的模块和电路。
63.根据本公开示例性的实施例提供的系统100可以包括一个或多个通用处理器102，可以包括一个或多个专用处理器104，或者可以包括一个或多个通用处理器102和一个或多个专用处理器104。通用处理器102和/或专用处理器104可以执行存储如下文描述的计算机可读存储介质上的一个或多个指令，以使通用处理器102和/或专用处理器104执行各种功
能。通用处理器102可以是被计算机可执行指令集配置以执行各种功能的计算设备，例如中央处理器(central processing unit,cpu)。专用处理器104可以是具有用于加快专用数学计算任务的硬件或软件的计算设备。例如，专用处理器104可以是加速器，例如是神经网络处理单元(neural network processing units,npus)、图形处理单元(graphics processing units,gpus)、张量处理单元(tensor processing units,tpus)、使用现场可编程门阵列(field programmable gate arrays,fpgas)的各种实现、专用集成电路(application specific integrated circuits,asics)和/或类似装置。为了促进专用计算，专用处理器104可以实现例如进行数学运算(例如矩阵运算)的可操作引擎。
64.根据本公开示例性的实施例，系统100可以包括多个通用处理器102和多个专用处理器104。如下文所描述，每个这样的通用处理器102和专用处理器104在下文中被称为系统存储器106的“存储用户”。
65.系统100还可以包括经由存储器接口控制器108通信耦合到通用处理器102和/或专用处理器104的系统存储器106。取决于系统100的实际配置和类型，系统存储器106可以是易失性的(例如随机存取存储器(random access memory,ram))、非易失性的(例如只读存储器(read-only memory,rom)、闪存、微型硬盘驱动器、存储卡和类似的存储器)存储器或者它们的某种组合。
66.构成系统存储器106的每个存储器设备在下文中被称为“系统存储单元”。除非另有说明，否则在下文描述的各种存储器资源实质上是可互换的。
67.此外，每个通用处理器102和/或专用处理器104可以拥有其自己的本地存储器(未示出)，其可以存储程序模块、程序数据和/或更多操作系统。
68.存储器接口控制器108可以包括一个或多根总线连接，用于在通用处理器102和系统存储器106之间传输数据，和/或在专用处理器104和系统存储器106之间传输数据，和/或在通用处理器102和专用处理器104之间传输数据。此外，数据总线110可以在通用处理器102和专用处理器之间传输数据。存储器接口控制器108和/或数据总线110可以根据例如外围组件互连快速(peripheral component interconnect express,pcie)总线标准、高级可扩展接口(advanced extensible interface,axi)总线标准，以及本领域技术人员所知的符合随机存取存储器(例如双倍数据速率同步动态随机存取存储器(double data rate synchronous dynamic random-access memory,ddr sdram))的某类总线标准进行操作。如下文所述，存储器接口控制器108尤其可以实现多于一种的总线标准。如本领域技术人员所知，某些这样的接口适合作为处理器与其他处理器之间的接口；某些这样的接口适合作为处理器和存储器之间的接口；以及某些这样的接口适合作为处理器和持久存储器之间的接口。
69.根据本公开示例性的实施例，存储器接口控制器108进一步被实现为双模式存储器接口。双模式存储器接口在至少两种模式下有效，其中至少第一模式可以被称为窄带模式，并且至少第二模式可以被称为宽带模式。在任一模式中，存储器接口控制器108可操作地将一个或多个虚拟输入/输出(input/output,i/o)接口提供给如上所述的任何一个、部分或所有存储用户。存储器接口控制器108还可操作地对存储用户隐藏单独的系统存储单元和一些系统存储单元的单独存储器接口，例如这些系统存储单元的任何物理接口。替代地，通过一个或多个虚拟i/o接口，存储用户可对由与一个或多个虚拟i/o接口对应的存储
器接口提供的一个或多个虚拟存储单元执行i/o操作。每个虚拟存储单元可以与多个系统存储单元中的一个对应，也可以不一一对应；例如，对虚拟存储单元的一系列存储器地址的读或写请求可以映射到对一个或多个系统存储单元的存储器地址的读或写请求。
70.系统100还可以包括物理i/o接口(未示出)和通信模块(未示出)，以允许系统100通过网络与其他系统和设备通信，例如如上所述的服务器主机。网络可以包括因特网(internet)、有线媒体(例如有线网络(wired network)或直线直连(direct-wired connections))以及无线媒体(例如声学(acoustic)、射频(radio frequency,rf)、红外线和其他无线媒体)。
71.本文描述的方法中的一些或所有操作可以通过执行存储在计算机可读存储介质上的计算机可读指令来执行，如下文所定义。在说明书和权利要求中使用的术语“计算机可读指令”或“计算机可执行指令”包括例程、应用程序、应用程序模块、程序模块、程序、组件、数据结构、算法等。计算机可读指令可以在各种系统配置上实现，包括单处理器或多处理器系统、小型计算机、大型计算机、个人计算机、手持计算设备、基于微处理器的可编程消费电子产品及其组合等。
72.计算机可读存储介质可以包括易失性存储器(例如随机存取存储器(random access memory,ram))和/或非易失性存储器(例如只读存储器(read-only memory,rom)、闪存等)和/或如上所述的持久存储器。计算机可读存储介质还可以包括附加的可移动存储和/或不可移动存储，不限于闪存、磁存储、光存储和/或磁带存储，它们可以提供对计算机可读指令、数据结构、程序模块等的非易失性存储。
73.非暂态(non-transient)计算机可读存储介质作为计算机可读介质的一个示例。计算机可读介质包括至少两种类型的计算机可读介质，即计算机可读存储介质和通信介质。计算机可读存储介质包括以任何过程或技术实现的易失性和非易失性、可移动和不可移动介质，用于存储诸如计算机可读指令、数据结构、程序模块或其他数据的信息。计算机可读存储介质包括但不限于相变存储器(phase change memory,pram)、静态随机存取存储器(static random-access memory,sram)、动态随机存取存储器(dynamic random-access memory,dram)、其他类型的随机存取存储器(random-access memory,ram)、只读存储器(read-only memory,rom)、电可擦可编程只读存储器(electrically erasable programmable read-only memory,eeprom)、非易失性存储器(nonvolatile memory,nvm)、闪存或其他存储技术，光盘只读存储器(compact disk read only memory,cd-rom)、数字通用磁盘(digital versatile disks,dvd)或其他光存储，盒式磁带、磁带、磁盘存储或其他磁存储设备，或任何其他用于存储计算设备可访问信息的非传输介质。相比之下，通信介质可以在调制数据信号(例如载波或其他传输机制)中包含计算机可读指令、数据结构、程序模块或其他数据。如本文所定义，计算机可读存储介质不包括通信介质。
74.存储在一个或多个非暂态计算机可读存储介质上的计算机可读指令在由一个或多个处理器执行时可执行本文所描述的操作。通常来说，计算机可读指令包括执行特定功能或实现特定抽象数据类型的规范(routines)、程序、对象、组件、数据结构等。操作的描述顺序不旨于限制，相反，可以以任何顺序和/或以并行方式组合任意数量的操作以实现流程。
75.因此，根据本公开示例性的实施例，作为存储用户的通用处理器102和专用处理器
104可以通过虚拟i/o接口访问被虚拟化为虚拟存储单元的系统存储器106。根据本公开示例性的实施例，“虚拟化(virtualization)”指由存储器接口控制器108将系统存储单元的存储器地址映射到虚拟存储单元的存储器地址的映射。这种架构设计的好处至少包括在具有不同等级带宽容量的不同i/o接口集合之间提供模式选择，这将在下文中更详细地描述。
76.图2示出了根据本公开示例性的实施例的处理器和存储器互连(processor-memory interconnections)的架构图。
77.处理器和存储器的互连系统200包括上述系统100的结构的子集，例如至少包括通用处理器102和专用处理器104(在此图中示为一定数量的存储用户202和宽带存储用户204)、系统存储器106(在此图中示为一定数量的系统存储单元206)和存储器接口控制器108(在此图中示为存储器接口控制器208)。
78.每个存储用户202可以是用以执行指令集架构(instruction set architecture,isa)中指令的任何通用处理器102或任何专用处理器104，其中，基于理论和/或经验确定，单个存储用户202执行的指令不会导致具有超过阈值的数据吞吐率的读操作和/或写操作。
79.宽带存储用户204可以是用以执行指令集架构中的指令的专用处理器104，其中，基于理论和/或经验确定，由单个存储用户204在某一时刻执行的指令会导致具有超过阈值的数据吞吐率的读操作和/或写操作。应当理解的是，虽然图2中仅示出了一个宽带存储用户204，但是系统100可以在多个专用处理器104中包括不止一个类似的宽带存储用户204。
80.根据本公开示例性的实施例，阈值可以是特定数据吞吐率，其定义了低数据吞吐率与高数据吞吐率之间的边界，低数据吞吐率可以由具有“窄”带宽容量的总线连接承载而不会使总线连接饱和，高数据吞吐率可以由具有“宽”带宽容量的总线连接承载，如果由具有“窄”带宽容量的总线连接承载高数据吞吐率将使总线连接饱和。存储用户202的数据吞吐率可能低于阈值，宽带存储用户204的数据吞吐率可能高于阈值。
81.例如，存储用户202可以是仅实现标量处理单元而非矢量处理单元的任何处理器，而宽带存储用户204可以是实现标量处理单元和矢量处理单元的组合的任何处理器。此外，在用于实现矢量处理单元的处理器中，由于存储用户具有特别高的数据吞吐率从而需要特别高的带宽，因此该处理器可能是算术逻辑单元(arithmetic logic units,alus)和浮点单元(floating-point units,fpu)的某种组合的处理器，其包括一些矢量浮点单元，而不是实现算术逻辑单元但不实现浮点单元的处理器。应当理解，存储用户202和宽带存储用户204之间的区别可以是如上的分类，但可替代地，也可以基于预期数据吞吐率或观察到的数据吞吐率从理论上和/或经验上确定分类。
82.进一步地如图2所示，每个存储用户202通过i/o接口210与存储器互连212连接。存储器互连212例如可以包括常规系统总线，其具有控制总线、地址总线和数据总线作为另外的组件。例如，控制总线、地址总线和数据总线可以分别是实现支持多主、多从总线连接的第一总线标准的接口(其中，多个存储用户，例如cpus，可以发起读写信号)，例如高级可扩展接口(axi)。为了理解本公开的示例实施例的目的，控制总线、地址总线和数据总线可以被抽象为由存储器互连212示意的一公共元件。
83.存储器互连212还可以进一步连接到存储器接口控制器208的各个窄带虚拟存储器接口214。每个这样的窄带虚拟存储器接口214可以被配置为以与系统100的物理或虚拟系统存储单元的存储器接口相同的方式，从存储器互连212的控制总线、地址总线和数据总
线传输数据，和向存储器互连212的控制总线、地址总线和数据总线传输数据。可以根据本公开示例性的实施例在架构上配置存储器互连212，以将来自每个存储用户202的读取和写入请求发送到每个窄带虚拟存储器接口214，并根据第一总线标准，在每个存储用户202和每个窄带虚拟存储器接口214之间传输数据。
84.因此，从每个存储用户202(如图3a的架构图中所示)的角度来看，存储用户202可以向每个窄带虚拟存储器接口214发送读取和写入请求。每个窄带虚拟存储器接口214作为窄带虚拟存储单元302的存储器接口提供给存储器互连212。这些窄带虚拟存储单元302如图3a所示，在图2中未示出。
85.进一步地如图2所示，宽带存储用户204通过i/o接口216与存储器接口控制器208的宽带虚拟存储器接口218连接。宽带虚拟存储器接口218被配置为以与系统100的物理或虚拟系统存储单元的存储器接口相同的方式，从i/o接口216传输数据和向i/o接口216传输数据。宽带虚拟存储器接口218例如可以是实现支持如上定义的高带宽容量的第二总线标准的接口，例如任何支持至少1024位带宽容量的标准。
86.根据本公开示例性的实施例，第一总线标准和第二总线标准可以是不同的总线标准，并且第一总线标准不需要支持如上定义的“宽”带宽容量。例如，第一总线标准可能只需要支持128位的带宽容量。
87.因此，从宽带存储用户204(如图3b的架构图中所示)的角度来看，宽带存储用户204可以向宽带虚拟存储器接口218发送读取和写入请求。宽带虚拟存储器接口218作为宽带虚拟存储单元304的存储器接口提供给宽带存储用户204。这些宽带虚拟存储单元304如图3b所示，在图2中未示出。
88.进一步地如图2所示，系统存储单元206均连接到存储器接口控制器208的公共存储器接口220。公共存储器接口220例如可以是实现符合随机存取存储器的总线标准的接口，例如ddr sdram。公共存储器接口220可以被配置将来自每个存储用户202和来自宽带存储用户204的读取和写入请求传送到每个系统存储单元206，在每个存储用户202和每个系统存储单元206之间传输数据，以及在宽带存储用户204和每个系统存储单元206之间传输数据，具体取决于模式切换控制器222(这将在下文描述)。
89.每个系统存储单元206可以是具有属于如上定义的窄范围内的带宽的存储器接口的存储器设备。通过为系统100提供窄带宽容量的存储单元，根据本公开示例性的实施例的存储器接口控制器208可以具有灵活性，该灵活性是将任意数量的窄带宽容量的系统存储单元连同宽带虚拟存储单元一起虚拟化，或者将任意数量的窄带宽容量的系统存储单元单独虚拟化为一个窄带虚拟存储单元，如下文所述。
90.进一步地如图2所示，存储器接口控制器208还包括模式切换控制器222、配置寄存器224和编程接口226。模式切换控制器222可以是被配置为执行存储器接口控制器208的至少两种操作模式的处理器，包括如上所述的窄带模式和宽带模式。配置寄存器224可以是用户可编程数字寄存器，其可以用作存储计算机可执行指令的计算机可读存储介质，所述计算机可执行指令将模式切换控制器222配置为执行所存储的指令。模式切换控制器222可以由存储在配置寄存器224上的指令配置以基于存储在配置寄存器224中的仲裁规则(arbitration rules)和/或配置值在窄带模式和宽带模式之间切换。此外，可以通过调用编程接口226来设置配置值。编程接口226例如可以是具有可调用命令的一个或多个应用编
程接口(application programming interfaces,apis)，这些命令使存储器接口控制器208设置配置寄存器224的配置值。后文将描述窄带模式和宽带模式之间的切换以及在窄带模式和宽带模式下工作的细节。
91.如图4a所示，存储器接口控制器208工作在窄带模式下时，可以根据上述第二总线标准，通过广播命令、消息、信号等禁止宽带虚拟存储器接口218连接到i/o接口216，并通过宽带虚拟存储器接口218来表明宽带虚拟存储器接口218正忙碌，以推迟未决的读或写请求等。可以根据第二总线标准将这些命令、消息等广播给宽带存储用户204。在此期间，宽带存储用户204可以根据第二总线标准将未决的读和/或写请求排队。存储器接口控制器208可以在切换到宽带模式时停止广播这样的命令、消息、信号等。
92.因此，当工作在窄带模式时，存储器接口控制器208可以将每个系统存储单元206中虚拟化为如图3a所示的窄带虚拟存储单元302。每个系统存储单元206可以根据第一总线标准通过存储器互连212虚拟互连到每个存储用户202，其中，每个存储用户202可以通过窄带虚拟存储器接口214利用存储器互连212向每个窄带虚拟存储单元302发送读写请求，并根据第一总线标准通过窄带虚拟存储器接口214与每个窄带虚拟存储单元302进行数据传输。
93.根据第一总线标准，每个存储用户202可以是主设备，且每个窄带虚拟存储单元302可以是由多主设备、多从设备的总线连接所限定的从设备。因此，第一总线标准可以使每个主设备能够通过存储器互连212向任何从设备发送读写请求并与其进行数据传输；并且第一总线标准可以使多个主设备可以通过存储器互连212并行地向多个相应的从设备发送和写入请求以及与多个相应的从设备进行数据传输。
94.如图4b所示，存储器接口控制器208工作在宽带模式下时，可以根据上述第一线标准，通过广播命令、消息、信号等禁止每个窄带虚拟存储器接口214连接到存储器互连212，并通过窄带虚拟存储器接口214来表明每个窄带虚拟存储器接口214正忙碌，以推迟未决的读写请求等。可以根据第一总线标准将这些命令、消息等广播给每个存储用户202。例如，根据本公开示例性的实施例，第一总线标准是axi总线标准，可以根据第一总线标准向每个存储用户202广播“not_ready”信号。在此期间，每个存储用户202可以根据第二总线标准将未决读取和/或写入请求排队。存储器接口控制器208可以在切换到窄带模式时停止广播这样的命令、消息、信号等。
95.因此，当工作在宽带模式时，存储器接口控制器208可以将一些或所有系统存储单元206虚拟化为宽带虚拟存储单元304，如图3b所示。系统存储单元206可以通过第二总线标准虚拟互连到宽带存储用户204，其中，宽带存储用户204可以通过宽带虚拟存储器接口218向宽带虚拟存储单元304发送读写请求，并根据第二总线标准通过宽带虚拟存储器接口218与宽带虚拟存储单元304进行数据传输。
96.有效地，宽带虚拟存储器接口218的带宽容量可以等于窄带虚拟存储器接口214的带宽容量乘以虚拟化为宽带虚拟存储单元304的系统存储单元206的数量。例如，如果每个窄带虚拟存储器接口214具有128位的带宽容量，并且8个系统存储单元206将被虚拟化为宽带虚拟存储单元304，则宽带虚拟存储器接口218可以具有1024位的带宽容量。
97.图5a和5b示出了根据本公开示例性的实施例的存储器接口模式切换方法500的流程图。
98.在步骤502中，将一个或多个仲裁规则和/或配置值写入计算系统的存储器接口控制器的配置寄存器。
99.在上文中已经参考图1和图2对存储器接口控制器进行了大致描述。用户在操作运行配置寄存器的计算系统时，可以执行编译器来编译计算机可执行指令，编译器调用存储器接口控制器的编程接口，以使编译后的计算机可执行指令被写入到配置寄存器。可替代地，用户调用存储器接口控制器的编程接口，以根据存储器接口控制器的指令集架构，将手动编写的计算机可执行指令写入配置寄存器。计算机可执行指令可以包括仲裁规则、配置值等。
100.根据本公开示例性的实施例的仲裁规则，可以是本领域技术人员已知的用于在存储器控制器的多个主设备之间的共享总线访问的仲裁的任何总线仲裁规则，或者是适用于本领域技术人员已知的用于在存储器控制器的多个主设备之间的共享总线访问的仲裁的任何总线仲裁规则。仲裁规则可以将模式切换控制器配置为至少在存储器接口控制器的窄带模式和宽带模式之间切换，以使存储用户和宽带存储用户根据预定义的模式或行为轮流交替获得总线访问和存储器访问，如上文所述。通过这样的机制，每种类型的存储用户都可以得到至少部分时间的总线访问和存储器访问，从而没有一种类型的存储用户始终获得总线访问和存储器访问。仲裁规则可以通过配置值被进一步修改。
101.在步骤504中，存储器接口控制器的模式切换控制器至少基于写入配置寄存器的仲裁规则，将存储器接口控制器切换至第一模式，第一模式选自至少一种窄带模式和宽带模式。
102.例如，写入配置寄存器的仲裁规则可以配置模式切换控制器通过时间分区在窄带和宽带模式之间切换。总线访问时间和存储器访问时间可以被分区以提供多个时隙(timeslots)，在每个时隙中一种类型的存储用户或另一种类型的存储用户获得总线访问和存储器访问。时间分区可以包括由系统存储单元的一个或多个存储设备的时钟频率定义的一定数量的工作周期。
103.又例如，写入配置寄存器的用户定义的配置值可以将模式切换控制器配置为以大致相等的工作周期切换窄带模式和宽带模式，从而存储用户约一半的时间获得总线访问和存储器访问，且宽带存储用户约一半的时间获得总线访问和存储器访问。
104.再例如，写入配置寄存器的用户定义的配置值可以将模式切换控制器配置为在较多工作周期切换到窄带模式，并在较少工作周期切换到宽带模式，以便优先考虑存储用户的总线访问和存储器访问，或者在较少工作周期切换到窄带模式，在较多工作周期切换到宽带模式，以便优先考虑宽带存储用户的总线访问和存储器访问。
105.在步骤506中，存储器接口控制器禁用以下中的一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或者根据第二总线标准的存储器接口控制器的宽带存储器接口。
106.在存储器接口控制器处于窄带模式的情况下，存储器接口控制器可以禁用宽带存储器接口。在存储器接口控制器处于宽带模式的情况下，存储器接口控制器可以禁用窄带存储器接口。因此，如上文所述，可以根据第一总线标准或第二总线标准通过广播命令、消息、信号等来执行禁用。
107.在步骤508中，在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储
器接口控制器根据第二总线标准将计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元，在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准将计算系统的系统存储单元虚拟化为虚拟窄带存储单元。
108.当工作在窄带模式时，存储器接口控制器可以使计算系统中的每个存储用户能够利用窄带存储器接口与单独的窄带存储单元进行数据传输，这适配于存储用户的数据吞吐率并且避免了未充分利用。因此，利用这些存储单元和接口，可以避免计算系统的功耗浪费。
109.当工作在宽带模式时，存储器接口控制器可以使计算系统中的宽带存储用户能够利用虚拟宽带存储器接口，从而允许比实现在计算系统中的单个窄带存储器接口多几倍的吞吐量。这种虚拟宽带存储器接口有望适应宽带存储用户的数据吞吐率并避免了瓶颈。因此，可以有效地进行数据吞吐量密集型任务的计算，例如用于加速深度学习的矩阵算术。
110.在步骤510中，在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输，在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
111.数据传输可以通过存储器互连完成，其可以针对多主、多从总线标准(例如上文所述的axi总线标准)进行构建，以对计算系统的多个存储用户提供服务，无需同时针对单主、单从总线标准进行构建来对计算系统的单个宽带存储用户提供服务。在缺乏双模式存储器接口控制器的情况下，这种单用途存储器互连的构建避免了服务两种类型的存储器用户的多用途存储器互连导致的制造复杂性。
112.在步骤512中，模式切换控制器至少基于仲裁规则将存储器接口控制器切换至第二模式，第二模式选自至少一种窄带模式和宽带模式。
113.在步骤514中，存储器接口控制器禁用以下中的另一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或者根据第二总线标准的存储器接口控制器的宽带存储器接口。
114.在步骤516中，在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准将计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元，在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准将计算系统的系统存储单元虚拟化为虚拟窄带存储单元。
115.在步骤518中，在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输，如果存储器接口控制器的宽带存储器接口被禁用，存储器接口控制器根据第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
116.计算系统继续执行任务的同时，上述步骤可以在步骤504到510和步骤512到518之间循环。两种类型的存储用户可以继续通过存储器接口控制器的两种不同模式来满足他们的数据吞吐率要求。
117.通常，两种不同模式之间的切换可以以任意频率发生，然而，为了避免模式切换过于频繁可能导致的性能问题，从处理器周期的角度来看，模式切换不应过于频繁。
118.通过以上技术方案，本公开提供了一种计算系统的双模式存储器接口，可配置为
将具有不同等级带宽容量的存储器接口提供给计算系统的不同处理器。一个或多个仲裁规则和/或配置值被写入计算系统的存储器接口控制器的配置寄存器。存储器接口控制器的模式切换控制器，至少基于写入配置寄存器的仲裁规则，在选自至少一种窄带模式和宽带模式的第一模式和第二模式之间切换存储器接口控制器。在每种模式下，存储器接口控制器禁用以下中的一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准将计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元。在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准将计算系统的系统存储单元虚拟化为虚拟窄带存储单元。在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输，在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
119.示例条款
120.a.一种方法，包括：通过计算系统的存储器接口控制器的模式切换控制器，将存储器接口控制器切换至第一模式，第一模式选自至少一种窄带模式和宽带模式；以及通过存储器接口控制器禁用以下中的一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。
121.b.如段落a所述的方法，还包括：在存储器接口控制器的多个窄带存储器接口被禁用的情况下，利用存储器接口控制器根据第二总线标准将计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元；以及在存储器接口控制器的宽带存储器接口被禁用的情况下，利用存储器接口控制器根据第一总线标准将计算系统的系统存储单元虚拟化为虚拟窄带存储单元。
122.c.如段落a所述的方法，还包括：在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输；在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
123.d.如段落c所述的方法，其中，存储器接口控制器通过根据多主、多从的第一总线标准构建的存储器互连在虚拟窄带存储单元和多个存储用户之间传输数据。
124.e.如段落a所述的方法，还包括：将一个或多个仲裁规则和/或配置值写入存储器接口控制器的配置寄存器。
125.f.如段落e所述的方法，其中，模式切换控制器至少基于写入配置寄存器的仲裁规则将存储器接口控制器切换到第一模式。
126.g.如段落a所述的方法，还包括：通过模式切换控制器将存储器接口控制器切换至第二模式，第二模式选自至少一种窄带模式和宽带模式。
127.h.如段落g所述的方法，还包括：通过存储器接口控制器禁用以下中的另一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。
128.i.一种集成电路，包括：计算系统的存储器接口控制器，所述存储器接口控制器包括：模式切换控制器，被配置为将存储器接口控制器切换至第一模式，第一模式选自至少一种窄带模式和宽带模式；并被配置为禁用以下中的一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。
129.j.如段落i所述的集成电路，其中，存储器接口控制器还被配置为：在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准将计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元；以及在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准将计算系统的系统存储单元虚拟化为虚拟窄带存储单元。
130.k.如段落i所述的集成电路，其中，存储器接口控制器还被配置为：在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准在虚拟宽带存储单元和计算系统的宽带存储用户之间进行数据传输；在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
131.l.如段落k所述的集成电路，其中，存储器接口控制器被配置为通过根据多主、多从第一总线标准构建的存储器互连在虚拟窄带存储单元和多个存储用户之间传输数据。
132.m.如段落i所述的集成电路，其中，存储器接口控制器还包括配置寄存器，所述配置寄存器具有写入其中的一个或多个仲裁规则和/或配置值。
133.n.如段落m所述的集成电路，其中，模式切换控制器被配置为至少基于写入配置寄存器的仲裁规则将存储器接口控制器切换到第一模式。
134.o.如段落i所述的集成电路，其中，模式切换控制器还被配置为将存储器接口控制器切换至第二模式，第二模式选自至少一种窄带模式和宽带模式。
135.p.如段落o所述的集成电路，其中，存储器接口控制器进一步被配置为禁用以下中的另一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。
136.q.一种计算机可读存储介质，存储可由一个或多个处理器执行的计算机可读指令，当由一个或多个处理器执行时，使该一个或多个处理器执行以下操作，包括：通过计算系统的存储器接口控制器的模式切换控制器，将存储器接口控制器切换至第一模式，第一模式选自至少一种窄带模式和宽带模式；以及通过存储器接口控制器禁用以下中的一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。
137.r.如段落q所述的计算机可读存储介质，其中，所述操作还包括：在存储器接口控制器的多个窄带存储器接口被禁用的情况下，利用存储器接口控制器根据第二总线标准将计算系统的多个系统存储单元虚拟化为虚拟宽带存储单元；以及在存储器接口控制器的宽带存储器接口被禁用的情况下，利用存储器接口控制器根据第一总线标准将计算系统的系统存储单元虚拟化为虚拟窄带存储单元。
138.s.如段落q所述的计算机可读存储介质，其中，所述操作还包括：在存储器接口控制器的多个窄带存储器接口被禁用的情况下，存储器接口控制器根据第二总线标准在虚拟
宽带存储单元和计算系统的宽带存储用户之间进行数据传输；在存储器接口控制器的宽带存储器接口被禁用的情况下，存储器接口控制器根据第一总线标准在虚拟窄带存储单元与计算系统的多个存储用户之间进行数据传输。
139.t.如段落s所述的计算机可读存储介质，其中，存储器接口控制器通过根据多主、多从第一总线标准构建的存储器互连在虚拟窄带存储单元和多个存储用户之间传输数据。
140.u.如段落q所述的计算机可读存储介质，其中，所述操作还包括：将一个或多个仲裁规则和/或配置值写入存储器接口控制器的配置寄存器。
141.v.如段落u所述的计算机可读存储介质，其中，模式切换控制器至少基于写入配置寄存器的仲裁规则将存储器接口控制器切换到第一模式。
142.w.如段落q所述的计算机可读存储介质，其中，所述操作还包括：通过模式切换控制器将存储器接口控制器切换至第二模式，第二模式选自至少一种窄带模式和宽带模式。
143.x.如段落w所述的计算机可读存储介质，其中，所述操作还包括：通过存储器接口控制器禁用以下中的另一个：根据第一总线标准的存储器接口控制器的多个窄带存储器接口，或根据第二总线标准的存储器接口控制器的宽带存储器接口。
144.尽管已经以结构特征和/或方法动作的特定语言描述了主题，但是应当理解，本公开中定义的主题不一定限于上述特定的特征或动作。相反，上面描述的特定的特征和动作是以实现本公开的示例的形式被公开的。