云计算系统中使用虚拟机系列建模的容量管理的制作方法

云计算系统中使用虚拟机系列建模的容量管理


背景技术：

1.云计算是通过互联网递送计算服务(例如服务器、存储装置、数据库、联网、软件、分析)。广义上讲，云计算系统包括两个部分，即前端和后端，它们通过互联网相互通信。前端包括用户通过客户端设备遇到的界面。后端包括递送云计算服务的资源，包括处理器、存储器、存储装置和联网硬件。
2.云计算系统的后端通常包括多个数据中心，其可以位于不同的地理区域中。每个数据中心通常包括大量(例如数千)服务器，其可以被组织到不同的集群中。每个服务器都可以用于运行一个或多个虚拟机。在这种情况下，术语“服务器”指的是物理计算机系统，而术语“虚拟机”(vm)指的是服务器上计算机系统的仿真。换言之，vm是在服务器上运行的程序，它作用为类似于虚拟计算机。与物理计算机一样，vm运行操作系统和一个或多个应用。
3.云计算系统可能能够提供与不同的vm系列对应的vm。如本文中所使用的，术语“vm系列”指的是一个或多个vm大小的集合。术语“vm大小”指的是计算资源的一定分配。例如，在一些情况下，vm大小可以包括以下项的组合：(i)中央处理单元的一些部分、(ii)一定数量的存储器和(iii)一定数量的存储装置。
4.在云计算系统中，对计算资源的需求有时可能超过可用的供应。这可能会导致分配失败，其中用户请求计算资源，但是系统无法提供它们。缓解分配失败的一种方式是为云计算系统购买附加的计算资源。然而，这可能导致过度供应，其中有太多的计算资源可用，从而产生大量的过剩容量。过度供应也是不合需要的，因为它增加了提供云计算服务的成本。因此，云计算系统的管理员面临的艰难任务是尝试在没有过度供应的情况下确保有足够的计算资源来满足用户需求。


技术实现要素：

5.公开了一种用于在没有过度供应的情况下最小化云计算系统中的分配失败的方法。该方法包括确定在即将到来的时间段期间，针对云计算系统的系统单元中的vm系列的预测的供应。如本文中所使用的，术语“系统单元”指的是云计算系统的部分，为了确定用于分配与特定vm系列对应的vm的容量，该部分被视为单元。预测的供应可以至少部分地基于针对系统单元中的vm系列的共享可用当前容量和针对系统单元中的vm系列的共享可用未来添加的容量。该方法还包括预测在即将到来的时间段期间针对系统单元中的vm系列的可用容量。预测的可用容量可以至少部分地基于在即将到来的时间段期间针对系统单元中的vm系列的预测的需求和在即将到来的时间段期间针对系统单元中的vm系列的预测的供应。该方法还包括响应于确定在即将到来的时间段期间预测的需求超过预测的供应，来采取至少一个缓解动作。
6.确定针对系统单元中的vm系列的共享可用当前容量可以至少部分地基于针对系统单元的当前可用容量和针对系统单元中的vm系列的需求增长比率。确定针对系统单元中的vm系列的共享可用未来添加的容量可以至少部分地基于针对系统单元的未来添加的容量和针对系统单元中的vm系列的需求增长比率。
7.在一些实施例中，响应于确定在即将到来的时间段期间预测的需求超过预测的供应，可以自动采取至少一个缓解动作。
8.方法还附加地包括确定关于在即将到来的时间段期间针对系统单元中的vm系列的可用容量的多个预测。关于可用容量的多个预测可以基于多个不同的需求预测。
9.在一些实施例中，方法还附加地包括监测预测的可用容量，并且当预测的可用容量从指示第一类型的预测变为指示第二类型的预测时，提供警报。方法还可以包括执行根本原因分析，以确定预测的可用容量为什么从指示第一类型的预测变为指示第二类型的预测，并且提供根本原因分析报告，该根本原因分析报告描述在根本原因分析期间所确定的内容。
10.方法还附加地包括监测预测的需求、当前可用容量和未来添加的容量，并且当预测的需求、当前可用容量和未来添加的容量的值在预定时间段内变化了超过预定量时，提供警报。
11.在一些实施例中，方法还可以包括响应于检测到异常而执行根本原因分析，并且提供根本原因分析报告，该根本原因分析报告描述根本原因分析期间所确定的内容。
12.提供本发明内容是为了以简化的形式介绍概念的选集，这些概念还将在下面的具体实施方式中进行描述。本发明内容既不旨在标识所要求的主题的关键特征或基本特征，也不旨在用于帮助确定所要求的主题的范围。
13.附加的特征和优点将在下面的描述中进行说明。本公开的特征和优点可以通过所附权利要求中特别指出的系统和方法来实现和获得。本公开的特征将从下面的描述和所附权利要求中变得更完全显而易见，或可以通过实践下文所述的所公开的主题来学习。
附图说明
14.为了描述可以获得本公开的上述和其他特征的方式，更具体地描述将通过参照其在附图中所示的具体实施例来提供。为了更好地理解，相同的元件在各种附图中都用相同的参考数字指定。理解，图描绘了一些示例实施例，实施例将通过使用附图以附加的特异性和细节进行描述和解释，在附图中：
15.图1图示了根据本公开的包括容量建模服务的云计算系统的一些方面。
16.图2图示了示例，其示出了容量建模服务如何可以使用共享的可用当前容量和共享的可用未来添加的容量来确定预测的可用容量。
17.图3a和图3b图示了示例，其示出了如何可以为特定系统单元中的特定vm系列计算需求增长比率。
18.图4图示了容量建模服务，其被配置为针对相同的系统单元中的相同的vm系列生成多个预测。
19.图5图示了示例，其示出了在特定时间段期间特定系统单元中的特定vm系列的预测的需求和预测的供应的比较。
20.图6图示了将预测的需求和预测的供应进行比较的另一示例，其中未来添加的容量不为零。
21.图7示出了时间系列，其表示在特定时间段期间特定系统单元中的特定vm系列的预测的可用容量。
22.图8图示了容量管理引擎，其被配置为监测预测的可用容量并且提供相关警报。
23.图9图示了在不过度供应的情况下最小化云计算系统中的分配失败的方法。
24.图10图示了可以被包括在计算机系统中的某些组件，其可以用于实施本文中所描述的各种设备、组件和系统。
具体实施方式
25.本公开通常涉及确保云计算系统中有足够的计算资源来满足用户需求，而在同时防止会导致大量未使用的容量的过度供应。为了在这些相互竞争的目标之间实现适当的平衡，本公开描述了一种智能容量模型，来预测在即将到来的时间段期间特定系统单元的虚拟机(vm)系列的可用容量。一般来说，预测的可用容量表示在即将到来的时间段期间针对系统单元中的vm系列的预测的需求和在即将到来的时间段期间针对系统单元中的vm系列的预测的供应之间的差。如果预测到预测的需求在即将到来的时间段期间的任何点处都超过预测的供应，则可以执行一个或多个缓解动作，诸如购买附加的计算资源。
26.预测的供应可以基于当前可用容量和未来添加的容量两者。在这种情况下，术语“当前可用容量”指的是当前可用于分配特定系统单元内的特定vm系列的vm的计算资源。术语“未来添加的容量”指的是预计在确定预测的可用容量的时间段期间在某点处变得可用并且可以用于分配特定系统单元内的特定vm系列的vm的附加计算资源。
27.有利地，预测的供应还可以考虑以下事实，即云计算系统内的服务器关于vm系列是可替代的。换言之，相同的服务器可以用于托管不同的vm系列。当确定针对特定vm系列的预测的可用容量时，鉴于当前可用容量和未来添加的容量中的一些容量可能会用于分配与其他系列对应的vm这一事实，可以确定系统单元内有多少当前可用容量和未来添加的容量会被认为可用于分配与该vm系列对应的vm。
28.图1图示了在其中可以实施本公开的方面的云计算系统100的一些方面。云计算系统100经由互联网向多个区域102提供计算资源。每个区域102都包括多个可用性区105。该可用性区105是区域102内的不同的物理位置。每个可用性区105都包括一个或多个数据中心104。每个数据中心104都包括多个服务器106，其可以被逻辑地组织成多个集群108。每个服务器106都可以被配置为托管多个vm 110。区域102内的可用性区105的物理分隔保护了应用和数据不受数据中心104故障的影响。
29.当用户请求分配vm 110时，用户可能能够请求vm 110应当所位于的特定区域102。这是有利的，因为vm 110的位置对用户可能是重要的。例如，用户可能希望vm 110被定位在用户本身(和/或他们的客户)所在的位置附近，以便在使用vm 110或以其他方式与vm 110交互时最小化延时。
30.如上所述，云计算系统100可能能够提供与不同的vm系列对应的vm 110。当用户请求分配vm 110时，除了请求vm 110应当所位于的特定系统单元(例如区域102)外，用户还可以指定特定vm系列来分配vm 110。
31.除了数据中心104内的服务器106外，还有若干控制器和其他组件，负责处理云计算系统100的运行的各个方面(例如分配vm 110、执行软件更新、跟踪用于记账目的的使用)。在所描绘的云计算系统100中，这些组件中的一个组件被表示为容量管理引擎112。
32.容量管理引擎112包括容量建模服务114，其被配置为预测针对云计算系统100的
各个系统单元中的可用vm系列的可用容量116。如上所指示的，术语“系统单元”指的是云计算系统100的部分，该部分被视为为了确定用于分配特定vm系列的vm 110的容量的单元。例如，在一些实施例中，系统单元可以是区域102和/或可用性区105。换言之，关于云计算系统100的特定区域102和/或关于特定可用性区105，可以对系统容量进行建模和预测。
33.一般来说，在即将到来的时间段期间针对特定系统单元(例如区域102、可用性区105)中的特定vm系列的预测的可用容量116为(a)在即将到来的时间段期间针对特定系统单元中的特定vm系列的预测的需求118与(b)在即将到来的时间段期间针对特定系统单元中的特定vm系列的预测的供应120之间的差。预测的供应120可以基于当前可用容量122和未来添加的容量124两者。如上所指示的，预测的供应120可以考虑以下事实，即云计算系统100内的服务器106可以用于托管与不同的vm系列对应的vm 110。这将在下面进行更详细的讨论。
34.容量建模服务器114可以与缓解引擎126集成。当预测针对特定系统单元中的特定vm系列的预测的需求118超过针对该系统单元中的该vm系列的预测的供应120时，可以向缓解引擎126提供该信息，作为响应，缓解引擎126可以采取一个或多个缓解动作。根据本公开，可以采取许多不同类型的缓解动作。例如，可以购买附加的计算资源。缓解动作的另一示例是施行报价限制。换言之，在系统单元中，一个或多个vm系列可以暂时中止，至少关于新的订阅，直到该系统中的vm系列有足够的容量。一些其他示例包括试图恢复不健康的服务器106，将较低优先级的工作载荷迁移到其他系统单元，并且将较低优先级的工作载荷逐出云计算系统100。
35.响应于检测到针对特定系统单元中的特定vm系列的预测的需求118超过针对该系统单元中的该vm系列的预测的供应120，缓解引擎126可以采取一个或多个缓解动作。在一些实施例中，可以自动采取这种缓解动作。换言之，一旦缓解引擎126检测到预测的需求118超过预测的供应120，缓解引擎126便可以在没有附加人员参与的情况下采取一个或多个缓解动作。备选地，至少一些缓解动作可以由负责确保云计算系统100的系统单元有足够的容量来满足客户需求的个人来手动地采取(例如至少以最低限度的人力参与)。
36.如上所指示的，云计算系统100内的服务器106关于vm系列是可替代的，以便相同的服务器106可以用于托管与不同的vm系列对应的vm 110。这提出了一个建模挑战，即如何在竞相消耗可用计算资源池的各种vm系列之间分割可用计算资源。
37.为了应对这一挑战，本公开建议对将被称为“共享可用当前容量”和“共享可用未来添加的容量”的内容进行估计。针对特定系统单元中的特定vm系列的共享可用当前容量指示，鉴于系统单元内的当前可用容量122中的一些容量可能会用于分配与其他vm系列对应的vm 110这一事实，系统单元内有多少当前可用容量122会被认为可用于分配与该vm系列对应的vm 110。类似地，针对特定系统单元中的特定vm系列的共享可用未来添加的容量指示，鉴于系统单元内的未来添加的容量124中的一些容量可能会用于分配与其他vm系列对应的vm 110这一事实，系统单元内有多少未来添加的容量124会被认为可用于分配与该vm系列对应的vm 110。
38.图2图示了示出预测的可用容量216如何可以由容量建模服务214确定的示例，该容量建模服务214对共享可用当前容量2288和共享可用未来添加的容量230进行估计。图2中所示的容量建模服务214是图1所示的系统100中的容量建模服务214的一种可能的实现。
39.为了确定针对特定系统单元中的特定vm系列的共享可用当前容量228，可以将针对该系统单元中的该vm系列的当前可用容量222乘以针对该系统单元中的该vm系列的需求增长比率232。类似地，为了确定针对特定系统单元中的特定vm系列的共享可用未来添加的容量230，可以将针对该系统单元中的该vm系列的未来添加的容量224乘以针对该系统单元中的该vm系列的需求增长比率232。一般来说，针对特定系统单元中的特定vm系列的需求增长比率232指示，相对于预计对所有可用vm系列的需求在该系统单元中增长得多快，预计对该vm序列的需求在该系统单元中增长得有多快。下面将讨论可以如何计算需求增长比率232的一些示例。
40.通过将共享可用当前容量228和共享可用未来添加的容量230相加，可以确定预测的供应220。然后，通过取预测的需求218与预测的供应220之间的差，可以确定预测的可用容量216。
41.有几种不同的方式可以表示针对特定vm系列的当前可用容量222和未来添加的容量224。在一些示例中，这些度量可以按照可以分配的虚拟中央处理单元(cpu)的数目来表示。例如，针对特定系统单元中的特定vm系列的当前可用容量222可以指示，如果该系统单元中的所有当前可用容量222都专门用于分配与该vm系列对应的vm 110，则有多少与该vm系列对应的虚拟cpu可以被分配。类似地，针对特定系统单元中的特定vm系列的未来添加的容量224可以指示，如果该系统单元中的所有未来添加的容量224都专门用于分配与该vm系列对应的vm 110，则有多少与该vm系列对应的虚拟cpu可以被分配。
42.在针对特定系统单元中的特定vm系列的当前可用容量222是按照可以分配的虚拟cpu的数目表示的实施例中，共享可用当前容量228也可以按照可以分配的虚拟cpu的数目来表示。这是因为共享可用当前容量228可以表示乘以需求增长比率232的当前可用容量222(如上所讨论的)。类似地，在针对特定系统单元中的特定vm系列的未来添加的容量224是按照可以分配的虚拟cpu的数目表示的实施例中，共享可用未来添加的容量230也可以按照可以分配的虚拟cpu的数目来表示，因为共享可用未来添加的容量230可以表示乘以需求增长比率232的未来添加的容量224(也如上所讨论的)。
43.现在讨论一个示例，其示出了可以如何计算共享可用当前容量228和共享可用未来添加的容量230。在该示例中，假设当前可用容量222、共享可用当前容量228、未来添加的容量224和共享可用未来添加的容量230是按照可以分配的虚拟cpu的数目来表示的。还假设在同一系统单元中只有两个可用的vm系列vm1和vm2可以共存。换言之，假设特定系统单元内的服务器106可以同时托管与vm系列vm1对应的一些vm 110和与vm系列vm2对应的其他vm 110。vm1表示物理cpu、存储器和存储装置的某种组合，而vm2表示物理cpu、存储器和存储装置的另一种不同的组合。当然，在云计算系统100内可能有两个以上的vm系列可用，但是为了简单起见，只有两个vm系列将结合本示例进行讨论。
44.在该示例中，还假设与vm系列vm1对应的vm 110的当前可用容量222由q1
current
表示，而与vm系列vm2对应的vm 110的当前可用容量222由q2
current
表示。换言之，如果所有的当前可用容量222都用于分配与vm系列vm1对应的vm 110，则可以分配q1
current
个与vm系列vm1对应的虚拟cpu。备选地，如果所有的当前可用容量222都用于分配与vm系列vm2对应的vm 110，则可以分配q2
current
个与vm系列vm2对应的虚拟cpu。也就是说，然后可以分配q1
current
个与vm系列vm1对应的虚拟cpu，或者可以分配q2
current
个与vm系列vm2对应的虚拟
cpu，但不是两者。
45.还假设与vm系列vm1对应的vm 110的需求增长比率232由x1表示，而与vm系列vm2对应的vm 110的需求增长比率232由x2表示。根据这些假设，针对与vm系列vm1对应的vm 110的共享可用当前容量228可以表示为类似地，针对与vm系列vm2对应的vm 110的共享可用当前容量228可以表示为
46.继续示例，假设与vm系列vm1对应的vm 110的未来添加的容量224由q1
future
表示，而与vm系列vm2对应的vm 110的未来添加的容量224由q2
future
表示。换言之，如果所有的未来添加的容量224都用于分配与vm系列vm1对应的vm 110，则可以分配q1
future
个与vm系列vm1对应的虚拟cpu。备选地，如果所有的未来添加的容量224都用于分配与vm系列vm2对应的vm 110，则可以分配q2
future
个与vm系列vm2对应的虚拟cpu。根据这些假设，与vm系列vm1对应的vm 110的共享可用未来添加的容量230可以表示为类似地，与vm系列vm2对应的vm 110的共享可用未来添加的容量230可以表示为
47.在刚才描述的示例中，假设当前可用容量222、共享可用当前容量228、未来添加的容量224和共享可用未来添加的容量230是按照可以分配的虚拟cpu的数目来表示的。在备选实施例中，这些度量反而可以按照可以分配的vm 110的数目来表示。
48.例如，在一些实施例中，针对特定系统单元中的特定vm系列的当前可用容量222可以指示，如果系统单元内的所有当前可用容量222都专门用于分配与该vm系列对应的vm 110，则有多少与该vm系列对应的vm 110可以被分配。这与按照可以分配的虚拟cpu的数目表示当前可用容量222不同，因为在一些情况下，单个vm可以包括多个虚拟cpu(取决于vm系列)。类似地，特定系统单元中的特定vm系列的未来添加的容量224可以指示，如果该系统单元中的所有未来添加的容量224都专门用于分配与该vm系列对应的vm 110，则有多少与该vm系列对应的vm 110可以被分配。
49.在针对特定vm系列的当前可用容量222是按照可以分配的vm 110的数目来表示的实施例中，共享可用当前容量228也可以按照可以分配的vm 110的数目来表示，因为共享可用当前容量228可以简单地表示乘以需求增长比率232的当前可用容量222(如上所讨论的)。类似地，在特定vm系列的未来添加的容量224是按照可以分配的虚拟cpu的数目表示的实施例中，共享可用未来添加的容量230也可以按照可以分配的vm 110的数目来表示，因为共享可用未来添加的容量230可以简单地表示乘以需求增长比率232的未来添加的容量224(也如上所讨论的)。
50.图3a和图3b图示了示出如何可以针对特定系统单元中的特定vm系列计算需求增长比率232的示例。与前面的示例一样，为了简单起见，假设系统单元中只有两个vm系列可用，即vm1和vm2。图3a图示了在即将到来的时间段期间vm系列vm1的预测的需求218。图3b图示了在即将到来的时间段期间vm系列vm2的预测的需求218。
51.在所描绘的示例中，预测的需求218是按照与分配的vm 110对应的虚拟cpu表示的。然而，在备选实施例中，预测的需求218可以按照不同的容量度量来表示，诸如已经被分配的vm 110的数目。
52.最初参照图3a，在时间t0(在该示例中其表示当前时间点)处，对与vm系列vm1对应的vm 110的需求为10,000vcpu。换言之，对应于与vm系列vm1对应的vm 110的10,000vcpu已经被分配。在时间t1(其表示某个未来时间点)处，对与vm系列vm1对应的vm 110的需求被预测为30,000vcpu。换言之，预测出了在时间t1处，对应于与vm系列vm1对应的vm 110的30,000vcpu已经被分配。因此，对与vm系列vm1对应的vm 110的需求在即将到来的时间t0与时间t1之间的时间段内被预测为增加了20,000vcpu。
53.现在参照图3b，在时间t0处，对与vm系列vm2对应的vm 110的需求也为10,000vcpu。然而，在时间t1处，对与vm系列vm2对应的vm 110的需求仅被预测为20,000vcpu。因此，对与vm系列vm2对应的vm 110的需求在时间t0与时间t1之间被预测为只增加了10,000vcpu。
54.如上所指示的，针对特定系统单元中的特定vm系列的需求增长比率232指示，相对于预计对所有可用vm系列的需求在该系统单元中增长得多快，预计对该vm序列的需求在该系统单元中增长得有多快。针对特定系统单元中的vm系列i的需求增长比率232可以在数学上被表示为在该表达式中，growth
i
表示对vm系列i的需求的预测的增长。表达式表示对系统单元中的所有可用vm系列的需求的预测的增长的总和，其中有n个可用vm系列，并且j是指数。因此，关于图3a至图3b中所示的具体示例，针对vm系列vm1的需求增长比率232可以被表示为针对vm系列vm2的需求增长比率232可以被表示为因此，系统单元内的当前可用容量222和未来添加的容量224的会被视为可用于分配与vm系列vm1对应的vm110，并且系统单元内的当前可用容量222和未来添加的容量224的会被视为可用于分配与vm系列vm2对应的vm 110。
55.当然，为了清晰起见，图3a至图3b中所示的示例被高度简化。在所描绘的示例中，针对vm系列vm1和vm系列vm2的预测的需求218被示出为在时间t0与时间t1之间线性增加。然而，在实际实践中，针对特定vm系列的预测的需求218可以是大体上非线性的。
56.本领域技术人员将认识到，各种预报模型都可以用于提供本文中所描述的预测的需求218，并且本公开的范围不应受限于任何特定的预报模型。
57.现在参照图4，在一些实施例中，可以为相同系统单元中的相同vm系列生成多个预测。具体地，图4示出了作为输入提供给容量建模服务414的多个需求预测(具体地，第一需求预测418a、第二需求预测418b和第n需求预测418n)以及关于当前可用容量422和未来添加的容量424的信息。容量建模服务414可以使用多个需求预测418a至418n、当前可用容量422和未来添加的容量424对针对该系统单元中的vm系列的可用容量进行多次预测。图4示出了容量建模服务414，其产生与第一需求预测418a对应的第一可用容量预测416a、与第二需求预测418b对应的第二可用容量预测416b和与第n需求预测418n对应的第n可用容量预测416n。
58.不同的需求预测418a至418n可以对应于关于系统单元中的vm系列的预测的需求
的不同程度的不确定性。在一些实施例中，不同的需求预测418a至418n可以对应于不同的百分位水平。例如，第一需求预测418a可以表示百分位水平x(意味着有x％的概率实际需求会比预测的少)，第二需求预测418b可以表示百分位水平y，并且第n需求预测418n可以表示百分位水平z。
59.在一些实施例中，不同的需求预测418a至418n可以对应于不同的“如果怎样”场景。例如，在某些情况下，与云计算系统100相关联的某些特征或设置可以以特定的方式变化，以影响针对不同vm系列的需求。不同的需求预测418a至418n可以对应于表示这些特征和/或设置的不同集合的不同场景，并且不同的可用容量预测416a至416n可以对应于由不同的需求预测418a至418n表示的不同场景。
60.在产生多个可用容量预测416a至416n的实施例中，可用容量预测416a至416n中的一个或多个可用容量预测可以表明有足够的容量来满足用户需求(换言之，在考虑的时间段内，预测的供应120超过预测的需求118)，而可用容量预测416a至416n中的一个或多个可用容量预测可以表明没有足够的容量来满足用户需求(换言之，在考虑的时间段的至少部分内，预测的需求118超过预测的供应120)。在这种情况下，缓解引擎126可以决定是否采取任何缓解动作。这种决定可以至少部分地基于容量管理引擎112内的一个或多个设置。
61.例如，假设生成两个需求预测：表示第50百分位水平的第一需求预测和表示第90百分位水平的第二需求预测。可以产生两个可用容量预测：与第50百分位水平需求预测(p50预测)对应的第一可用容量预测和与第90百分位水平需求预测(p90预测)对应的第二可用容量预测。还假设p50预测表明有足够的容量来满足用户需求，但是p90预测表明没有足够的容量来满足用户需求。在这种情况下，至少部分地基于指示是否应当遵循p50预测或p90预测的容量管理引擎112内一个或多个设置，缓解引擎126可以决定是否采取任何缓解动作。如果(多个)设置表明应当遵循p50预测，则缓解引擎126可以不采取任何缓解动作。然而，如果(多个)设置表明应当遵循p90预测，则缓解引擎126可以采取一个或多个缓解动作。
62.图5是图示了一个示例的图表，该示例示出了在特定时间段期间针对特定系统单元中的特定vm系列的预测的需求518和预测的供应520的比较。图表的x轴表示时间，并且图表的y轴表示指示容量的一些度量。例如，容量度量可以是可以为特定vm系列分配的虚拟cpu的数目、可以为特定vm系列分配的vm 110的数目等。
63.在该示例中，假设未来添加的容量224为零。换言之，在该示例中，在用于确定预测的可用容量116的时间段期间的任何点处，预计没有附加的计算资源变得可用。因此，预测的供应520在该时间段期间不会变化，并且其等于共享可用当前容量228。图表中所示的其他线540表示当前可用容量222和未来添加的容量224的总和。因为未来添加的容量224为零，所以该示例中该线540对应于当前可用容量222。换言之，该线540(仅为了说明的目的而被示出)表示原始(非共享)容量，并且它可以用于计算共享可用当前容量228。
64.在时间t0与时间t1之间，预测的供应520超过预测的需求518。因此，预测在时间t0与时间t1之间将有足够的容量来处理用户需求。然而，在时间t1之后，预测的需求518超过预测的供应520，因此预测在时间t1之后将不会有足够的容量来处理用户需求。因此，在时间t1(预测的需求518开始超过预测的供应520的点)之前采取一个或多个缓解动作可能是有益的，这样就不会发生分配失败。
65.如果预测的可用容量116被表示为预测的供应520与预测的需求518之间的差，则
在时间t0与时间t1之间，预测的可用容量116会被表示为正值。然而，在时间t1之后，预测的可用容量116会被表示为负值。
66.图6是图示了另一示例的图表，该示例示出了在特定时间段期间针对特定系统单元中的特定vm系列的预测的需求618与预测的供应620的比较。在该示例中，在确定预测的可用容量116的时间段内的两个单独的时刻(时间t1和时间t3)，将附加计算资源添加到系统单元。因此，未来添加的容量224不为零。这反映在图表中所示的其他线640中，该线表示当前可用容量222和未来添加的容量224的总和。换言之，该线640可以被视为表示系统单元中的总容量。当在时间t1与时间t3之间将附加的计算资源添加到系统单元时，该线640的值会增加。
67.计算资源的添加会导致由线640表示的总容量和预测的供应620的增加。预测的供应620的增加并不与线640所表示的总容量的增加一样大，因为如上所述，附加计算资源中的一些资源可能用于分配与其他vm系列对应的vm 110。
68.在时间t0与时间t2之间，预测的供应620超过预测的需求618，因此预测在该时间期间将有足够的容量来处理用户需求。然而，在时间t2之后，预测的需求618增加高于预测的供应620，因此预测在时间t1与时间t3之间将不会有足够的容量来处理用户需求。然而，由于在时间t3处添加附加的计算资源，在时间t3与时间t4之间，预测的供应620再次超过预测的需求618。然而，在时间t4之后，预测的需求618再次超过预测的供应620。
69.如从图6中所示的图表中可以推断出的，在一些实施例中，预测的需求618和预测的供应620可以分别被表示为时间序列。因此，预测的可用容量116也可以被表示为时间序列。
70.另外，未来添加的容量224和共享可用未来添加的容量230也可以分别被表示为时间序列。这些时间序列可以包括在将附加的计算资源添加到系统单元时的时间点(例如在图6中所示的示例中的时间t1和t3)处的非零值以及在其他时间点的零值。
71.图7是示出了时间系列的图表，其表示在特定时间段期间针对特定系统单元中的特定vm系列的预测的可用容量716。在所描绘的示例中，时间序列中的每个值都表示特定时间间隔(例如天、小时、周)期间的预测的可用容量716。
72.在所描绘的示例中，与特定时间间隔对应的正值表明在该时间间隔期间预测的供应120超过预测的需求118，这意味着在该时间间隔期间系统单元被预测为不会耗尽针对该vm系列的容量。相反，与特定时间间隔对应的负值表明在该时间间隔期间预测的供应118超过预测的需求120，这意味着在该时间间隔期间系统单元被预测为会耗尽针对该vm系列的容量。
73.该图表示出了预测的可用容量716保持为正(这意味着系统单元被预测为不会耗尽针对特定vm系列的容量)，直到时间间隔t1。在时间间隔t1处，预测的可用容量716变为负的(这意味着系统被预测为会耗尽针对特定vm系列的容量)。预测的可用容量716保持为负，直到时间间隔t2，当预测的可用容量716再次变为正的时。这可能是由于添加到系统单元的附加的计算资源和/或预测的需求118的增加。预测的可用容量716保持为负，直到时间间隔t3，当预测的可用容量716再次变为负的时。在时间间隔t3之后，预测的可用容量716保持为负。
74.在一些实施例中，可以向缓解引擎126提供时间序列(诸如图7中所示的时间序
列)。作为响应，缓解引擎126可以在时间t1(预测的可用容量716变为负的点)之前采取一个或多个缓解动作。
75.现在参考图8，本公开的另一方面涉及监测预测的可用容量816并且提供与预测的可用容量816的变化相关的警报。在图8中所示的容量管理引擎812中，容量建模服务814确定针对特定系统单元中的特定vm系列的预测的可用容量816。确定预测的可用容量816可以基于针对该特定系统单元中的该vm系列的预测的需求818和预测的供应820(如从当前可用容量822和未来添加的容量824所确定的)，如以上所描述的。当确定预测的供应820时，也可以考虑这一事实，即相同的服务器106可以用于托管不同的vm系列，也如以上所描述的。
76.在所描绘的容量管理引擎812中，可以监测由容量建模服务814输出的预测的可用容量816。如上所指示的，在即将到来的时间段期间针对特定系统单元中的特定vm系列的预测的可用容量816可以包括一组值(例如值的时间序列)。可以从该组值中推断出两个可能的预测：正预测(这意味着在即将到来的时间段期间系统单元被预测为不会耗尽针对该vm系列的容量)或负预测(这意味着在即将到来的时间段期间的某点处系统单元被预测为会耗尽针对该vm系列的容量)。
77.在一些实施例中，无论何时针对特定系统单元中的特定vm系列的预测的可用容量816从指示正预测变为指示负预测，都可以提供警报842。备选地，在其他实施例中，当在预定时间段期间已经指示正预测后，针对特定系统单元中的特定vm系列的预测的可用容量816从指示正预测变为指示负预测时，可以提供警报842。例如，假设预定时间段为连续n天。如果针对特定系统单元中的特定vm系列的预测的可用容量816指示连续n天的正预测，则在该示例中，当预测的可用容量816变为指示负预测时，可以发送警报842。然而，如果针对特定系统单元中的特定vm系列的预测的可用容量816在变为指示负预测之前指示只有连续m天(其中m＜n)的正预测，则在本示例中，在这种情况下，可能不一定发送警报842。
78.当提供警报842时，可以将警报842发送给负责确保云计算系统100的系统单元有足够的容量来满足客户需求的一个或多个个人。如果警报842已经从指示正预测变为指示负预测，则接收警报842的(多个)个人可以采取一个或多个缓解动作(可能与缓解引擎826有关)，以防止分配失败发生。
79.在一些实施例中，无论何时针对特定系统单元中的特定vm系列的预测的可用容量816从指示负预测变为指示正预测，也都可以提供警报842。在这种情况下，提供警报842可能是有益的，这样负责的个人(例如负责确保云计算系统100的系统单元有足够的容量来满足客户需求的个人)可以采取步骤来确保变化是准确的(例如变化不是由于数据质量问题)。
80.更一般地说，无论何时针对特定系统单元中的特定vm系列的预测的可用容量816从指示第一类型的预测(例如正预测或负预测)变为指示第二类型的预测(例如负预测或正预测)，都可以提供警报842。
81.除了提供警报842，还可以执行根本原因分析以确定变化发生的(多个)原因。还可以准备根本原因分析(rca)报告844，以描述在根本原因分析期间所确定的内容。rca报告844可以描述由根本原因分析所确定的预测的可用容量816变化的原因。在一些实施例中，预测的可用容量816变化的原因可以按照到容量管理引擎812的输入(例如预测的需求818、当前可用容量822和/或未来添加的容量824)的变化来描述。例如，如果根本原因分析发现，
预测的可用容量816的变化是由预测的需求818的突然增加引起的，则这一发现可能包括在rca报告844中。
82.在一些实施例中，除了监测预测的可用容量816之外，还可以监测作为到容量管理引擎812的输入(即所描绘的示例中的预测的需求818、当前可用容量822和未来添加的容量824)而被提供的信号的异常，这可以由输入信号的突然波动指示。当检测到异常(例如输入信号的值在预定时间段期间变化了超过预定量)时，可以提供警报842。可以将警报842发送给负责云计算系统100与受影响的输入信号相关的方面的一个或多个个人。例如，如果预测的需求818的值在预定时间段内变化了超过预定量，则可以向负责确定预测的需求818的一个或多个个人提供警报842。
83.除了在检测到异常(例如输入信号的突然波动)时提供警报842之外，还可以执行根本原因分析以确定异常发生的(多个)原因。还可以准备rca报告844，以描述在根本原因分析期间所确定的内容。
84.在某些情况下，输入信号的突然波动可能是由云计算系统100本身的问题引起的。然而，在其他情况下，输入信号的突然波动可能是由其他因素引起的，诸如数据质量问题。例如，假设表示当前可用容量822的输入信号突然下降。这可能是由云计算系统100本身的实际问题引起的，诸如大量服务器106的故障。备选地，表示当前可用容量822的输入信号的突然波动可能是由数据质量问题引起的，诸如测量和/或报告当前可用容量822的方式的错误。
85.在一些实施例中，关于输入信号中的突然波动而执行的根本原因分析可以确定突然波动是由云计算系统100本身的实际问题引起的，还是由其他因素(诸如数据质量问题)引起的。例如，继续前面讨论的示例，如果根本原因分析确定表示当前可用容量822的输入信号的突然波动是由大量服务器106的故障引起的，则可以准备rca报告844，该报告将大量服务器106的故障标识为这种突然波动发生的原因。然后可以将rca报告844发送给负责按照正确的工作顺序维护服务器106的人和/或负责购买附加服务器106的人。备选地，如果根本原因分析确定表示当前可用容量822的输入信号的突然波动是由数据质量问题引起的，则可以准备rca报告844，该报告将数据质量问题标识为这种突然波动发生的原因。在这种情况下，可以将rca报告844发送给负责测量和/或报告当前可用容量822的人。
86.图8中所示的容量管理引擎812包括信号监测和根本原因分析(rca)引擎846。信号监测和rca引擎846可以被配置为提供上述信号监测和根本原因分析功能。
87.图9图示了在没有过度供应的情况下最小化云计算系统100中的分配失败的方法900。为了清晰起见，方法900将参考前述系统、组件和数据进行描述。
88.步骤902涉及确定针对特定系统单元中的特定vm系列的共享可用当前容量228。如上所指示的，针对特定系统单元中的特定vm系列的共享可用当前容量228指示，鉴于系统单元内的当前可用容量222中的一些容量可能会用于分配与其他vm系列对应的vm 110这一事实，系统单元内有多少当前可用容量222会被认为可用于分配与该vm系列对应的vm 110。针对特定系统单元中的特定vm系列的共享可用当前容量228可以至少部分地基于针对该系统单元中的该vm系列的当前可用容量222和针对该系统单元中的该vm系列的需求增长比率232。例如，当前可用容量222可以乘以需求增长比率232，以确定共享可用当前容量228。
89.步骤904涉及确定在即将到来的时间段期间针对系统单元中的vm系列的共享可用
未来添加的容量230。如上所指示的，针对特定系统单元中的特定vm系列的共享可用未来添加的容量230指示，鉴于系统单元的未来添加的容量224中的一些可能会用于分配与其他vm系列对应的vm 110这一事实，系统单元有多少未来添加的容量224会被认为可用于分配与该vm系列对应的vm 110。针对特定系统单元中的特定vm系列的共享可用未来添加的容量230可以至少部分地基于针对该系统单元中的该vm系列的未来添加的容量224和针对该系统单元中的该vm系列的需求增长比率232。例如，未来添加的容量224可以乘以需求增长比率232，以确定共享可用未来添加的容量230。
90.步骤906涉及至少部分地基于共享可用当前容量228和共享可用未来添加的容量230，来确定针对系统单元中的vm系列的预测的供应220。例如，可以将共享可用当前容量228和共享可用未来添加的容量230相加以确定预测的供应220。
91.步骤908涉及至少部分地基于预测的供应220和预测的需求218，来预测在即将到来的时间段期间针对系统单元中的vm系列的可用容量216。例如，预测的可用容量216可以表示预测的供应220和预测的需求218之间的差。
92.步骤910涉及响应于确定在即将到来的时间段期间预测的需求218超过预测的供应220，来采取至少一个缓解动作。如上所讨论的，根据本公开，可以采取许多不同类型的缓解动作，诸如购买附加的计算资源、施行报价限制、试图恢复不健康的服务器106、将较低优先级的工作载荷迁移到其他系统单元以及将较低优先级的工作载荷逐出云计算系统100。
93.图10图示了可以被包括在计算机系统1000内的某些组件。一个或多个计算机系统1000可以用于实施本文中所描述的各种设备、组件和系统。
94.计算机系统1000包括处理器1001。处理器1001可以是通用单片或多片微处理器(例如高级risc(精简指令集计算机)机器(arm))、专用微处理器(例如数字信号处理器(dsp))、微控制器、可编程门阵列等。处理器1001可以被称为中央处理单元(cpu)。虽然在图10的计算机系统1000中只示出了单个处理器1001，但是在备选配置中，可以使用处理器的组合(例如arm和dsp)。
95.计算机系统1000还包括与处理器1001进行电子通信的存储器1003。存储器1003可以是能够存储电子信息的任何电子组件。例如，存储器1003可以体现为随机存取存储器(ram)、只读存储器(rom)、磁盘存储介质、光学存储介质、ram中的闪存设备、包括处理器的机载存储器、可擦可编程只读存储器(eprom)、电可擦可编程只读存储器(eeprom)、寄存器等，包括它们的组合。
96.指令1005和数据1007可以存储在存储器1003中。指令1005可以由处理器1001可执行以实施本文中所公开的一些或全部步骤、操作、动作或其他功能。执行指令1005可以涉及使用存储在存储器1003中的数据1007。本文中所描述的模块和组件的各个示例中的任何示例都可以部分或全部实施为存储在存储器1003中并且由处理器1001执行的指令1005。本文中所描述的数据的各个示例中的任何示例都可以是存储在存储器1003中并且在处理器1001执行指令1005期间使用的数据1007。
97.计算机系统1000还可以包括用于与其他电子设备进行通信的一个或多个通信接口1009。(多个)通信接口1009可以基于有线通信技术、无线通信技术或两者。通信接口1009的一些示例包括通用串行总线(usb)、以太网适配器、根据电气和电子工程师协会(ieee)1002.11无线通信协议运行的无线适配器、无线通信适配器和红外(ir)通信
端口。
98.计算机系统1000还可以包括一个或多个输入设备1011和一个或多个输出设备1013。输入设备1011的一些示例包括键盘、鼠标、麦克风、远程控制设备、按钮、操纵杆、轨迹球、触控板和光笔。输出设备1013的一些示例包括扬声器和打印机。通常包括在计算机系统1000中的一种特定类型的输出设备是显示设备1015。与本文中所公开的实施例一起使用的显示设备1015可以利用任何合适的图像投影技术，诸如液晶显示器(lcd)、发光二极管(led)、气体等离子体、电致发光等。还可以提供显示控制器1017，用于将存储在存储器1003中的数据1007转换为在显示设备1015上显示的文本、图形和/或活动图像(视情况而定)。
99.计算机系统1000的各个组件可以通过一条或多条总线耦合在一起，这些总线可以包括电源总线、控制信号总线、状态信号总线、数据总线等。为了清晰起见，各种总线在图10中被图示为总线系统1019。
100.本文中所描述的技术可以在硬件、软件、固件或其组合中实现，除非具体描述为以特定方式实现。被描述为模块、组件等的任何特征都可以在集成逻辑设备中或单独作为离散但是彼此协作的逻辑设备实现。如果在软件中实现，则技术可以至少部分地由非暂态计算机可读介质实现，该介质上存储有计算机可执行指令，这些指令在由至少一个处理器执行时执行本文中所公开的一些或全部步骤、操作、动作或其他功能。指令可以被组织成例程、程序、对象、组件、数据结构等，它们可以执行特定任务和/或实施特定数据类型，并且可以根据需要在各种实施例中组合或分布。
101.在不偏离权利要求的范围的情况下，本文中所描述的方法的步骤、操作和/或动作可以彼此互换。换言之，除非所描述的方法的正常运行需要步骤、操作和/或动作的特定顺序，否则在不偏离权利要求的范围的情况下，可以修改特定步骤、操作和/或动作的顺序和/或使用。
102.术语“确定”(以及其语法变体)包含各种动作，因此，“确定”可以包括计算、运算、处理、推导、研究、查找(例如在表格、数据库或另一数据结构中查找)、探知等。同样，“确定”可以包括接收(例如接收信息)、访问(例如访问存储器中的数据)等。同样，“确定”可以包括解决、选择、选取、建立等。
103.术语“包括(comprising)”、“包括(including)”和“具有”旨在是包括的，并且意味着可能有除所列元件之外的附加元件。备选地，应理解，对本公开的“一个实施例”或“实施例”的引用并不旨在被解释为排除也包含所提及的特征的附加实施例的存在。例如，在兼容的情况下，关于本文中的实施例描述的任何元件或特征都可以与本文中所描述的任何其他实施例的任何元件或特征组合。
104.在不偏离其精神或特征的情况下，本公开可以体现为其他具体形式。所描述的实施例被认为是说明性的，而非限制性的。因此，本公开的范围由所附权利要求指示，而不是由前面的描述指示。在权利要求的等同物的意义和范围内的变化都包含在其范围内。