一种异构云集群虚拟机调度方法及系统与流程

摘要: 本发明涉及云计算资源调度,尤其涉及一种异构云集群虚拟机调度方法及系统。背景技术:1、在云计算数据中心中,多个计算主机共同承载数量较多的虚拟机。由于业务请求、定时...
一种异构云集群虚拟机调度方法及系统与流程

本发明涉及云计算资源调度,尤其涉及一种异构云集群虚拟机调度方法及系统。

背景技术:

1、在云计算数据中心中,多个计算主机共同承载数量较多的虚拟机。由于业务请求、定时任务和数据处理作业随时间变化,不同虚拟机对处理器和内存资源的实际占用会持续波动,进而造成部分计算主机形成 cpu 热点、内存热点或双资源热点,而其他计算主机仍保有较多可用资源。若热点持续存在,可能导致虚拟机响应时间增加、宿主机资源争用加剧,甚至影响同一主机上其他虚拟机的运行稳定性。因此,云平台通常需要在不中断业务或尽量减少业务影响的条件下,通过虚拟机在线迁移调整虚拟机与计算主机的对应关系。

2、实际云计算集群中的计算主机通常具有不同的节点类型、处理器架构、处理器特征集合和安全能力;虚拟机还受到允许主机列表、排除主机列表、反亲和组、虚拟机规格和numa 拓扑等约束。因此,目标主机选择除考虑 cpu 和内存利用率外,还必须保证迁移兼容性和资源可放置性。若仅以当前负载或剩余资源选择目标主机,容易产生不可执行的迁移计划。

3、此外,一轮调度通常包含多条迁移计划。前一条迁移会改变源主机和目标主机的负载及资源余量,后续迁移若仍依据本轮开始时的原始状态生成,多条计划组合后可能过度分配,导致组合计划不可行。因此,调度过程需要在决策阶段持续维护一份随候选计划变化的预测状态。

4、现有方案通常采用“阈值触发加最低负载放置”的方式:当主机利用率超过预设上限时,选择一台待迁移虚拟机,并将其迁移至当前负载最低的主机。该方式主要反映迁移前的局部状态,未预测虚拟机迁入后源主机和目标主机的负载变化,也无法在多条迁移计划之间传递资源变化,导致热点可能转移、资源余量被重复计算、组合计划冲突,调度决策与最终可执行状态之间缺少统一约束。

技术实现思路

1、针对现有技术的不足,本发明的目的在于提供一种异构云集群虚拟机调度方法及系统,可精准反映迁移后的预测资源状态、改善迁移兼容组整体资源分布,避免同一轮多计划因共享原始快照而导致的资源过度分配和组合冲突。

2、本发明的目的采用以下技术方案实现:

3、一种异构云集群虚拟机调度方法,包括:

4、获取异构云集群中计算主机的运行指标、资源容量和异构属性,以及虚拟机的运行指标、资源需求和迁移约束,构建集群状态,并复制得到用于本轮预测计算的临时集群状态;

5、根据所述异构属性将所述计算主机划分为迁移兼容组,并在各迁移兼容组内根据主机热点或资源不均衡确定待调度迁移兼容组;

6、从所述待调度迁移兼容组中选择源主机和待迁移虚拟机;从与所述源主机属于同一迁移兼容组的计算主机中,依据所述待迁移虚拟机的迁移约束和资源可放置性形成候选目标主机集合;

7、针对每一候选目标主机,计算所述源主机迁出所述待迁移虚拟机后的源主机负载投影和该候选目标主机迁入所述待迁移虚拟机后的目标主机负载投影;根据迁移前不均衡度与将所述源主机负载投影和所述目标主机负载投影代入所述迁移兼容组后的不均衡度之差,确定全局均衡收益;基于所述目标主机负载投影和所述全局均衡收益确定候选目标主机得分;

8、根据所述候选目标主机得分确定目标主机并生成迁移计划;将所述源主机负载投影和所述目标主机负载投影写入所述临时集群状态;基于更新后的临时集群状态生成后续迁移计划,直至满足预设调度目标或不存在可行迁移,输出迁移计划集合。

9、在其中一个实施例中,所述异构属性包括节点类型、处理器架构和安全能力标记;根据所述节点类型、处理器架构和安全能力标记构造迁移组键,将迁移组键相同的计算主机划入同一迁移兼容组;

10、所述在各迁移兼容组内根据主机热点或资源不均衡确定待调度迁移兼容组,包括:

11、当迁移兼容组内任一计算主机的cpu利用率超过cpu高阈值或内存利用率超过内存高阈值时,确定该迁移兼容组满足主机热点触发条件;

12、在未满足所述主机热点触发条件时,分别计算所述迁移兼容组的cpu利用率极差和内存利用率极差,并在至少一个极差超过对应不均衡阈值时确定该迁移兼容组满足资源不均衡触发条件;

13、其中,调度敏感度用于确定所述cpu高阈值、所述内存高阈值、所述不均衡阈值以及后续候选目标主机评分所采用的权重。

14、在其中一个实施例中,所述选择源主机和待迁移虚拟机,包括:

15、在主机热点触发时,优先选择利用率超过对应高阈值的计算主机作为源主机,在资源不均衡触发时,根据计算主机高于迁移兼容组平均利用率的加权偏差选择源主机;

16、从源主机中排除非活动虚拟机、禁止参与调度的虚拟机、位于排除范围内的虚拟机以及处于迁移冷却期的虚拟机;

17、根据虚拟机优先级以及虚拟机对源主机的cpu资源贡献度和内存资源贡献度确定待迁移虚拟机的选择顺序,优先选择优先级高的虚拟机;在优先级相同时,优先选择对源主机中与所述主机热点类型对应的资源贡献度大的虚拟机;其中,cpu资源贡献度和内存资源贡献度的权重根据所述源主机的主机热点类型确定。

18、在其中一个实施例中,所述候选目标主机与所述源主机具有相同迁移组键,所述候选目标主机的处理器特征集合覆盖所述待迁移虚拟机运行所需的处理器特征集合,且所述候选目标主机的处理器线程数与所述源主机的处理器线程数相同;

19、所述依据所述待迁移虚拟机的迁移约束和资源可放置性形成候选目标主机集合,包括:

20、排除源主机、虚拟机排除主机以及不在虚拟机允许主机集合内的计算主机;

21、保留服务启用且运行正常、可用虚拟处理器数和可用内存满足虚拟机规格的计算主机;

22、当计算主机具有numa单元余量时,将虚拟机规格的多个numa需求按照内存量和虚拟处理器数由大到小排列,通过回溯匹配将各numa需求放置于不同且具有足够余量的numa单元,并仅保留存在完整放置结果的计算主机。

23、在其中一个实施例中,所述源主机负载投影和所述目标主机负载投影分别按照以下方式计算:

24、cpu负载投影为限幅值,所述限幅值的输入为:主机cpu总核数与主机当前cpu利用率的乘积,加上方向参数乘以虚拟机虚拟处理器数再乘以虚拟机cpu利用率的乘积,所得结果除以主机cpu总核数;

25、内存负载投影为限幅值,所述限幅值的输入为:主机内存总量与主机当前内存利用率的乘积,加上方向参数乘以虚拟机内存量再乘以虚拟机内存利用率的乘积,所得结果除以主机内存总量;

26、其中,当所述限幅值的输入小于0时取0,当所述限幅值的输入大于1时取1;源主机对应的方向参数为-1,候选目标主机对应的方向参数为1;

27、所述候选目标主机的目标主机负载投影不超过当前调度敏感度对应的cpu高阈值和内存高阈值;当所述目标主机负载投影超过任一高阈值时,在逐条串行生成过程中该候选目标主机被排除,在批量搜索过程中该候选目标主机被标记为临时超载候选。

28、在其中一个实施例中,所述迁移兼容组的不均衡度为cpu利用率极差与cpu均衡权重的乘积加上内存利用率极差与内存均衡权重的乘积;

29、所述全局均衡收益为迁移前不均衡度减去将所述源主机负载投影和所述目标主机负载投影代入所述迁移兼容组后的不均衡度;

30、所述候选目标主机得分为主机适配度加上所述全局均衡收益与全局收益权重的乘积;

31、所述主机适配度根据目标主机负载投影高于目标负载的超出量、目标主机负载投影相对高阈值的安全余量以及阈值边缘惩罚确定,其中,所述目标负载为低于所述高阈值的期望负载值。

32、在其中一个实施例中,在资源不均衡触发时,若候选迁移未降低当前超过不均衡阈值的至少一个资源维度,或使已超过不均衡阈值的资源维度进一步恶化,或者使迁移后源主机与目标主机的负载差相对于迁移前负载差发生超过预设比例的反向翻转,则排除该候选迁移;

33、在主机热点触发时,保留使源主机中超过高阈值的资源利用率降低的候选迁移。

34、在其中一个实施例中,将所述源主机负载投影和所述目标主机负载投影写入所述临时集群状态,还包括:

35、根据虚拟机规格更新源主机和目标主机的可用虚拟处理器数及可用内存;

36、重新确定迁移兼容组内各计算主机的主机热点类型和选择优先级;

37、在所述待迁移虚拟机属于反亲和组时,将所述目标主机加入同组其他虚拟机在所述临时集群状态中的排除主机集合。

38、在其中一个实施例中,还包括在自动调度模式下执行有限宽度的批量搜索:

39、将临时集群状态、已选迁移计划和计算主机剩余规格容量作为搜索状态;

40、按照过载量、不均衡度和迁移数量对扩展状态进行排序并保留预设数量的扩展状态;

41、当候选迁移使目标主机产生临时超载时,将超过cpu高阈值和内存高阈值的部分分别确定为cpu临时超载量和内存临时超载量;

42、仅在搜索到来自该目标主机的绑定迁出计划序列,且所述绑定迁出计划序列使所述cpu临时超载量和内存临时超载量均逐步减小并最终清零时,保留该候选迁移;

43、根据调度目标完成等级、剩余主机热点数量、最终不均衡度和迁移数量中的至少一项,从批量搜索方案和逐条串行生成的方案中选择迁移计划集合。

44、一种异构云集群虚拟机调度系统,包括:

45、集群状态构建模块,用于获取异构云集群中计算主机和虚拟机的数据,构建集群状态,并复制得到用于本轮预测计算的临时集群状态;

46、迁移分组与触发模块,用于根据计算主机的异构属性划分迁移兼容组,并在迁移兼容组内根据主机热点或资源不均衡确定待调度迁移兼容组;

47、迁移对象筛选模块,用于选择源主机和待迁移虚拟机,并从与所述源主机属于同一迁移兼容组的计算主机中,依据所述待迁移虚拟机的迁移约束和资源可放置性形成候选目标主机集合;

48、负载投影与收益评分模块,用于计算源主机迁出虚拟机后的负载投影、候选目标主机迁入虚拟机后的负载投影和迁移前后的全局均衡收益,并基于所述候选目标主机迁入虚拟机后的负载投影和所述全局均衡收益确定候选目标主机得分;

49、多计划状态演进模块,用于根据候选目标主机得分生成迁移计划,将该迁移计划对应的负载投影和资源余量变化写入所述临时集群状态,并基于更新后的临时集群状态生成后续迁移计划,直至满足预设调度目标或不存在可行迁移;

50、迁移计划输出模块,用于输出迁移计划集合。

51、与现有技术相比,本发明的有益效果至少包括:

52、本技术提供了一种异构云集群虚拟机调度方法,将迁移兼容性过滤、源主机与目标主机的双向负载投影、全局均衡收益计算以及多计划状态回写纳入同一条调度决策链路,使生成的迁移计划既满足异构云集群中的运行约束,又能够根据迁移后的预测状态缓解主机热点或降低资源分布差异,并减少同一轮多计划组合造成的资源冲突。