一种边缘环境下应用服务的冗余部署方法与流程

1.本发明涉及一种边缘环境下应用服务的冗余部署方法，是一种基于成本约束同时考虑冗余部署服务的部署方案，属于边缘存储和计算技术领域。


背景技术：

2.现代软件应用采用基于微服务的体系结构，服务之间可能存在强制性的关联和序列关系。随着发展，这些软件应用呈现出计算密集、位置感知和时延敏感的特点，这给传统的云计算模式在保证服务质量方面带来了很大的挑战。边缘计算作为云计算的延伸，将计算和存储资源从集中式云计算分配到靠近用户的网络边缘，能够快速响应用户请求。但如何优化资源的分布式布局是一个具有挑战性的问题。
3.在边缘环境中，边缘服务器是异构的，覆盖范围有限。此外，用户和服务的地理位置可能会显著影响应用程序性能，例如网络延迟。对于软件应用提供商，尤其是对于大型企业而言，成本是一个需要重点考虑的指标，所有的应用部署方案都应该在其预算控制之下。然而，很少有研究考虑基于服务的应用的复合属性和服务的冗余部署，以在预算约束下实现最优网络延迟。


技术实现要素：

4.本发明要解决的技术问题是：现有应用部署方案不能同时考虑成本约束和服务冗余部署。
5.为了解决上述技术问题，本发明的技术方案是提供了一种边缘环境下应用服务的冗余部署方法，其特征在于，包括以下步骤：
6.步骤1、建立并计算各个服务的服务优先级判断指标，作为冗余部署的判断标准，包括以下步骤：
7.步骤101、根据不同位置的用户对于不同应用的请求情况，和应用中的服务组成情况，计算出用户对于每个服务的请求情况；
8.步骤102、对每个服务的所有用户请求广泛性进行比较，采用离散度来表示用户请求分布的广泛性，使用二维随机向量标准差来计算反映每个服务的所有用户请求分布的离散度；
9.步骤103、采用ap算法对每个服务的所有用户请求进行聚类；
10.步骤104、基于步骤102得到的用于请求分布的离散度、步骤103得到的ap聚类结果的个数和用户请求的总数建立每个服务的服务优先级判断指标，如下式所示：
11.rankj←
α
·
dpj β
·
crj γ
·
srj12.上式中，rankj为第j个服务sj的服务优先级判断指标，dpj为通过步骤a2计算得到的第j个服务sj的所有用户请求分布的离散度，crj为通过步骤a3计算得到的第j个服务sj的所有用户请求的ap聚类结果的个数，srj为第j个服务sj的所有用户请求的总数，α、β、γ为权重系数；
13.步骤2、构建边缘环境下服务冗余部署的网络模型，在该网络模型中一个服务可以被多个应用程序重用，同时相同的服务可以由多个边缘服务器提供；并且在该网络模型中，将实际部署在边缘服务器上的服务定义为服务实例，并给予特定的编号，使用dag图来表示所有服务以及其服务实例的整个部署计划；
14.步骤3、对服务进行部署成本分配，包括以下步骤：
15.步骤301、设置步骤2中所建立网络模型中每个服务所对应服务实例的默认冗余个数值n；
16.步骤302、采用bheft调度方法来分配部署成本，当前服务分配到的部署成本＝单个该服务的部署成本
×
(默认部署个数n ap聚类结果crj) 当前剩余部署成本
×
比例因子，其中，当前剩余部署成本＝总预算-先前服务的部署总花销-预计未来服务的部署总开销，比例因子＝当前服务的部署成本/所有服务的部署成本之和；
17.步骤303、使用步骤1计算得到的每个服务的服务优先级判断指标对服务进行从高到低的排序，依次根本步骤302进行预算约束下的成本分配，得到步骤2中所建立网络模型中每个服务所对应服务实例的冗余服务实例数；
18.步骤4、利用k-medoids算法实现边缘服务器的初始选择，生成部署方案的大量可行解；
19.步骤5、根据优化目标网络延迟和传输成本对部署方案进行评估，通过进行适应度计算，以度量该方案优劣程度，作为是否进行下一次迭代的评判标准；
20.步骤6、利用选择策略改进后的基于服务优先级判断指标的遗传算法对步骤4生成的部署方案进行迭代优化；
21.步骤7、获得在当前问题场景下最优的服务冗余部署方案。
22.优选地，步骤2中，给予网络模型中每个服务实例特定的编号。
23.优选地，步骤5中，每一个用户请求由总传输路径最短的服务实例组成。
24.优选地，所述步骤4包括以下步骤：
25.步骤401、计算不同位置的用户对其最近的边缘服务器的请求频率，以获得每个服务在边缘服务器中的请求分布；
26.步骤402、针对每一个服务：选择该服务请求频率高于平均值的边缘服务器作为高请求边缘服务器样本集，并根据高请求边缘服务器样本集相比于所有边缘服务器的比例计算出聚类中心数；
27.步骤403、将剩余的边缘服务器分配给低请求边缘服务器样本集；
28.步骤404、在高请求边缘服务器样本集和低请求边缘服务器样本集中分别进行k-medoids聚类。
29.优选地，所述步骤6具体包括以下步骤：
30.步骤601、根据个体适应度情况，区分精英个体和一般个体；
31.步骤602、将精英个体保留至下一代，对于一般个体进行交叉和变异；
32.步骤603、对于精英个体进行特殊变异，其特殊体现在，基因变异结果服从根据服务优先级判断指标确定的概率分布，即
33.步骤604、使用轮盘赌的策略从保留的精英个体、完成交叉和变异的一般个体、完
成特殊变异的精英个体选择进入下一个待的个体。
34.优选地，步骤7中，将通过步骤6得到的最优个体进行解码后，输出在当前场景下最优的满足成本约束的应用服务冗余部署方案。
35.本发明研究了预算约束下服务的冗余部署问题，将其定义为一个多目标数学问题。同时，本发明提出了服务优先级的概念和计算方法，以及一种选择策略改进后的基于优先级的遗传算法，能够提供在成本约束下的服务冗余的较优部署方案。
36.与现有技术相比，本发明具有如下有益效果：
37.本发明提供了一种边缘环境下应用服务的冗余部署方法，以达到在考虑预算约束的前提下尽可能降低网络延迟和数据传输成本的目的。因此，考虑到成本对于应用提供商的重要性，本发明提供了一种基于成本约束的应用服务冗余部署方案生成方法。第一阶段生成初步部署方案，根据设定服务优先级计算方法和进行成本分配，以及基于k-medoids的聚类方法生成大量可行解。第二阶段通过基于优先级的遗传算法，改进其选择策略后，最后给出最优的服务冗余部署方案。给出的部署方案，既能满足用户服务质量要求，又能满足成本约束。
附图说明
38.图1显示为本发明一种边缘环境下服务部署方法于一实施例中的系统示意图；
39.图2显示为本发明一种边缘环境下服务部署方法于一实施例中的服务冗余部署后应用结构示意图；
40.图3显示为本发明一种边缘环境下服务部署方法的流程图。
具体实施方式
41.下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本技术所附权利要求书所限定的范围。
42.本实施例公开的一种边缘环境下应用服务的冗余部署方法，包括以下步骤：
43.步骤a、建立并计算每个服务的服务优先级判断指标，作为冗余部署的判断标准，具体包括以下步骤：
44.步骤a1、根据不同位置的用户对于不同应用的请求情况，和应用中的服务组成情况，计算出用户对于每个服务的请求情况；
45.步骤a2、对每个服务的所有用户请求广泛性进行比较，采用离散度来表示用户请求分布的广泛性，使用二维随机向量标准差来计算反映每个服务的所有用户请求分布的离散度；
46.步骤a3、采用ap算法对每个服务的所有用户请求进行聚类；
47.步骤a4、基于步骤a2得到的用于请求分布的离散度、步骤a3得到的ap聚类结果的个数和用户请求的总数建立每个服务的服务优先级判断指标，如下式所示：
48.rankj←
α
·
dpj β
·
crj γ
·
srj49.上式中，rankj为第j个服务sj的服务优先级判断指标，dpj为通过步骤a2计算得到
的第j个服务sj的所有用户请求分布的离散度，crj为通过步骤a3计算得到的第j个服务sj的所有用户请求的ap聚类结果的个数，srj为第j个服务sj的所有用户请求的总数，α、β、γ为权重系数。
50.步骤b、按照步骤a计算得到的服务优先级判断指标，将所有服务进行排序。
51.步骤c、构建边缘环境下服务冗余部署的网络模型，具体包括以下步骤：
52.步骤c1、充分考虑两个方面：
53.第一个方面：一个服务可以被多个应用程序重用；
54.第二个方面：相同的服务可以由多个边缘服务器提供；
55.步骤c2、将实际部署在边缘服务器上的服务定义为服务实例，并给予每个服务实例特定的编号；设第j个服务sj冗余部署了nj个服务实例，则每个服务实例表示为1≤h≤nj；
56.步骤c3、使用dag图来表示所有服务以及其服务实例的整个部署计划，如图2所示。
57.步骤d、对每个服务进行部署成本分配，具体包括以下步骤：
58.步骤d1、设置默认冗余个数值n；
59.步骤d2、采用bheft方法来分配部署成本，当前服务分配到的部署成本＝单个该服务的部署成本
×
(默认部署个数n ap聚类结果crj) 当前剩余部署成本
×
比例因子，其中当前剩余部署成本＝总预算-先前服务的部署总花销-预计未来服务的部署总开销，比例因子＝当前服务的部署成本/所有服务的部署成本之和；
60.步骤d3、使用服务优先级判断指标对服务进行从高到低的排序，依次根本步骤d2进行预算约束下的成本分配，得到每个服务的冗余服务实例数；第j个服务sj的冗余服务实例数为nj。
61.步骤e、利用k-medoids算法实现边缘服务器的初始选择，具体包括以下步骤：
62.步骤e1、计算不同位置的用户对其最近的边缘服务器的请求频率，以获得每个服务在边缘服务器中的请求分布；
63.步骤e2、针对每一个服务：选择该服务请求频率高于平均值的边缘服务器作为高请求边缘服务器样本集，并根据高请求边缘服务器样本集相比于所有边缘服务器的比例计算出聚类中心数；
64.步骤e3、将剩余的边缘服务器分配给低请求边缘服务器样本集；
65.步骤e4、在高请求边缘服务器样本集和低请求边缘服务器样本集中分别进行k-medoids聚类。
66.步骤f、根据优化目标网络延迟和传输成本对部署方案进行评估，通过进行适应度计算，以度量该方案优劣程度，作为是否进行下一次迭代的评判标准具体包括以下步骤：
67.计算用户请求的网络延迟和传输成本时，针对有多种服务实例组合情况，对每一个用户请求都选择由总传输路径最短的服务实例组成。
68.步骤g、利用选择策略改进后的基于优先级的遗传算法进行迭代优化，具体包括以下步骤：
69.步骤g1、根据个体适应度情况，区分精英个体和一般个体；
70.步骤g2、首先将精英个体保留至下一代；
71.步骤g3、对于一般个体进行交叉和变异；
72.步骤g4、对于精英个体进行特殊变异，其特殊体现在，基因变异结果服从根据服务优先级判断指标确定的概率分布，即
73.步骤g5、使用轮盘赌的策略选择进入下一代的个体。
74.步骤h、获得在当前问题场景下最优的服务冗余部署方案，具体包括以下步骤：
75.将最优个体进行解码后，输出在当前问题场景下最优的满足成本约束的应用服务冗余部署方案。
76.在本发明中，提供一种边缘环境下应用服务的冗余部署方法，为了解决同一服务的冗余部署所带来的挑战，本发明首先建立了一个考虑服务冗余、应用程序内服务顺序关系和边缘服务器异构性的网络模型。针对如何合理确定服务冗余度的挑战，定义了服务优先级的概念和计算方法。然后，利用基于k-medoids的聚类算法生成初始部署方案。针对经典遗传算法的不足，采用改进的gap算法得到最终的部署方案。本部署方案具有满足成本约束，考虑服务复用性等优点，可在企业中进行推广和应用，具有较强的社会及商业价值。