一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种光电混合数据中心网络中的流组调度方法

2022-07-31 07:07:31 来源:中国专利 TAG:
1.本发明属于网络传输
技术领域
:,具体涉及一种光电混合数据中心网络中的流组调度方法。
背景技术
::2.近年来,数据中心的规模正在变得越来越大。在多台服务器上运行的多个应用程序需要低延迟和高吞吐量。虽然电分组交换机很灵活,能够在单个数据包的粒度上做出转发决定,但如果仅使用电分组交换的数据中心不适合满足这些要求。电分组交换机会产生大量热量,需要更多的冷却,以及更高的功耗成本。光电路交换技术比电分组交换技术具有更多的优势。首先,光链路可以支持更大的容量和更高的密度。对于物理层传输,光路交换机不需要处理数据包,可以直接传输光信号,因此可以支持几乎任意的链路速率。此外,光电路交换机的功耗低于电分组交换机。通常,在光电路交换网络中,核心光电路交换机与多个机架互连。换言之,每个电路交换机的端口都连接到架顶交换机,每个架顶交换机连接到一组服务器。光电路交换机有端口限制,即每个输入(输出)端口一次最多可以设置一个电路到输出(输入)端口。电路交换非常适合数据中心的流量模式,因为数据中心内的流量是集中的,并且在一段时间内只有少数架顶交换机是热的。然而,每个电路配置都会有一个不可忽略的重新配置延迟,范围从几十微秒到几十毫秒。在电路重新配置期间,无法在受影响的端口上传输任何数据,从而导致某些电路利用率下降。这是光电路交换机的主要限制,并促使电路调度策略实现高电路利用率。所以,当面对一些延时敏感的流时,光电路不能满足它们对时延的需求,所以我们还需要电分组交换机的存在来满足一些延时敏感的流的传输。这样的混合网络结构可以满足不同的业务需求,大大缩短了整体完成时间。研究人员利用这些观察结果,提出了混合数据中心网络架构,通过将高速光电路交换技术与传统电分组交换机相结合,以较低的成本提供较高的吞吐量。3.流组代表了一个拥有共同性能目标的独立流的集合。例如,经典的mapreduce软件架构中的map数据流和reduce数据流都可以抽象为并发流。一个流组是由流组中每个流的端点和字节大小来定义的。一个流组可以代表任何通信模式,如多对多、一对多、多对一和一对一等。然而,在复杂的业务场景中,它们并不仅仅包含具有相同性能目标的流,因此为了使用混合流的概念来概括具有不同性能目标的流。技术实现要素:4.本发明的目的在于提供一种光电混合数据中心网络中的流组调度方法,所述方法以减少传输时间和提高吞吐量为改进目标,最终实现整体的流量传输效率的提高。5.技术方案:一种光电混合数据中心网络中的流组调度方法,所述方法首先对流量进行分组,然后根据交换机端口传输瓶颈对流组进行排序,对流量在光电混合网络结构中传输的过程进行优化后提高传输效率,包括如下步骤:6.(1)将流量按照业务语义、流量信息划分为流组,并记录流的大小和到达时间,再输入网络拓扑结构;7.(2)基于最小瓶颈优先的排序策略,将步骤(1)中的流组信息和网络拓扑结构作为输入,并根据光电混合网络结构中交换机端口的传输瓶颈约束,求解出有序的流组序列;其中,对流组序列进行排序计算过程如下:8.一个流组ck需要通过输入端口i传输∑jdij的数据量,并通过输出端口j传输∑idij数据量,而表示流组在交换机端口i传输流量到其他所有端口所需的时间,流组ck的瓶颈γk表示为:[0009][0010]其中,xi表示该端口是否是光电路交换机中需要进行流量传输的端口,δ表示光电路交换机的重新配置延迟,∑jxjδ表示光电路交换机中完成端口i的流量传输所需要的链路重新配置延迟时间;[0011](3)基于步骤(2)得到的流组序列,对流的调度问题进行优化求解实现对整体传输的组合优化。[0012]进一步的,步骤(1)中流组ck根据流的信息进行划分集合,包括对吞吐量敏感的流组和对延时敏感的流组,且流组中的流相互独立。[0013]其中,流组ck根据流的性能进行划分集合的判断依据为:[0014]流的长度大于等于阈值ε的流为对吞吐量敏感的流组;根据对流的长度和传输需求的观察,长度小于阈值ε为对延时敏感的流组。[0015]进一步的,步骤(2)所述的光电混合网络结构中交换机端口的传输瓶颈约束,包括光电路交换机端口带宽约束、电分组交换机带宽约束和流传输约束;[0016]所述的光电路交换机端口带宽约束的数学表示如下:[0017]bij≤bc[0018]其中,bij表示光电路交换机中从入端口i到出端口j的所占用的链路带宽,bc表示光电路交换机能承受的最大链路带宽;[0019]电分组交换机带宽约束的数学表示如下:[0020][0021][0022]其中,φp是电分组交换机的端口集合,bij表示电分组交换机中从入端口i到出端口j的所占用的带宽,bp表示电分组交换机能承受的最大带宽;[0023]流传输约束的数学表示如下:[0024][0025]其中sf,ef分别为流f传输的开始时间和结束时间,rf(t)是流f在时刻t的传输速率,df是流f的大小。[0026]进一步的,步骤(3)包括如下过程:[0027](31)建立光电混合网络结构中关于不同交换机的调度约束,包括对光电路交换机链路建立约束、对光电路交换机传输过程中流组建立流传输约束:[0028]光电路交换机链路建立约束的数学表达形式如下:[0029][0030][0031]其中,φc是光电路交换机的端口集合,μij(t)表示在时隙t输入端口i和输出端口j之间是否建立了链路;[0032]光电路交换机传输过程中流组的传输约束的数学表示如下:[0033][0034][0035]其中,表示流组ck在时隙t是否从输入端口i到输出端口j进行传输,表示流组集合;[0036]在光电混合网络结构中,根据流组中的性能需求m来确定对交换机状态查询的先后策略,流组ck中的流f在光电混合网络中进行传输时,流的传输过程分为在光电路交换机中传输和在电分组交换机中传输两种情况,其中,在光电路交换机中传输时考虑链路建立时间要求,则流的传输约束的数学表示:[0037][0038]其中,σkf表示流组ck中的流f是否使用光电路交换机进行传输,sf是流传输的开始时间。流在光电路交换机中传输时,在开始时间后还需要经历重新配置延迟,才可以进行传输。ef是流传输的结束时间,δ表示光电路交换机重新配置延迟,i,j是流在光电路交换机传输的入端口和出端口,m,n是流在电分组交换机传输的入端口和出端口;[0039](32)对于吞吐量敏感流量,流组的吞吐量等于其所有子流吞吐量之和,没有完成传输的子流不会影响传输完成子流的吞吐量,该方法设定一条吞吐量敏感的流成为一个流组,以此为单位进行调度,使用mt表示所有吞吐量敏感的流组在其生命周期内平均之和,得到如下数学关系式:[0040][0041]其中,df表示流f的长度大小,af表示流f的到达时间,ef表示流f的传输完成时间,表示所有吞吐量敏感流组的集合;[0042]对于延时敏感的流量,定义延时敏感流量的性能指标为所有流组的平均完成时间,为所有对延时敏感流组的集合,每个流组ck的完成时间为其中所有子流完成时间的最大值,使用ml表示所有流组的完成时间之和,得到如下数学关系式:[0043][0044][0045]在确保满足传输约束的前提下,以减少流组的传输完成时间和提高吞吐量来提高整体传输效率为优化目标,将优化问题形式化为:[0046]minimize:ωlml-ωtmt[0047]其中,ωl和ωt表示两种类型流组的权重,使得性能指标增量保持平衡;[0048](33)基于最优化理论为求解方法,将步骤(31)的数学表达式和步骤(32)构建的优化问题结合,将步骤(1)所划分的流组作为数据输入求解出最优的流调度策略,然后让有序流组依次传输。[0049]其中,步骤(32)据流组中的性能需求m来确定对交换机状态查询的先后策略,具体包括如下过程:[0050]引入端口状态表(portstatustable,pst)来表示光电路交换机和电分组交换机的端口状态,其中,根据光电路交换机的端口状态有端口空闲、端口正在建立链路、端口正在进行流量传输三种状态;电分组交换机端口状态有端口空闲、端口正在进行流量传输两种状态;每当端口状态因为流被调度进行传输或者传输完成等事件发生改变时,pst会进行更新;[0051]当开始调度的流组是对吞吐量敏感的流组,先检查光电路交换机的入端口和出端口状态若满足端口约束则可以建立链路并通过光电路交换机进行传输;若不满足端口约束条件,则检查电分组交换机的端口状态是否满足约束,满足则进行传输,不满足则检查下一条流;[0052]当开始调度的流组是对延时敏感的流组,会先检查光电路交换机的入端口和出端口状态若有建立好的链路则可以通过光电路交换机进行传输。若没有建立好的链路,则检查电分组交换机的端口状态是否满足约束,满足则进行传输,不满足则检查下一条流。[0053]更进一步的,所述方法中,流组内部的子流在传输时通过端口状态表来查询光电路交换机和电分组交换机的端口状态,不同类型的流组会有不同的查询策略。每当端口状态因为流被调度进行传输或者传输完成等事件发生改变时,pst会进行更新相应的端口状态。[0054]所述方法中,当有新的流组到达或者有流组传输完成时,根据当前各个流组的瓶颈,按照最小瓶颈优先的排序策略和光电混合网络结构对流组进行重新排序,使得更新后有序流组继续在不同交换机的端口状态表的约束下进行传输。[0055]有益效果:与现有技术相比,本发明显著的效果包括如下三点:[0056](1)本发明提出了光电混合网络中基于交换机端口带宽的流组传输瓶颈公式,并以此作为排序标准去更加准确地对流组进行排序,划分的集合更加有助于实现流组高效的传输;[0057](2)本发明优化了流的调度问题,满足了不同性能需求类型流的传输,然后以优化整体传输性能为目标,在流的调度策略方面,保证传输效率的满足不同业务的需求;[0058](3)本发明为不同类型的流组确定了调度的目标函数,为光电混合网络设计了高效的调度方案以降低整体传输的完成时间,通过将高速光电路交换技术与传统电分组交换机相结合,以较低的成本提供较高的吞吐量,且得到更好的性能。附图说明[0059]图1为本发明所述方法的步骤流程图;[0060]图2为实施例中数据中心光电混合网络拓扑结构。具体实施方式[0061]下面结合附图及具体实施例为本发明作进一步的描述。[0062]本发明提供的是一种光电混合数据中心网络中的流组调度方法,属于网络传输
技术领域
:。该方法首先输入的流量按照业务语义被分为流组,接着输入网络拓扑结构。其次基于流组信息,结合光电路交换机和电分组交换机端口带宽等特性对流组的顺序进行求解,得到有序的流组序列。最后按照流组序列对流组和其中包含的子流进行调度,优化流量在光电混合网络结构中的传输,减少流组传输完成时间,达到对整体传输综合优化的目的。本发明能够对光电混合结构中流量的调度传输过程进行优化处理,可应用于数据中心综合业务的场景等。[0063]如图1所示,一种光电混合数据中心网络中的流组调度方法,首先得到每条流的大小、到达时间等相关信息,根据流的信息将流分为两种性能目标不同的流组,接着根据流组的传输瓶颈对流组进行排序,再对流量在光电混合网络结构中传输的过程进行优化,最终能够达到提高传输效率的目的,实施步骤具体如下:[0064]步骤(1):将流量按照其信息进行分类,将独立的单流聚集成具有相同性能需求的流组,并记录流组中流的大小和到达时间等相关信息。[0065]流组是具有共同性能目标的流的集合,例如,最小化流的传输完成时间或确保流满足共同的截止日期。流组中的流是独立的,因为流的输入不依赖于另一条流的输出,并且这些流的端点可以在一台或多台机器中,传统的点对点流仍然是只有一个流的流组。通过一个流组我们可以知道其中子流的大小、传输目的地、到达时间等相关信息。[0066]一个流组ck具有的流的数目是固定的,生成的流组具有不同的性能目标,分别是对吞吐量敏感的流组和对延时敏感的流组。其中对流的性能目标的判断依据为流的长度是否大于阈值ε,长度大于等于阈值ε的流属于对吞吐量敏感的流组。根据对流的长度和传输需求的观察,长度小于阈值ε往往对传输延时有一定的要求,所以其属于对延时敏感的流组。[0067]步骤(2):基于最小瓶颈优先的排序策略,以步骤(1)的相关信息和网络拓扑为输入,并且对不同类别交换机所具有的带宽约束进行数学表示,根据流组内流的传输瓶颈来确认流组的传输瓶颈,从而求解出有序的流组序列;[0068]步骤(201):光电混合网络中交换机端口的传输瓶颈约束的数学化表示,其中包括光电路交换机端口带宽约束、电分组交换机端口带宽约束、流传输约束等这些网络流量传输的基本约束。[0069]每条流从传输的开始时间到结束时间要完成整个流的传输,所有流的传输完成表示整个流组的传输结束。流量传输约束的数学表示如下:[0070][0071]其中sf,ef分别为流f的传输开始时间和结束时间,rf(t)是流f在时刻t的传输速率,df是流f的大小;[0072]在满足电分组交换机端口带宽约束的前提下,流可以即时从入端口到出端口的进行传输,这可以更好地满足对延迟敏感的流的需要。电分组交换机带宽约束的数学表示如下:[0073][0074][0075]其中,φp是电分组交换机的端口集合,bij表示电分组交换机中从入端口i到出端口j的所占用的带宽,bp表示电分组交换机能承受的最大带宽。[0076]光电路交换机可以提供更高的带宽,但是在某一时刻每个端口只可以建立一条链路,同样光电路交换机的传输也要满足相应的带宽限制,即通过该条链路传输的带宽小于链路带宽。光电路交换机电路带宽约束的数学表示如下:[0077]i,j∈φc:bij≤bc[0078]其中,bij表示光电路交换机中从入端口i到出端口j的所占用的链路带宽,bc表示光电路交换机能承受的最大链路带宽。[0079]步骤(202):对步骤(201)中得到的流组序列进行排序,将优化排序问题形式化表示。[0080]使用流在交换机端口的传输瓶颈时间来对流组进行排序,因为瓶颈考虑了流组的长度、宽度、大小等因素,相较于最短或者最窄优先更能体现流组的特性。流的传输受到端口带宽的限制,所以不同的流组占用端口的时间不同。流组对于端口的占用时间由每条流对端口的占用时间决定,其中端口的最久占用时间是这个流组的传输瓶颈。对于端口的传输时间,主要由端口需要传输的数据量和端口带宽决定,其中光电路端口的传输需要重新配置延迟,在计算瓶颈时要加上对应的重新配置时间。每个流组需要通过输入端口i传输∑jdij的数据量,并通过每个输出端口j传输∑idij数据量,光电路交换机端口和电分组交换机端口带宽不同。我们使用γk来表示流组ck的传输瓶颈,则流组的传输瓶颈可以表示为:[0081][0082]其中,xi表示该端口是否是光电路交换机中需要进行流量传输的端口,δ表示光电路交换机的重新配置延迟,∑jxjδ表示光电路交换机中完成端口i的流量传输所需要的链路重新配置延迟时间。[0083]步骤(203):将步骤(201)中提出的端口带宽约束和步骤(202)中构建的排序问题结合,用步骤(1)中的流组数据作为输入,将流组序列进行排序,求解出有序的流组序列[0084]步骤(3):基于步骤(2)得到的流组序列,在不同交换机的端口状态表(portstatustable,pst)的约束下,以流传输完成等事件为驱动,对流的调度问题进行优化求解,减少流组的整体传输时间,提高吞吐量,最终达到对整体传输的组合优化的目的。[0085]具体的,包括以下步骤:[0086]步骤(301):对流调度过程中交换机的约束进行数学表示。光电混合网络结构中,在某一时刻光电路交换机端口只能建立一条链路。在传输期间,该端口只能通过这一条链路进行数据传输。由此可以得到光电路交换机端口建立约束的数学表示:[0087][0088][0089]其中,φc是光电路交换机的端口集合,μij(t)表示在时隙t输入端口i和输出端口j之间是否建立了链路。[0090]光电路交换机在链路重新配置期间内是无法进行流传输的,同时正在建立电路的端口也不能被其他流使用,所以需要对在光电路交换机建立链路期间的传输设立约束,即流组在光电路交换机传输的约束:[0091][0092][0093]其中,表示流组ck在时隙t是否从输入端口i到输出端口j进行传输,表示当前流组。[0094]在光电混合网络结构中,流组中的性能需求m来确定对交换机状态查询的先后策略。引入端口状态表(pst)来表示光电路交换机和电分组交换机的端口状态。其中,根据光电路交换机的端口状态有端口空闲、端口正在建立链路、端口正在进行流量传输三种状态。电分组交换机端口状态有端口空闲、端口正在进行流量传输两种状态。每当端口状态因为流被调度进行传输或者传输完成等事件发生改变时,pst会进行更新。[0095]当开始调度的流组是对吞吐量敏感的流组,会先检查光电路交换机的入端口和出端口状态若满足端口约束则可以建立链路并通过光电路交换机进行传输。若不满足端口约束条件,则检查电分组交换机的端口状态是否满足约束,满足则进行传输,不满足则检查下一条流。[0096]当开始调度的流组是对延时敏感的流组,会先检查光电路交换机的入端口和出端口状态若有建立好的链路则可以通过光电路交换机进行传输。若没有建立好的链路,则检查电分组交换机的端口状态是否满足约束,满足则进行传输,不满足则检查下一条流。[0097]进一步的指出,在光电混合网络结构中,流组中的流可以使用光电路交换机进行传输,也可以使用电分组交换机进行传输,但是要完成整条流的传输。在描述流在光电混合网络中的传输过程时,需要使用变量去表示流组中每条流使用哪种交换机进行传输。同时考虑到端口建立期间的传输约束,流在光电混合网络结构中进行传输的约束为:[0098][0099]其中,σkf表示流组ck中的流f是否使用光电路交换机进行传输,sf是流传输的开始时间。流在光电路交换机中传输时,在开始时间后还需要经历重新配置延迟,才可以进行传输。ef是流传输的结束时间,δ表示光电路交换机重新配置延迟,i,j是流在光电路交换机传输的入端口和出端口,m,n是流在电分组交换机传输的入端口和出端口。[0100]步骤(302):对于吞吐量敏感流量,流组的吞吐量等于其所有子流吞吐量之和,没有完成传输的子流不会影响传输完成子流的吞吐量。即我们使得一条吞吐量敏感的流成为一个流组,以此为单位进行调度。使用mt表示所有吞吐量敏感的流组在其生命周期内平均之和:[0101][0102]其中,df表示流f的长度大小,af表示流f的到达时间,ef表示流f的传输完成时间,表示所有吞吐量敏感流组的集合。[0103]对于延时敏感的流量,定义延时敏感流量的性能指标为所有流组的平均完成时间。为所有对延时敏感流组的集合,每个流组ck的完成时间为其中所有子流完成时间的最大值。使用ml表示所有流组的完成时间之和:[0104][0105][0106]在确保满足传输约束的前提下,以减少流组的传输完成时间和提高吞吐量来提高整体传输效率为优化目标,将优化问题形式化为:[0107]minimize:ωlml-ωtmt[0108]其中,ωl和ωt表示两种类型流组的权重,使得性能指标增量保持平衡。[0109]步骤(303):基于最优化理论为求解方法,将步骤(301)的数学表达式和步骤(302)构建的优化问题结合,用步骤(1)作为数据输入求解出最优的流调度策略,然后让有序流组依次传输。[0110]流组内部的子流在传输时通过端口状态表(pst)来查询光电路交换机和电分组交换机的端口状态。不同类型的流组会有不同的查询策略。每当端口状态因为流被调度进行传输或者传输完成等事件发生改变时,pst会进行更新相应的端口状态。[0111]当有新的流组到达或者有流组传输完成时,本发明要根据当前各个流组的瓶颈,按照最小瓶颈优先的排序策略和光电混合网络结构对流组进行重新排序,使得更新后有序流组继续在在不同交换机的端口状态表(pst)的约束下进行传输。[0112]最终优化完成,依据上述本发明所述方法达到提高整体混合流量传输效率的目的。当前第1页12当前第1页12
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献