一种流媒体分发固定池加权调度与负载均衡方法、系统及电子设备与流程

摘要: 本发明涉及网络通信与分布式系统负载均衡,具体涉及一种流媒体分发固定池加权调度与负载均衡方法、系统及电子设备。背景技术:1、在大型网络视频监控、直播、点播等流媒体...
一种流媒体分发固定池加权调度与负载均衡方法、系统及电子设备与流程

本发明涉及网络通信与分布式系统负载均衡,具体涉及一种流媒体分发固定池加权调度与负载均衡方法、系统及电子设备。

背景技术:

1、在大型网络视频监控、直播、点播等流媒体分发系统中,通常会部署多台网络视频服务节点(nvs)组成集群,为海量的前端采集单元(pu,peripheral unit)和客户端(cu,client unit)提供视频流的接入、转发与分发服务。

2、在流媒体分发系统中,pu和cu是流媒体链路的两端,构成"生产—消费"的关系,二者既不是同一实体,也不是简单的从属关系,而是在不同环节与nvs(网络视频服务节点)发生交互的两个独立角色。

3、pu = 前端采集单元(前端设备):负责视频的采集与接入,比如摄像头、编码器、dvr等现场设备。它是视频流的源头,需要把采集到的码流"推"或"注册"到nvs集群中的某个节点上。

4、cu = 客户端:指观看/拉取视频流的一方,比如监控中心的播放客户端、app、web端等。它是视频流的消费者,需要从一个pu对应的nvs节点上"拉"取视频流来播放。

5、简单说:pu 提供流,cu 看流,nvs 集群在中间做接入与分发。

6、如何将pu和cu合理、高效地分配到不同的nvs节点,使得集群内各节点的负载保持均衡,是保障整个系统稳定性、可靠性和服务质量的核心问题。

7、目前,业界已公开的负载调度技术主要可分为以下几类:

8、1、哈希环结合虚拟节点方案

9、现有方案首先构建一个哈希函数;然后读取包含各服务节点值和权值的配置文件;接着,根据配置文件的解析结果,利用哈希函数构建一个带权的一致性哈希环。其具体做法是将各服务节点按照其配置的权值,生成相应数量的虚拟节点,并将这些虚拟节点散布在一个巨大的哈希空间(例如2^32空间)的环上。权值越高的节点,其在环上分布的虚拟节点就越多。当有数据请求到来时,通过对数据的key进行哈希计算,然后在哈希环上按顺时针方向查找,匹配到最近的虚拟节点,从而确定对应的实际服务节点。

10、2、亲和性动态哈希环方案

11、现有方案同样构建一个哈希空间环,并根据集群中各实际服务器节点的权重计算虚拟节点的数量,生成相应的虚拟节点,并建立虚拟节点与服务节点的映射关系,将虚拟节点映射到哈希环上。当用户请求到达时,提取其标识信息并映射到哈希环上,然后顺时针匹配距离最近的虚拟节点所对应的服务器节点。

12、尽管上述现有技术方案在一定程度上实现了带权重的负载调度,但在实际应用中,尤其是在对流媒体分发这类高并发、高可用性要求极高的场景中,仍然存在以下显著的技术缺陷:

13、1、节点增减时存在虚拟节点重布导致的连接迁移:均采用了在哈希环上散布虚拟节点的方案。当集群中的nvs节点发生增加、减少或权重发生变化时,系统必须重新计算并重新布置受影响节点的全部虚拟节点。这个过程不可避免地会导致一部分已有的连接被重新定向到新的节点,即发生连接迁移。在节点频繁伸缩的动态环境中,这种连接抖动会严重影响服务的稳定性,甚至可能引发大规模的连接中断。

14、2、哈希环查询复杂度高,且虚拟节点分布不均易导致负载倾斜:哈希环方案在进行节点查找时,需要在2^32的哈希空间中进行二分查找,其时间复杂度为o(log2^32),即大约需要进行32次比较操作。此外,该方案严重依赖虚拟节点哈希值的均匀分布。当虚拟节点数量不足时,很容易出现负载倾斜现象,即部分节点承担过多请求而其他节点空闲。为了缓解这一问题,通常需要为每个物理节点引入大量的虚拟节点(通常为100~200个),这无疑增加了系统的内存占用和维护成本。

15、3、加权随机算法存在节点饥饿与负载倾斜问题:传统的加权随机算法在处理权重差异较大的场景时,低权重节点可能会在很长一段时间内得不到调度,这种现象被称为“节点饥饿”。同时,由于浮点数运算和四舍五入等原因,实际的分配比例可能与理论权重比例存在偏差,导致负载倾斜。现有技术均未公开针对此类问题的有效保底机制。

16、4、锁粒度过大导致并发性能低下:现有的调度方案在执行时,往往会在整个候选节点遍历过程中持有全局锁。在高并发请求场景下,这会导致大量请求互相阻塞等待,极大地限制了系统的吞吐量,成为性能瓶颈。

17、5、未剔除满载与离线节点导致调度失败率高:现有方案通常将集群中的所有节点(包括已经满载和离线的节点)都纳入候选集参与调度。这会导致大量请求被分配到不可用的节点,请求失败后还需进行重试,不仅增加了响应延迟,也降低了整体的调度成功率。

18、6、权重为0(满载)的节点参与运算导致逻辑异常:传统的加权随机算法在设计上通常没有对总权重为0的情况进行特殊防护。当所有节点均处于满载状态时,总权重为0,此时进行加权随机计算会产生除零错误或随机数越界等程序异常,严重影响系统的健壮性。

19、综上所述,业界迫切需要一种既能根据节点的真实剩余带宽进行加权随机分配以实现精准负载均衡,又能从根本上避免节点增减引发雪崩式连接迁移,同时还具备高并发处理能力和高可用性的流媒体分发服务节点负载调度方案。

技术实现思路

1、有鉴于此,本发明的目的在于提供一种流媒体分发固定池加权调度与负载均衡方法、系统及电子设备,以解决现有技术中服务节点增减时导致前端设备与服务节点集群之间的连接发生雪崩式迁移、查询复杂度高以及负载分配不均衡的问题。

2、根据本发明实施例的第一方面,提供一种流媒体分发固定池加权调度与负载均衡方法,包括:

3、根据各服务节点的总带宽配置,计算各节点权重并构建权重分布向量;

4、基于预设的固定大小的槽位池,生成大小恒定的排列数组,所述排列数组中每个槽位存储一条以对应服务节点置于首位的全量节点优先级排列;

5、接收到前端设备的调度请求时,对该前端设备的序列号取哈希后对所述固定大小取模,计算得到槽位索引,根据所述槽位索引直接读取所述排列数组中对应槽位的服务节点优先级排列作为调度结果;

6、当客户端请求从某个前端设备取流时,以各候选服务节点的剩余带宽为权重,执行加权随机调度,从该前端设备对应的服务节点优先级排列所包含的多个服务节点中选取一个具体节点。

7、优选地,所述根据各服务节点的总带宽配置,计算各节点权重并构建权重分布向量,包括:

8、获取服务节点i的总带宽配置值total_neti,按公式weighti= total_neti× 8 /1024 / 1024计算服务节点i的初始权重,将服务节点i的总带宽bit/s换算为以mb为单位的数值,i为正整数;

9、将各服务节点的节点标识idi及其对应的初始权重weighti组成权重分布向量{(id1, weight1), (id2, weight2), ...},并同步维护一份全量节点id向量。

10、优选地,所述基于预设的固定大小的槽位池,生成大小恒定的排列数组,所述排列数组中每个槽位存储一条以某一服务节点置于首位的全量节点优先级排列,包括:

11、计算所有服务节点的总权重total_weight = σweighti;

12、若total_weight ≤ 0,执行预定降级处理,生成不包含加权分配特征的默认排列,以避免除零异常;

13、若total_weight>0,按权重比例为各服务节点分配槽位数slotsi:

14、slotsi= floor((weighti/ total_weight) × pool_size),其中,pool_size为预设的固定大小的槽位池的总槽位数,floor()为向下取整函数。

15、优选地,所述方法,还包括:

16、若slotsi= 0 但 weighti>0,则强制令slotsi= 1,以确保任何有权重的服务节点至少占据一个槽位,杜绝节点饥饿;

17、若σslotsi

18、对每个服务节点i,在其分配的slotsi个槽位中,分别构造一条排列记录,该记录将该服务节点的节点标识置于首位,其余服务节点顺序按其权重使用无放回抽样算法生成,而非保持原有相对顺序,使用槽位索引作种子保证生成顺序的确定性;所有槽位的排列记录共同构成一个大小为pool_size的二维排列数组。

19、优选地,所述接收到前端设备的调度请求时,对该前端设备的序列号取哈希后对所述固定大小取模,计算得到槽位索引,根据所述槽位索引直接读取所述排列数组中对应槽位的服务节点优先级排列作为调度结果,包括:

20、当前端设备pu接入请求服务节点优先级排列时,执行:

21、m= hash(sn) mod pool_size,其中,sn为前端设备pu的序列号,

22、计算哈希值hash(sn),再对固定槽位池大小pool_size取模,得到的m是一个落在[0,pool_size-1] 范围内的整数;

23、若所述前端设备携带有国家码,则优先查询与该国家码对应的排列数组,并从该排列数组中索引为m的槽位读取服务节点优先级排列;

24、若查询失败或所述前端设备无国家码,则从默认排列数组中索引为m的槽位读取服务节点优先级排列;所述默认排列数组为基于集群中全部在线服务节点生成的排列数组,与按国家码生成的排列数组结构完全相同,每个槽位存储一条全量节点优先级排列。

25、优选地,所述当客户端请求从某个前端设备取流时,以各候选服务节点的剩余带宽为权重,执行加权随机调度,从该前端设备对应的服务节点优先级排列所包含的多个服务节点中选取一个具体节点,包括:

26、当客户端cu请求从某个前端设备pu取流时,获取该前端设备pu对应的所述服务节点优先级排列,将所述服务节点优先级排列中包含的多个服务节点确定为候选服务节点;

27、获取锁后在临界区内从存储服务节点状态信息的共享数据区一次性提取候选服务节点的快照数据并释放锁;所述快照数据包含各候选服务节点的节点标识、总带宽total_net、已用带宽av_up_bps以及在线状态is_online;

28、基于所述快照数据,从候选集中过滤掉is_online为假的离线服务节点与剩余带宽≤0的满载服务节点;

29、若过滤后候选集为空,则返回调度失败;

30、若过滤后候选集仅剩一个服务节点,则直接返回该服务节点;

31、若过滤后候选集剩多个服务节点,根据每个服务节点的剩余带宽,执行加权随机调度。

32、优选地,所述若过滤后候选集剩多个服务节点,根据每个服务节点的剩余带宽,执行加权随机调度,包括:

33、以各候选服务节点的剩余带宽作为各服务节点的权重,计算所有服务节点的总权重totalweight,若总权重为零则返回调度失败,以避免除零异常;

34、若总权重非零,则生成位于 [0,totalweight−1]区间的随机数;

35、按各候选服务节点的排列顺序,依次累加各服务节点的权重,当所述随机数小于某服务节点的累积权重时,选择该服务节点并终止;否则继续对下一服务节点执行累加与判断,直至选中一个服务节点。

36、根据本发明实施例的第二方面,提供一种流媒体分发固定池加权调度与负载均衡系统,包括:

37、权重初始化模块,用于根据各服务节点的总带宽配置,计算各节点权重并构建权重分布向量;

38、排列数组生成模块,用于基于预设的固定大小的槽位池,生成大小恒定的排列数组,所述排列数组中每个槽位存储一条以对应服务节点置于首位的全量节点优先级排列;

39、一致性哈希调度模块,用于接收到前端设备的调度请求时,对该前端设备的序列号取哈希后对所述固定大小取模,计算得到槽位索引,根据所述槽位索引直接读取所述排列数组中对应槽位的服务节点优先级排列作为调度结果;

40、加权随机调度模块,用于当客户端请求从某个前端设备取流时,以各候选服务节点的剩余带宽为权重,执行加权随机调度,从该前端设备对应的服务节点优先级排列所包含的多个服务节点中选取一个具体节点。

41、根据本发明实施例的第三方面,提供一种电子设备,包括:

42、处理器、通信接口、存储器和通信总线,其中,处理器、通信接口和存储器通过通信总线完成相互间的通信;

43、所述存储器,用于存放计算机程序;

44、所述处理器,用于执行存储器上所存放的程序时,实现上述的方法。

45、根据本发明实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述的方法。

46、本发明的实施例提供的技术方案可以包括以下有益效果:

47、通过固定大小的槽位池和哈希取模索引,节点增减时各pu的槽位索引保持不变,仅槽位内的排列内容随权重重算微调,从根本上消除了雪崩式连接迁移。采用扁平定长数组,查询仅需一次取模和一次数组索引(o(1)时间复杂度),远优于哈希环方案的二分查找(o(log n)),在高并发场景下吞吐量显著提升。cu侧以实时剩余带宽为权重进行加权随机选取,负载分配动态贴合节点真实可用容量,避免了静态权重方案导致的负载倾斜。

48、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。