一种路由请求方法及终端与流程

1.本发明涉及计算机技术领域，特别涉及一种路由请求方法及终端。


背景技术：

2.移动互联网蓬勃发展的今天，大部分手机app都提供了消息推送功能，如新闻客户端的热点新闻推荐，im工具的聊天消息提醒，电商产品促销信息，企业应用的通知和审批流程等。推送功能对于提高产品活跃度、提高功能模块使用率、提升用户粘性以及提升用户留存率起到了重要作用。
3.而现在很多的推送应用中都有一个多集群部署的接入服务，一个路由集群服务。客户端每次建立长链接之前，会预先访问一次路由集群服务的接口，获取可以接入的长链接地址列表，之后选择其中一个地址列表，进行长链接的建立，建立后，服务端与客户端会保持有一个长链接，所有的消息收发都是通过这个长链接来进行的。而这样的长链接有很多，一般每一个接入应用基本上都会有几十万的长链接保持。
4.通常现在的推送路由策略方式主要有两种，一种为随机分流，即路由查询接口每次返回给客户端的路由地址为固定排序或者随机排序，由客户端按照顺序获取地址或者随机获取地址进行长链接建立。使用此种方式简单，但是却无法可控客户端连接到哪台接入应用上，因为均使用随机方式。另一种，根据接入应用的已接入数量进行排序地址返回，把接入数少的机器地址排序靠前，这样可以引导客户端针对接入数量较少的应用。这种能够在一定程度之上实现客户端接入可控，可是，由于服务器之间的资源是不一样的，一般新买的服务器资源会比旧有服务器资源性能更好更高，比如cpu、内存等资源，不同机器上的参数、性能不同，即使参数相同，不同服务器上可使用的资源情况也会不一样，这样就导致了不同的接入应用，实际上的最大接入数量会因为服务器的实际情况不同，有不同的接入上限，因此，建立长链接失败的可能性较大。


技术实现要素：

5.本发明所要解决的技术问题是：提供一种路由请求方法及终端，能够减少客户端建立长链接失败的可能性，提高服务器的资源利用率。
6.为了解决上述技术问题，本发明采用的技术方案为：
7.一种路由请求方法，包括步骤：
8.定时监控各接入应用的资源剩余情况；
9.根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值，对各所述接入应用的权重值进行倒序排序，并按照排序顺序与接入应用建立长链接；
10.根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量，根据所述剩余可接入数量进行接入应用的限流控制。
11.为了解决上述技术问题，本发明采用的另一种技术方案为：
12.一种路由请求终端，包括存储器、处理器以及存储在所述存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
13.定时监控各接入应用的资源剩余情况；
14.根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值，对各所述接入应用的权重值进行倒序排序，并按照排序顺序与接入应用建立长链接；
15.根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量，根据所述剩余可接入数量进行接入应用的限流控制。
16.本发明的有益效果在于：定时监控各接入应用的资源剩余情况，针对接入应用的各种资源进行计算并获取权重，根据计算好的权重进行倒序排序，对于资源充足的应用，排序位置靠前，客户端只需要按照服务端返回的地址列表，顺序进行长链接建立即可。通过此种方式，能够在很大程度上，实现按照服务器资源进行负载分流的功能，减少客户端建立长链接失败的可能性，提高服务器的资源利用率。并且计算长连接资源占用量，能够根据已知的资源信息估算出每一个长连接的资源占用量，能够更精确地根据接入数量进行限流控制。
附图说明
17.图1为本发明实施例的一种路由请求方法的流程图；
18.图2为本发明实施例的一种路由请求终端的示意图；
19.图3为本发明实施例的一种路由请求方法的结构示意图；
20.标号说明：
21.1、一种路由请求终端；2、存储器；3、处理器。
具体实施方式
22.为详细说明本发明的技术内容、所实现目的及效果，以下结合实施方式并配合附图予以说明。
23.请参照图1，本发明实施例提供了一种路由请求方法，包括步骤：
24.定时监控各接入应用的资源剩余情况；
25.根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值，对各所述接入应用的权重值进行倒序排序，并按照排序顺序与接入应用建立长链接；
26.根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量，根据所述剩余可接入数量进行接入应用的限流控制。
27.从上述描述可知，本发明的有益效果在于：定时监控各接入应用的资源剩余情况，针对接入应用的各种资源进行计算并获取权重，根据计算好的权重进行倒序排序，对于资源充足的应用，排序位置靠前，客户端只需要按照服务端返回的地址列表，顺序进行长链接建立即可。通过此种方式，能够在很大程度上，实现按照服务器资源进行负载分流的功能，减少客户端建立长链接失败的可能性，提高服务器的资源利用率。并且计算长连接资源占用量，能够根据已知的资源信息估算出每一个长连接的资源占用量，能够更精确地根据接
入数量进行限流控制。
28.进一步地，所述各接入应用的资源剩余情况包括接入应用的cpu占用率、内存占用率、带宽占用率和接入数量占用率。
29.由上述描述可知，通过获取接入应用的cpu占用率、内存占用率、带宽占用率和接入数量占用率，便于后续进行接入应用的权重计算和限流控制。
30.进一步地，根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值包括：
31.结合接入应用的实际资源和监控到的资源剩余情况，计算接入应用的剩余资源；
32.将接入应用的每一剩余资源与其对应的资源使用权重相乘，计算得到接入应用的权重值。
33.由上述描述可知，通过剩余资源和资源使用权重计算接入应用的权重值，能够按照资源情况进行路由请求的负载分流，减少长链接建立失败的可能性。
34.进一步地，所述根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量包括：
35.结合接入应用的实际资源、最大接入数以及资源使用权重计算各接入应用的长链接资源占用量；
36.根据所述接入应用的剩余资源和长链接资源占用量，计算接入应用的剩余可接入数量。
37.由上述描述可知，通过计算长链接资源占用量以及剩余可接入数量，能够更精确地根据接入数量进行限流控制。
38.进一步地，定时监控所述各接入应用的资源剩余情况之后包括：
39.通过压力测试计算每一接入应用的cpu、内存和带宽的资源占比，根据所述资源占比得到资源使用权重。
40.由上述描述可知，资源使用权重能够根据接入应用的实际资源情况进行动态调整，提高了权重计算的准确性以及根据接入数量进行限流控制的精确性。
41.请参照图2，本发明另一实施例提供了一种路由请求终端，包括存储器、处理器以及存储在所述存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
42.定时监控各接入应用的资源剩余情况；
43.根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值，对各所述接入应用的权重值进行倒序排序，并按照排序顺序与接入应用建立长链接；
44.根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量，根据所述剩余可接入数量进行接入应用的限流控制。
45.从上述描述可知，定时监控各接入应用的资源剩余情况，针对接入应用的各种资源进行计算并获取权重，根据计算好的权重进行倒序排序，对于资源充足的应用，排序位置靠前，客户端只需要按照服务端返回的地址列表，顺序进行长链接建立即可。通过此种方式，能够在很大程度上，实现按照服务器资源进行负载分流的功能，减少客户端建立长链接失败的可能性，提高服务器的资源利用率。并且计算长连接资源占用量，能够根据已知的资
源信息估算出每一个长连接的资源占用量，能够更精确地根据接入数量进行限流控制。
46.进一步地，所述各接入应用的资源剩余情况包括接入应用的cpu占用率、内存占用率、带宽占用率和接入数量占用率。
47.由上述描述可知，通过获取接入应用的cpu占用率、内存占用率、带宽占用率和接入数量占用率，便于后续进行接入应用的权重计算和限流控制。
48.进一步地，根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值包括：
49.结合接入应用的实际资源和监控到的资源剩余情况，计算接入应用的剩余资源；
50.将接入应用的每一剩余资源与其对应的资源使用权重相乘，计算得到接入应用的权重值。
51.由上述描述可知，通过剩余资源和资源使用权重计算接入应用的权重值，能够按照资源情况进行路由请求的负载分流，减少长链接建立失败的可能性。
52.进一步地，所述根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量包括：
53.结合接入应用的实际资源、最大接入数以及资源使用权重计算各接入应用的长链接资源占用量；
54.根据所述接入应用的剩余资源和长链接资源占用量，计算接入应用的剩余可接入数量。
55.由上述描述可知，通过计算长链接资源占用量以及剩余可接入数量，能够更精确地根据接入数量进行限流控制。
56.进一步地，定时监控所述各接入应用的资源剩余情况之后包括：
57.通过压力测试计算每一接入应用的cpu、内存和带宽的资源占比，根据所述资源占比得到资源使用权重。
58.由上述描述可知，资源使用权重能够根据接入应用的实际资源情况进行动态调整，提高了权重计算的准确性以及根据接入数量进行限流控制的精确性。
59.本发明上述的一种路由请求方法及终端，适用于在客户端请求路由地址时，减少客户端建立长链接失败的可能性，提高服务器的资源利用率，以下通过具体的实施方式进行说明：
60.实施例一
61.请参照图1，一种路由请求方法，包括步骤：
62.s1、定时监控所述各接入应用的资源剩余情况。
63.在本实施例中，接入集群中包括接入应用a和接入应用b，其分别部署在不同的机器之上，其中a为4核cpu、8g内存(4c8g)，b为6核cpu、12g内存(6c12g)。
64.具体的，请参照图3，当客户端请求路由集群中的获取路由地址列表接口时，路由集群会到监控模块中获取最近一次的监控数据信息。通过监控模块，间隔5秒监控接入集群中每台机器的资源剩余情况，资源剩余情况包括：cpu占用率、内存占用率、带宽占用率和接入数量占用率。
65.在一些实施例中，通过压力测试计算每一接入应用的cpu、内存和带宽的资源占比，根据所述资源占比得到资源使用权重。
66.具体的，例如一台机器为4核8g内存，而内存条的类型是ddr2类型的，此时经过压测后的资源占比是1:2:2；另一台机器的内存也是8g，但是其内存型号是ddr4，实际使用过程中我们可以认为资源占比为1:3:2，因为其采用了较为新型的内存型号，内存比例应该要较为提高。而后续其他计算过程则不变。
67.s2、根据所述各接入应用的资源剩余情况以及资源使用权重计算接入应用的权重值，对各所述接入应用的权重值进行倒序排序，并按照排序顺序与接入应用建立长链接。
68.其中，结合接入应用的实际资源和监控到的资源剩余情况，计算接入应用的剩余资源，将接入应用的每一剩余资源与其对应的资源使用权重相乘，计算得到接入应用的权重值。
69.具体的，在本实施例中，机器a的剩余cpu为40％，剩余内存为60％，剩余网络io(带宽)为50％，对于4c8g的机器，此机器的权重为：400％*40％ 800％*60％*2 50％*2；每一个接入应用所在的机器均根据同样的规则计算权重值，并进行倒序排序，客户端只需要按照返回的地址列表，顺序建立长链接即可。
70.因此，在一些实施例中，存在一台机器上可以部署多个应用的情况。
71.s3、根据资源使用权重计算各接入应用的长链接资源占用量，根据所述长链接资源占用量计算接入应用的剩余可接入数量，根据所述剩余可接入数量进行接入应用的限流控制。
72.具体的，通过压力测试，可以初步明确机器某一条件下的单个接入应用的最大接入上限。比如，a应用(4c8g)最大接入数为5w，我们假设达到最大接入数量时，占用了全部的资源4核8g内存外加100％的io；
73.因此，可以计算得出一个长链接的大概占用资源x为：50000*x＝400％ 800％*2 100％*2，则x的数值为：0.00044。
74.根据实时监控的资源剩余情况，进而进视乎实时的计算出接入应用的剩余可接入数量：
75.在本实施例中，当某一台机器为4核10g内存时，此时可以根据公式计算出此机器的总资源量：400％*1 1000％*2 100％*2，将总资源量除以x，则表示此台机器的最大接入量，扣除实际已接入量后可得剩余可接入数量。
76.现有的接入实例中的接入数量实际上是一个预估值，按照固定压测给出的数据所评估的预估值，并不是特别准确，而本实施例中能够根据具体资源反馈计算出一个较为精确的数值，能够更精确化地根据接入数量进行限流控制。
77.其中，计算剩余可接入数量，一是能够在监控系统已经监控并统计好了剩余可接入数量之后，路由模块会从监控系统中获取此剩余可接入数量，在长链接建立之前就排除了剩余可接入数量为0或者较小的机器，限制客户端接入；
78.二是，在长链接的建立过程中，也会再次校验剩余可接入数量是否为0或者未达到预设的数值，若是，则禁止客户端接入。
79.实施例二
80.请参照图2，一种路由请求终端1，包括存储器2、处理器3以及存储在所述存储器2上并可在处理器3上运行的计算机程序，所述处理器3执行所述计算机程序时实现实施例一的一种路由请求方法的各个步骤。
81.综上所述，本发明提供的一种路由请求方法及终端，定时监控各接入应用的资源剩余情况，针对接入应用的各种资源进行计算并获取权重，根据计算好的权重进行倒序排序，对于资源充足的应用，排序位置靠前，客户端只需要按照服务端返回的地址列表，顺序进行长链接建立即可。其中，资源剩余情况包括接入应用的cpu占用率、内存占用率、带宽占用率和接入数量占用率，通过压力测试计算每一接入应用的cpu、内存和带宽的资源占比，根据资源占比得到资源使用权重，从而能够对不同的接入应用动态配置对应的资源使用权重，提高后续长链接剩余可接入数量计算的准确性。通过此种方式，能够在很大程度上，实现按照服务器资源进行负载分流的功能，减少客户端建立长链接失败的可能性，提高服务器的资源利用率；计算长连接资源占用量，能够根据已知的资源信息估算出每一个长连接的资源占用量，能够更精确地根据接入数量进行限流控制。
82.以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等同变换，或直接或间接运用在相关的技术领域，均同理包括在本发明的专利保护范围内。