访问请求的分配方法及装置与流程

1.本技术涉及通信技术领域，尤其涉及一种访问请求的分配方法及装置。


背景技术：

2.随着网络技术的发展，网站或提供网络服务的平台机构随着业务的不断增加，访问其后台服务器的用户也不断增长，因而网站或后台服务端通常是设置有服务集群的结构为用户提供访问服务。但是当大规模用户对服务器集群进行访问时，会存在以下现象：用户发送的访问请求可能需要调用多个服务器，而为了保证访问请求能够被完整响应，在该访问请求未完成之前，该服务器与其他服务器之间的操作逻辑仍都需要该服务器来进行执行，因此服务器集群中的某一个服务器可能会由于与其连接的客户端过多，而导致负载过重，但服务器集群中的其他服务器却闲置。


技术实现要素：

3.本技术实施例提供了一种访问请求的分配方法及装置，能够在保证访问请求被完整响应的同时还能够合理的对服务器集群中的服务器进行分配，使得服务器集群中的每个服务器都能够被充分利用，实现服务器集群的负载分布均衡。
4.第一方面，本技术实施例提供一种访问请求的分配方法，所述方法包括：
5.接收多个访问请求，所述访问请求用于请求执行目标服务；
6.根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器，所述服务器集群包括至少一个服务器，所述至少一个服务器包括所述目标服务器；
7.将所述每个访问请求分别发送给所述目标服务器。
8.第二方面，本技术实施例提供的一种访问请求的分配装置，所述装置包括处理单元和收发单元，其中，
9.收发单元，用于接收多个访问请求，所述访问请求用于请求执行目标服务；
10.处理单元，用于根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器，所述服务器集群包括至少一个服务器，所述至少一个服务器包括所述目标服务器；
11.所述收发单元，还用于将所述每个访问请求分别发送给所述目标服务器。
12.第三方面，本技术实施例提供一种服务器，所述服务器包括处理器、存储器、通信接口，以及一个或多个程序，所述一个或多个程序被存储在所述存储器中，并且被配置由所述处理器执行，所述程序包括用于执行上述第一方面所述的方法中所描述的部分或全部步骤的指令。
13.第四方面，本技术实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储用于电子数据交换的计算机程序，其中，所述计算机程序使得计算机执行上述第一方面所述的方法中所描述的部分或全部步骤。
14.第五方面，本技术实施例提供了一种计算机程序产品，其中，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如本技术实施例第一方面所述的方法中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
15.本技术提供的技术方案，接收多个访问请求，该访问请求用于请求执行目标服务；根据多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配每个访问请求的目标服务器，服务器集群包括至少一个服务器，至少一个服务器包括目标服务器；将每个访问请求分别发送给目标服务器。本技术通过访问请求的发送设备和/或服务器的负载分布来确定目标服务器，能够在保证访问请求被完整响应的同时还能够合理的对服务器集群中的服务器进行分配，使得服务器集群中的每个服务器都能够被充分利用，实现服务器集群的负载分布均衡。
附图说明
16.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
17.图1是本技术实施例提供的一种系统架构示意图；
18.图2是本技术实施例提供的一种访问请求的分配方法的流程示意图；
19.图3是本技术实施例提供的一种响应访问请求的示意图；
20.图4是本技术实施例提供的一种访问请求的分配装置的功能单元组成框图；
21.图5是本技术实施例提供的另一种服务器的结构示意图。
具体实施方式
22.为了本技术领域人员更好理解本技术的技术方案，下面结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本技术的部分实施例，而并非全部的实施例。基于本技术实施例的描述，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术所保护的范围。
23.本技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如，包含了一系列步骤或单元的过程、方法、软件、产品或设备没有限定于已列出的步骤或单元，而是还包括没有列出的步骤或单元，或还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
24.在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
25.请参阅图1，图1是本技术实施例提供的一种系统架构示意图，如图1所示，本技术实施例适用的系统架构包括用户设备110和服务器集群120，所述服务器集群120可以包括多个服务器，例如图1中示出的服务器121、服务器122和服务器123。用户设备110可以与服
务器121、服务器122、服务器123通过网络进行通信，例如，用户设备向服务器121、服务器122、服务器123中的任一服务器发送访问请求以执行目标服务。当该访问请求请求的目标服务需要调用多个服务器时，接收该访问请求的服务器可以根据该访问请求与其他服务器进行数据交互。
26.请参阅图2，图2为本技术实施例提供的一种访问请求的分配方法流程示意图，应用于如图1所示的任一服务器。如图2所示，该方法包括如下步骤。
27.s210、接收多个访问请求，所述访问请求用于请求执行目标服务。
28.当因业务需求，用户需要获取服务时，用户可通过客户端可以向服务器集群中的服务器发送访问请求。服务器接收到每一个请求进来后，可以根据其请求的目标服务确定需要执行的步骤，进而根据执行的步骤确定其他服务器。
29.s220、根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器，所述服务器集群包括至少一个服务器，所述至少一个服务器包括所述目标服务器。
30.其中，所述客户端可以为智能手机、个人电脑等智能终端，所述服务器集群中的服务器可以为前端连接服务器集群中的服务器和/或后端服务器集群中的服务器等。以前端连接服务器集群为例，当用户通过客户端登录时，用户的客户端可以向前端服务器集群中距离客户端最近的服务器发送登录请求，最近的服务器在接收到所述登录请求后，可向前端数据库中查询前端服务器集群中的服务器的负载分布和所服务的功能，以确定合适的服务该登录请求的请求链路，然后将该登录请求转发至目标服务器，目标服务器接收到该请求后向后台的服务器查询登录请求中携带的账号和密码是否正确，进而返回请求结果。
31.可选的，所述方法还包括：若所述第一访问请求的发送设备为客户端，获取所述服务器集群的负载列表，所述负载列表包括至少一个负载分布小于或等于负载阈值的服务器；根据所述负载列表确定所述第一访问请求的目标请求链路，所述目标请求链路包括所述目标服务器；建立所述目标请求链路与所述第一标识的映射关系。
32.在本技术中，所述服务器负载分布可包括每一个服务器的已建立连接的链接数量。其中默认每个客户端的资源消耗程度在大数据量的情况下是相同的，所以服务器的已建立通信连接的链接数量可以反映服务器当前的负载分布。当接收到服务器发送的连接信息时，可对该服务器建立通信连接的链接数量加1，该连接信息可包括该服务器的名称以及该服务器建立连接的进程标识；当接收到该服务器发送的断开信息时，可对该服务器的建立连接的链接数量减1，该断开信息中可包括该服务器的名称和该服务器断开连接的进程标识。
33.其中，数据库中可存储一张负载列表，该负载列表中可包含满足负载要求的服务器。当某一服务器当前的负载上升且达到负载阈值时，可将该服务器从满足负载要求的服务器(即负载列表)中删除；当某一服务器当前的负载下降且低于所述负载阈值时，可将该服务器增加到满足负载要求的服务器(即该负载列表)中。
34.可选的，所述根据所述负载列表确定所述第一访问请求的目标请求链路，包括：确定执行所述目标服务所调用的服务列表，所述服务列表包括n个子服务，所述n为正整数；从所述负载列表中选取出具备执行所述子服务所的服务器，并将每个子服务对应的一个服务器组成候选请求链路，得到多条候选请求链路；计算所述多条候选请求链路中每条候选请
求链路的成本价，根据所述成本价确定所述目标请求链路。
35.在实际应用中，实现一个业务服务时，一个业务服务中包括多个子服务，每个子服务需要调用一个或多个服务器，因此一个访问请求可能需要依次调用多个服务器来执行完成。因此在接收到客户端发送的访问请求时，该服务器可根据服务器集群的负载分布，为该访问请求分配合适的请求链路，以实现服务器集群的负载分布均衡。
36.示例的，服务器在接收到客户端发送的访问请求时，可从数据库中获取负载列表，从负载列表中选取出可实现子服务的服务器，将每个子服务对应一个服务器组成候选请求链路，得到多条候选请求链路，每条候选请求链路可完成该访问请求所请求的目标服务。然后计算每条候选请求链路的成本价，该成本价可以通过每个服务器的负载分布以及候选请求链路中的每个服务器的传输延迟来表示，具体可以表示为：其中a、b分别为负载分布和传输延迟的权重系数，所述a和b均为正数，所述pi为候选请求链路中第i个服务器的已建立连接的链接数量，所述qi为所述候选请求链路中第i个服务器从发送访问请求到接收响应的时间。最后从该多条候选请求链路中将成本价最小的获选请求链路确定为目标请求链路。
37.示例地，若接收到客户端发送的访问请求的服务器在所述负载列表中，则优先将该服务器所在的候选请求链路确定为目标请求链路，即包含接收到访问请求的服务器的候选请求链路的优先级最高。
38.举例说明，假设可以执行a服务的服务器有a1、a2和a3、执行b服务的服务器有b1、b2和b3、执行c服务的有服务器c，用户设备a发送访问请求以请求执行登录服务，该登录服务需要依次调用a服务、b服务和c服务。因此访问请求的调用顺序为a服务-》b服务-》c服务，其候选请求链路可包括a1-b1-c、a1-b2-c、a1-b3-c、a2-b1-c、a2-b2-c、a2-b3-c、a3-b1-c、a3-b2-c、a3-b3-c，其中a1、a2、a3、b1、b2、b3已建立连接的链接数量分别为3、4、6、1、4、2，a1-b1、a1-b2、a1-b3、a2-b1、a2-b2、a2-b3、a3-b1、a3-b2、a3-b3的传输延迟分别为0.1、0.15、0.1、0.2、0.25、0.1、0.13、0.21、0.15，在a取0.8，b取0.2的情况下，计算得到候选请求链路中成本价最小的为a1-b1-c，因此将a1-b1-c确定为目标请求链路。
39.可选的，所述根据所述成本价确定所述目标请求链路，包括：获取所述客户端的用户等级和所述目标服务的业务等级；根据所述用户等级和所述业务等级确定所述访问请求的优先等级；计算所述多条候选请求链路的成本价的平均值和方差；根据所述平均值和方差将所述多条候选请求链路进行等级划分，得到多个候选链路组，每个候选链路组包括至少一个候选请求链路；从所述多个候选链路组中确定目标链路组，所述目标链路组的等级与所述访问请求的优先等级存在映射关系；将所述目标链路组中任一候选请求链路确定为所述目标请求链路。
40.在实际应用中，不同的业务会有不同的优先等级，用户也会有不同的优先等级，为了使高优先级用户或高优先级的业务所请求的服务能够被尽快响应，服务器可根据客户端的用户等级和/或目标服务的业务等级来确定访问请求的目标请求链路。
41.具体地，服务器可预先存储每个服务对应的业务等级，当接收到客户端发送的访问请求时，服务器可获取该客户端的用户等级以及该访问请求所请求的目标服务的业务等级。然后计算该访问请求的优先等级，所述优先等级的计算公式可以表示为。其中w
为用户等级，所述为业务等级，所述c为常数。
42.进一步地，为了将多条候选请求链路进行同等划分，可以计算该多条候选请求链路的成本价的平均值和方差，根据平均值和方差确定所述访问请求的等级范围，例如，根据方差与等级划分方式的映射关系，将所述多条候选请求链路划分成多个等级，得到多个候选链路组，每个等级对应一个候选链路组，每个候选链路组包括至少一个候选请求链路，计算所述平均值与所述访问请问的成本价的第一差值，根据差值与等级之间的映射关系确定所述第一差值所对应的目标等级，将所述目标等级对应候选链路组确定为目标链路组。然后为了使服务器的负载分布均衡，从目标链路组中随机选择一个候选请求链路作为目标请求链路。
43.在本技术中，服务器可接收来自不同发送设备的访问请求，接收该访问请求的服务器可通过spring拦截器统一对访问请求进行拦截，然后区分该访问请求的方式。当该访问请求来自客户端时，服务器需要根据该访问请求所请求的服务以及当前服务器集群的负载请求为该访问请求分配适合的目标服务器以执行目标服务；当该访问请求来自与服务器集群中的其他服务器时，该服务器与该请求链路上的下一服务器进行交互。
44.可选的，所述根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器，包括：若第一访问请求的发送设备为客户端，则将第一标识分配给所述第一访问请求，并从所述服务器集群中将满足负载要求的服务器确定为所述目标服务器，所述多个访问请求包括所述第一访问请求，所述第一标识为新创建的所述目标服务的进程标识；若所述第一访问请求的发送设备为服务器，则获取所述第一访问请求的第二标识，根据标识与服务器之间的映射关系，将所述第二标识对应的服务器确定为所述目标服务器，所述第二标识为执行所述目标服务的进程标识。
45.具体地，当服务器接收到一个新的访问请求时，服务器可根据当前服务器集群的分布请求，为客户端分配一个满足负载要求且具备目标服务功能的目标服务器，以使得服务器集群中的每个服务器都能够被充分利用，实现服务器集群的负载分布均衡。进一步地，服务器还可以为该新的访问请求分配一个新的标识atomic_intege，该标识atomic_integer具有原子性，以使其他服务器接收该标识作负载均衡策略，保证客户端发送的访问请求在服务器之间的标识都是同一个，使得执行目标服务发送的请求可以打在一个服务器上，从而保证访问请求被完整响应。当服务器接收到其他服务器发送的访问请求时，由于服务器之间的调用会在请求头上维护一个标识atomic_intege，通过该标识atomic_intege可以确定该访问请求的目标进程，进而根据该目标进程就可以确定该请求链路上的下一目标服务器。
46.举例说明，如图3所示，可以执行a服务的服务器有a1、a2和a3、执行b服务的服务器有b1、b2和b3、执行c服务的有服务器c，用户设备a发送访问请求以请求执行a服务时，该访问请求的请求链路为a服务-》b服务-》c服务。当服务器a1、服务器b1和服务器c满足该访问请求的负载需求，则可将客户端发送的访问请求发送给服务器a1，服务器a1接收到该访问请求后，由于服务器a1需要调用b服务，且服务器a1调用b服务需要三个步骤，因此服务器a1在接收到该访问请求后可向具有b服务的服务器b1发起请求，并且当服务器a1的请求打在服务器b1上时，则这个进来的请求在没完成之前的其他逻辑都需要要打在服务器b1上，即
服务器a1发送的访问请求1、访问请求2和访问请求3都需要向服务器b1发起。进一步地，服务器b1需要调用c服务，且调用c服务需要两个步骤，因此服务器b1在接收到服务器a1的数据请求后可向具有c服务的服务器c发起请求，同理，当服务器b1的请求打在服务器c上时，则这个进来的请求在没完成之前的其他逻辑都需要要打在服务器c上，即服务器b1发送的访问请求1和访问请求2都需要向服务器c发起。当服务器a1接收到服务器b1针对访问请求3的响应时，该访问请求才完成，然后由a1服务器将执行结果发送给用户设备，从而使得在单一的系统架构中也可以使得一个访问请求打在同一个服务器上，以保证访问请求被完整响应。
47.又例如，当服务器a1、服务器b2和服务器c满足该访问请求的负载需求，则可将客户端发送的访问请求发送给服务器a1，服务器a1接收到该访问请求后调用需要调用b服务，服务器a1依次向服务器b2发送访问请求1、访问请求2和访问请求3；服务器b2接收到服务器a1发送的访问请求后，需要调用c服务，并依次向服务器c发送访问请求1和访问请求2。
48.又例如，当服务器a3、服务器b3和服务器c满足该访问请求的负载需求，则可将客户端发送的访问请求发送给服务器a3，服务器a3接收到该访问请求后调用需要调用b服务，服务器a3依次向服务器b3发送访问请求1、访问请求2和访问请求3；服务器b3接收到服务器a3发送的访问请求后，需要调用c服务，并依次向服务器c发送访问请求1和访问请求2。
49.可选的，所述方法还包括：若所述第一访问请求的发送设备为服务器，获取所述第一访问请求的第一值，所述第一值用于指示所述第一访问请求在所述目标服务的逻辑执行顺序；对所述第一值执行第一操作。
50.其中，所述第一操作为增值操作，服务器之间的交互会维护一个标识atomic_integer，以保证同一个目标服务的多个请求可以打在同一服务器上。服务器发送的访问请求中还会携带第一值，该第一值用于指示服务器执行目标服务的逻辑执行顺序。该服务器在执行目标服务过程中每接收到相同标识atomic_integer的访问请求时，可以对该第一值进行加1操作，以保证不会重复接收访问请求的问题。例如，图3中的访问请求1、访问请求2和访问请求3都需要打在服务器b1上，且访问请求1、访问请求2、访问请求3的第一值依次递增。
51.s230、将所述每个访问请求分别发送给所述目标服务器。
52.在本技术实施例中，在确定了访问请求后，可将该访问请求发送给目标服务器，从而调用目标服务器对访问请求进行处理，以向提供目标服务。
53.可选的，所述方法还包括：获取所述客户端的第一信息，所述第一信息包括在第一时长内发送的所述访问请求的次数和每次所述访问请求对应的目标服务；根据所述第一信息更新感兴趣信息列表，所述感兴趣信息列表包括至少一个感兴趣程度大于预设值的目标服务；从所述服务器集群中获取第一数据集，所述第一数据集包括所述感兴趣信息列表中的所述目标服务对应数据；将所述第一数据集发送给所述客户端。
54.其中，一些服务平台或网站会推出一些活动或内容推荐给用户，让用户参加或浏览以提高用户留存率。因此服务器可以维护一张用户感兴趣信息列表，该感兴趣信息列表可以包括用户感兴趣(即经常请求的服务)的服务，并且可以实时进行更新。具体是统计在预设时间内客户端发送的请求的次数以及其请求的目标服务，将请求次数超过预设值的目标服务认为是用户感兴趣程度较大的服务，因此将该目标服务添加至感兴趣信息列表，并
将该感兴趣信息列表中感兴趣程度小于或等于预设值的目标服务删除，从而使得感兴趣列表中实时存储用户感兴趣的服务。
55.可以看出，本技术提出了一种访问请求的分配方法，接收多个访问请求，该访问请求用于请求执行目标服务；根据多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配每个访问请求的目标服务器，服务器集群包括至少一个服务器，至少一个服务器包括目标服务器；将每个访问请求分别发送给目标服务器。本技术通过访问请求的发送设备和/或服务器的负载分布来确定目标服务器，能够在保证访问请求被完整响应的同时还能够合理的对服务器集群中的服务器进行分配，使得服务器集群中的每个服务器都能够被充分利用，实现服务器集群的负载分布均衡。
56.上述主要从方法侧执行过程的角度对本技术实施例的方案进行了介绍。可以理解的是，网络设备为了实现上述功能，其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到，结合本文中所提供的实施例描述的各示例的单元及算法步骤，本技术能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用使用不同方法来实现所描述的功能，但是这种实现不应认为超出本技术的范围。
57.请参阅图4，图4是本技术实施例提供的一种访问请求的分配装置400的功能单元组成框图，所述装置400包括：收发单元410和处理单元420，其中，
58.所述收发单元410，用于接收多个访问请求，所述访问请求用于请求执行目标服务；
59.所述处理单元420，用于根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器，所述服务器集群包括至少一个服务器，所述至少一个服务器包括所述目标服务器；
60.所述收发单元410，还用于将所述每个访问请求分别发送给所述目标服务器。
61.可选的，在根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器方面，所述处理单元420具体用于：若第一访问请求的发送设备为客户端，则将第一标识分配给所述第一访问请求，并从所述服务器集群中将满足负载要求的服务器确定为所述目标服务器，所述多个访问请求包括所述第一访问请求，所述第一标识为新创建的所述目标服务的进程标识；若所述第一访问请求的发送设备为服务器，则获取所述第一访问请求的第二标识，根据标识与服务器之间的映射关系，将所述第二标识对应的服务器确定为所述目标服务器，所述第二标识为执行所述目标服务的进程标识。
62.可选的，所述处理单元420，还用于若所述第一访问请求的发送设备为服务器，获取所述第一访问请求的第一值，所述第一值用于指示所述第一访问请求在所述目标服务的逻辑执行顺序；对所述第一值执行第一操作。
63.可选的，所述处理单元420，还用于若所述第一访问请求的发送设备为客户端，获取所述服务器集群的负载列表，所述负载列表包括至少一个负载分布小于或等于负载阈值的服务器；根据所述负载列表确定所述第一访问请求的目标请求链路，所述目标请求链路包括所述目标服务器；建立所述目标请求链路与所述第一标识的映射关系。
64.可选的，在根据所述负载列表确定所述第一访问请求的目标请求链路方面，所述处理单元420具体用于：确定执行所述目标服务所调用的服务列表，所述服务列表包括n个子服务，所述n为正整数；从所述负载列表中选取出具备执行所述子服务所的服务器，并将每个子服务对应的一个服务器组成候选请求链路，得到多条候选请求链路；计算所述多条候选请求链路中每条候选请求链路的成本价，根据所述成本价确定所述目标请求链路。
65.可选的，在根据所述成本价确定所述目标请求链路方面，所述处理单元420具体用于：获取所述客户端的用户等级和所述目标服务的业务等级；根据所述用户等级和所述业务等级确定所述访问请求的优先等级；计算所述多条候选请求链路的成本价的平均值和方差；根据所述平均值和方差将所述多条候选请求链路进行等级划分，得到多个候选链路组，每个候选链路组包括至少一个候选请求链路；从所述多个候选链路组中确定目标链路组，所述目标链路组的等级与所述访问请求的优先等级存在映射关系；将所述目标链路组中任一候选请求链路确定为所述目标请求链路。
66.可选的，所述处理单元420，还用于获取所述客户端的第一信息，所述第一信息包括在第一时长内发送的所述访问请求的次数和每次所述访问请求对应的目标服务；根据所述第一信息更新感兴趣信息列表，所述感兴趣信息列表包括至少一个感兴趣程度大于预设值的目标服务；从所述服务器集群中获取第一数据集，所述第一数据集包括所述感兴趣信息列表中的所述目标服务对应数据；
67.所述收发单元410，还用于将所述第一数据集发送给所述客户端。
68.应理解，这里的装置400以功能单元的形式体现。这里的术语“单元”可以指应用特有集成电路(application specific integrated circuit，asic)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。在一个可选例子中，本领域技术人员可以理解，装置400可以具体为上述实施例中的服务器，装置400可以用于执行上述方法实施例中与服务器对应的各个流程和/或步骤，为避免重复，在此不再赘述。
69.上述各个方案的装置400具有实现上述方法中服务器执行的相应步骤的功能；所述功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块；例如收发单元410可以由发送机替代、处理单元420可以由处理器代替，分别执行各个方法实施例中的收发操作以及相关的处理操作。
70.在本技术的实施例，装置400也可以是芯片或者芯片系统，例如：片上系统(system on chip，soc)。对应的，收发单元可以是该芯片的收发电路，在此不做限定。
71.请参阅图5，图5是本技术实施例提供的一种服务器的结构示意图，该服务器包括：一个或多个处理器、一个或多个存储器、一个或多个通信接口，以及一个或多个程序；所述一个或多个程序被存储在所述存储器中，并且被配置由所述一个或多个处理器执行。
72.上述程序包括用于执行以下步骤的指令：
73.接收多个访问请求，所述访问请求用于请求执行目标服务；
74.根据所述多个访问请求中每个访问请求的发送设备和/或服务器集群中的服务器负载分布，分配所述每个访问请求的目标服务器，所述服务器集群包括至少一个服务器，所述至少一个服务器包括所述目标服务器；
75.将所述每个访问请求分别发送给所述目标服务器。
76.其中，上述方法实施例涉及的各场景的所有相关内容均可以援引到对应功能模块的功能描述，在此不再赘述。
77.应理解，上述存储器可以包括只读存储器和随机存取存储器，并向处理器提供指令和数据。存储器的一部分还可以包括非易失性随机存取存储器。例如，存储器还可以存储设备类型的信息。
78.在本技术实施例中，上述装置的处理器可以是中央处理单元(central processing unit，cpu)，该处理器还可以是其他通用处理器、数字信号处理器(dsp)、专用集成电路(asic)、现场可编程门阵列(fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
79.应理解，本技术实施例中涉及的“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b的情况，其中a,b可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指的这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a,b,或c中的至少一项(个)，可以表示：a,b,c,a-b,a-c,b-c,或a-b-c，其中a,b,c可以是单个，也可以是多个。
80.以及，除非有相反的说明，本技术实施例提及“第一”、“第二”等序数词是用于对多个对象进行区分，不用于限定多个对象的顺序、时序、优先级或者重要程度。例如，第一信息和第二信息，只是为了区分不同的信息，而并不是表示这两种信息的内容、优先级、发送顺序或者重要程度等的不同。
81.在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。结合本技术实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器执行存储器中的指令，结合其硬件完成上述方法的步骤。为避免重复，这里不再详细描述。
82.本技术实施例还提供一种计算机存储介质，其中，该计算机存储介质存储用于电子数据交换的计算机程序，该计算机程序使得计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。
83.本技术实施例还提供一种计算机程序产品，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
84.需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本技术并不受所描述的动作顺序的限制，因为依据本技术，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本技术所必须的。
85.在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部
分，可以参见其他实施例的相关描述。
86.在本技术所提供的几个实施例中，应该理解到，所揭露的装置，可通过其它的方式实现。例如，以上所描述的装置实施例仅是示意性的，例如上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性或其它的形式。
87.上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本技术实施例方案的目的。
88.另外，在本技术各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
89.上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储器中。基于这样的理解，本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储器中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者trp等)执行本技术各个实施例方法的全部或部分步骤。而前述的存储器包括：u盘、只读存储器(rom，read-only memory)、随机存取存储器(ram，random access memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
90.本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序指令相关的硬件来完成，该程序可以存储于一计算机可读存储器中，存储器可以包括：闪存盘、rom、ram、磁盘或光盘等。
91.以上对本技术实施例进行了详细介绍，本文中应用了具体个例对本技术的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本技术的方法及其核心思想；同时，对于本领域的一般技术人员，依据本技术的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本技术的限制。