一种服务器响应时间智能优化方法与系统与流程

1.本发明涉及智能电网领域，尤其涉及一种服务器响应时间智能优化方法与系统与系统。


背景技术：

2.随着智能电网的深入建设与应用，越来越多的用户请求要求电网信通服务器能够提供稳定可靠的服务。信通服务器应用程序需要为每个用户并发多个线程来处理其请求。但这种方法有两个缺点：其一，面对大量的用户请求，创建大量线程的系统开销仍然很大；其二，系统对于维护活动的线程也需要消耗大量的资源。这样导致的结果很可能是，信通服务器应用程序在面对过量的用户服务请求时，由于要创建维护销毁如此多相对应的线程而导致内存等资源耗尽，这样会极大影响到信通服务器的性能。因此，信通服务器应用程序需要一种机制来解决线程频繁创建销毁导致的系统性能下降以及过量客户请求所带来的系统资源耗尽问题。


技术实现要素：

3.本发明所要解决的技术问题是针对现有技术的不足，提供一种服务器响应时间智能优化方法与系统与系统。
4.本发明解决上述技术问题的技术方案如下：
5.一种服务器响应时间智能优化方法与系统，包括以下步骤：
6.s1，分析影响线程池性能的因素，首先要明确如何评价一个线程池的性能。考虑到从用户角度来讲，用户更关心的是提交的任务请求何时能够处理完成并得到响应，因此，评价一个线程池的性能为从用户提交任务请求到任务队列开始至任务在线程池内完成所花费的时间，这个时间称为用户任务响应时间，当线程池处理大量用户任务时，用户任务响应时间取这些用户任务响应时间的平均值。
7.s2，对线程池的运行进行了深入分析的基础上，建立了一个能够反映线程池性能的数学模型；通过所得出的特征量对线程池性能的制约关系，从而确定了根据吞吐量、任务运算时间和任务阻隔时间三个特征量的变化来调整线程池尺寸的线程池性能优化模型。
8.本发明的有益效果是：对线程池的运行进行了深入的分析，在此基础上建立了一个能够反映线程池性能的数学模型；在该分析模型中所得出的特征量对线程池性能的制约关系，从而确定了根据吞吐量、任务运算时间和任务阻隔时间三个特征量的变化来调整线程池尺寸的线程池性能优化模型。
9.在上述技术方案的基础上，本发明还可以做如下改进。
10.进一步地，所述s1具体包括：
11.s11，考虑到从用户角度来讲，用户更关心的是提交的任务请求何时能够处理完成并得到响应，因此，评价一个线程池的性能为从用户提交任务请求到任务队列开始至任务在线程池内完成所花费的时间。
12.s12，需要在线程池尺寸大小上找到一个恰当的平衡点，使得线程池尺寸既不太大又不太小，既考虑用户任务的排队时间还要考虑到线程池内的处理时间，使得这两项的时间和——用户任务的响应时间可以达到最小，也就是线程池的性能达到最优。
13.采用上述进一步方案的有益效果是：对线程池性能的定性分析，给出了线程池性能影响因素的直观认识。
14.进一步地，所述s11具体包括：
15.用户向服务器提交任务请求，任务首先进入任务队列排队。如果线程池中有空闲的线程，则按照优先级将任务队列中的任务交由线程池中的空闲线程进行处理；如果没有空闲线程，则继续在任务队列中等待。最后线程池返回任务处理后的结果给用户。
16.采用上述进一步方案的有益效果是：如果线程池的尺寸比较大，也就是线程池内的线程比较多，那么同一时间可以处理用户任务的请求数就比较多，这样便减少了用户任务在任务队列中的等待时间，但是线程池内较多的线程又必然会带来系统资源竞争的加剧，而导致用户任务由于等待系统资源而被挂起的时间加长，其结果就是增加了用户任务在线程池内的池中处理时间；相反，如果线程池的尺寸设置的比较小，也就是线程池内可用于执行用户任务的线程比较少，必然会降低线程之间对系统资源的竞争，这样有利于用户任务在线程池内较快的执行完成，从而减少了用户任务在线程池内的池中处理时间，但是相对较小的线程池尺寸同时处理的用户任务数也必然会较少，实际上是增加了用户任务在任务队列中的等待时间。
17.进一步地，所述s2具体包括：对线程池性能进行数学建模。考虑用户任务响应时间包括了用户任务在任务队列中的队列等待时间以及任务在线程池中的池中处理时间。设用户任务响应时间为t响应，任务在队列中的排队等待时间为t排队，任务在线程池中的池中处理时间为t池，则t响应＝t 排队 t池。
18.采用上述进一步方案的有益效果是：进一步地，所述对所述预设数学建模具体包括：
19.建立了一个反映线程池性能的数学模型t响应＝h(n，m，t运算，t阻塞)。线程池性能数学模型所确定的四个影响因素，包括吞吐量、任务运算时间、任务阻塞时间和线程池尺寸。吞吐量是从用户任务数量的角度来影响线程池的性能，影响着任务排队的时间；而任务运算时间和任务阻塞时间则代表了单个用户任务的串行和并发的两个方面，同时影响着池中处理时间和任务排队时间。这三个因素与线程池尺寸共同制约着线程池的性能。
20.采用上述进一步方案的有益效果是：确定了根据吞吐量、任务运算时间和任务阻隔时间三个特征量的变化来调整线程池尺寸的线程池性能优化模型。
21.本发明解决上述技术问题的另一种技术方案如下：
22.一种服务器响应时间智能优化系统，包括：线程池性能分析模块和调整线程池尺寸的线程池性能优化模型模块。线程池性能分析模块用于分析影响线程池性能的因素，明确如何评价一个线程池的性能。考虑到从用户角度来讲，用户更关心的是提交的任务请求何时能够处理完成并得到响应，因此，评价一个线程池的性能为从用户提交任务请求到任务队列开始至任务在线程池内完成所花费的时间，这个时间称为用户任务响应时间，当线程池处理大量用户任务时，用户任务响应时间取这些用户任务响应时间的平均值。
23.调整线程池尺寸的线程池性能优化模型模块是建立了一个反映线程池性能的数
学模型t响应＝h(n，m，t运算，t阻塞)。线程池性能数学模型所确定的四个影响因素，包括吞吐量、任务运算时间、任务阻塞时间和线程池尺寸。
24.本发明的有益效果是：根据线程池分析模块深入分析线程池，在此基础上，建立了一个能够反映线程池性能的数学模型；通过所得出的特征量对线程池性能的制约关系，从而确定了根据吞吐量、任务运算时间和任务阻隔时间三个特征量的变化来调整线程池尺寸的线程池性能优化模型。
25.在上述技术方案的基础上，本发明还可以做如下改进。
26.进一步地，所述调整线程池尺寸的线程池性能优化模型模块所述包括：吞吐量对线程池影响模块、任务运算时间对线程池影响模块和任务等待时间对线程池影响模块。
27.吞吐量对线程池影响模块考虑是用户任务数量也就是吞吐量m的影响。当大量的用户请求同时到达时，会给服务器的任务处理造成较大的负担，这也是线程池技术出现的直接原因，但同时也一样会给线程池本身的性能造成较大的负担，影响线程池对于用户任务的处理效率，即用户任务的响应时间，也就是线程池的性能。
28.任务运算时间模块是指从用户任务抢占cpu进行运算执行所需要的时间，是单个任务真正使用cpu的时间。吞吐量是从任务数量上考虑其对线程池性能的影响，而任务运算时间是从单个任务占用cpu时间来考虑其对线程池性能的影响。
29.任务等待时间模块是指任务进入线程池后在执行过程中由于需要等待系统资源阻塞挂起的时间。吞吐量是从用户任务数量上影响线程池的性能，而任务运算时间与任务等待时间则是从单个任务的运行的角度来影响线程池的性能。
30.采用上述进一步方案的有益效果是：线程池性能数学模型所确定的四个影响因素，包括吞吐量、任务运算时间、任务阻塞时间和线程池尺寸。吞吐量是从用户任务数量的角度来影响线程池的性能，影响着任务排队的时间；而任务运算时间和任务阻塞时间则代表了单个用户任务的串行和并发的两个方面，同时影响着池中处理时间和任务排队时间。这三个因素与线程池尺寸共同制约着线程池的性能，为线程池性能调优奠定了基础。
31.进一步地，所述吞吐量对线程池影响模块在相同的吞吐量情况下，不同的线程池尺寸可以得到完全不同的用户任务响应时间，并有一个最优尺寸可以得到最佳的性能，这正是线程池调优的思路所在。通过对线程池尺寸进行适当的调整，来应对吞吐量等不同因素变化对线程池性能的影响。
32.采用上述进一步方案的有益效果是：在给定任务运算时间与任务等待时间的前提下，不同的吞吐量所对应的最佳线程池尺寸的大小是不同的，随着吞吐量的增加，最佳线程池尺寸也在逐渐增加，这与定性分析的预期是相符的，因此，吞吐量是影响线程池性能的因素之一。
33.进一步地，所述调整线程池尺寸的线程池性能优化模型需要考虑是用户任务数量也就是吞吐量m的影响。当大量的用户请求同时到达时，会给服务器的任务处理造成较大的负担，这也是线程池技术出现的直接原因，但同时也一样会给线程池本身的性能造成较大的负担，影响线程池对于用户任务的处理效率，即用户任务的响应时间，也就是线程池的性能。
34.采用上述进一步方案的有益效果是：可得出吞吐量是从用户任务数量的角度来影响线程池的性能，影响着任务排队的时间；而任务运算时间和任务阻塞时间则代表了单个
用户任务的串行和并发的两个方面，同时影响着池中处理时间和任务排队时间。
35.进一步地，所述调整线程池尺寸的线程池性能优化模型包括：吞吐量对线程池影响模块、任务运算时间对线程池影响模块和任务等待时间对线程池影响模块。对于任意不同的三个变量，总会有最后一个变量与之对应，使得用户任务响应时间达到最小，也就是使得线程池的性能达到最优。
36.采用上述进一步方案的有益效果是：影响线程池性能的因素为吞吐量、任务运算时间、任务阻塞时间和线程池尺寸。对于实际情况而言，吞吐量、任务运算时间和任务阻塞时间都属于用户任务部分，是无法强制调整的。而线程池尺寸却可以在线程池程序中动态调整，来适应客观的用户任务变化，达到线程池调优的目的。
37.本发明附加的方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明实践了解到。
附图说明
38.图1为本发明的实施例提供的服务器线程响应时间智能优化方法与系统的流程示意图；
39.图2为本发明的用户任务请求在线程池中的处理流程；
40.图3为本发明的某次线程池性能与尺寸的关系图；
41.图4为本发明的另一次线程池性能与尺寸的关系图；
42.图5为本发明的吞吐量为15时线程池性能与尺寸的关系实验图；
43.图6为本发明的不同的吞吐量与线程池性能的关系图；
44.图7为本发明的不同的吞吐量与最佳线程池尺寸的关系图；
45.图8为本发明的不同任务运算时间与线程池性能的关系图；
46.图9为本发明的任务运算时间与最佳线程池尺寸的关系图；
47.图10为本发明的任务阻塞时间与线程池性能的关系图；
48.图11为本发明的任务阻塞时间与最佳线程池尺寸的关系图；
具体实施方式
49.以下结合附图对本发明的原理和特征进行描述，所举实施例只用于解释本发明，并非用于限定本发明的范围。
50.为了分析影响线程池性能的因素，首先要明确如何评价一个线程池的性能。考虑到从用户角度来讲，用户更关心的是提交的任务请求何时能够处理完成并得到响应，因此，评价一个线程池的性能为从用户提交任务请求到任务队列开始至任务在线程池内完成所花费的时间，这个时间称为用户任务响应时间，当线程池处理大量用户任务时，用户任务响应时间取这些用户任务响应时间的平均值。显然，用户任务响应时间包括了用户任务在任务队列中的队列等待时间以及任务在线程池中的池中处理时间。用户任务请求在线程池中的处理流程如图2所示。
51.具体做法是，用户向服务器提交任务请求，任务首先进入任务队列排队。如果线程池中有空闲的线程，则按照优先级将任务队列中的任务交由线程池中的空闲线程进行处理；如果没有空闲线程，则继续在任务队列中等待。最后线程池返回任务处理后的结果给用
户。
52.因此，如果线程池的尺寸比较大，也就是线程池内的线程比较多，那么同一时间可以处理用户任务的请求数就比较多，这样便减少了用户任务在任务队列中的等待时间，但是线程池内较多的线程又必然会带来系统资源竞争的加剧，而导致用户任务由于等待系统资源而被挂起的时间加长，其结果就是增加了用户任务在线程池内的池中处理时间；相反，如果线程池的尺寸设置的比较小，也就是线程池内可用于执行用户任务的线程比较少，必然会降低线程之间对系统资源的竞争，这样有利于用户任务在线程池内较快的执行完成，从而减少了用户任务在线程池内的池中处理时间，但是相对较小的线程池尺寸同时处理的用户任务数也必然会较少，实际上是增加了用户任务在任务队列中的等待时间。因此，需要在线程池尺寸大小上找到一个恰当的平衡点，使得线程池尺寸既不太大又不太小，既考虑用户任务的排队时间还要考虑到线程池内的处理时间，使得这两项的时间和——用户任务的响应时间可以达到最小，也就是线程池的性能达到最优。
53.对线程池性能的定性分析，给出了线程池性能影响因素的直观认识。下面对线程池性能进行数学建模。考虑用户任务响应时间包括了用户任务在任务队列中的队列等待时间以及任务在线程池中的池中处理时间。设用户任务响应时间为t
响应
，任务在队列中的排队等待时间为t
排队
，任务在线程池中的池中处理时间为t
池
，则t
响应
＝t
排队
t
池
。
54.一个任务在线程池中的处理时间包括任务抢占cpu的运算时间t
运算
和任务因等待系统资源而被挂起的等待时间t
等待
，即t
池
＝t
运算
t
等待
。因此最终用户任务响应时间t
响应
＝t
排队
t
运算
t
等待
。下面分别介绍这三项时间的建模过程。
55.(1)任务排队时间t
排队
56.任务排队时间是指用户任务进入任务队列排队开始至线程池取走任务为止的时间。任务队列示意图如前图1所示，任务队列有一个入口一个出口，分别连接着用户任务和线程池，因此影响用户任务排队时间的因素就只能来自用户任务与线程池。这与水龙头经水管注水入水池的情况很相似，水龙头注水就好比是源源不断到来的用户任务，自来水在水管中的流动好比用户任务在任务队列中的排队，而水池就好比是接受任务的线程池。因此，任务排队时间一方面受来自入口方面用户任务的影响，也就是用户任务的数量即系统吞吐量m，简单的说，系统吞吐量m的值越大，任务排队时间也就越长 (假设队列长度可以满足吞吐量的要求)；另一方面受来自出口方面线程池的影响，也就是线程池在单位时间内能取走多少任务队列中的任务数。线程池方面的影响又包括两个方面，一个是线程池尺寸n，线程池越大，容纳的线程数越多，那么单位时间内从任务队列中取出来的用户任务数也就越多；另一个是线程池内任务的“流速”，也就是用户任务在池内所停留的时间——池内处理时间t
池
。因此，任务排队时间的数学模型为
57.t
排队
＝f(n，m，t
运算
t
等待
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
58.(2)任务运算时间t
运算
59.任务运算时间是指用户任务进入线程池后抢占cpu执行任务所消耗的时间。对于每个用户任务而言，其运算时间可认为是一个常数，与吞吐量、线程池尺寸等其他参数无关，本文实验所用计算机模拟用户任务的十万次加法运算所需时间约为0.31毫秒即t
运算
＝0.31毫秒，因此可令t
运算
＝t
运算
。
60.(3)任务等待时间t
等待
61.任务等待时间是指用户任务在线程池内因为等待系统资源而被阻塞挂起到重新执行所需的时间。它不仅包括因等待系统资源所阻塞消耗的时间t 阻塞
，而且包括阻塞结束进入就绪状态后等待cpu调度的时间。显然，等待 cpu调度的时间与线程池内的线程个数即线程池尺寸n有关，同时也与池内线程占用cpu运算的时间t
运算
有关，这也正是随着线程池尺寸的增大而线程池性能下降的原因，因为各就绪线程等待cpu调度的时间增加了。因此任务等待时间的数学模型可写为
62.t
等待
＝g(n，t
运算
，t
阻塞
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
63.综上所述，反映线程池性能的用户响应时间的数学模型可建为
64.t
响应
＝t
排队
t
运算
t
等待
65.＝f(n，m，t运算 g(n，t
运算
，t
阻塞
)) t
运算
ꢀꢀꢀꢀ
(2)
66.最后可写成
67.t
响应
＝h(n，m，t
运算
，t
阻塞
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)
68.欲使线程池性能达到最优，也就是令用户任务响应时间t
响应
取最小值。则上式取到最小值的必要条件为
69.t
响应
＝h’(n，m，t
运算
，t
阻塞
)＝0
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)
70.这是关于n
best
，m，t
运算
，t
阻塞
的隐函数关系，对于任意不同的三个变量，总会有最后一个变量与之对应，使得用户任务响应时间达到最小，也就是使得线程池的性能达到最优。因此，可以得出，影响线程池性能的因素为吞吐量、任务运算时间、任务阻塞时间和线程池尺寸。对于实际情况而言，吞吐量、任务运算时间和任务阻塞时间都属于用户任务部分，是无法强制调整的。而线程池尺寸却可以在线程池程序中动态调整，来适应客观的用户任务变化，达到线程池调优的目的。
71.通过数学建模确立了四个个影响线程池性能的因素，即吞吐量m，任务运算时间t运算，任务阻塞时间t阻塞以及线程池尺寸。为了验证上述理论分析的影响用户任务响应时间的因素，首先设计线程池性能分析实验来获得相关数据，通过实验来检验上述四种因素的作用。实验的关键是模拟用户任务模块的设计。对于实际当中用户任务请求，一般都可以分成两部分，一部分是对服务器cpu运算的请求，另一部分是对i/o等系统资源的阻塞等待。因此，本文将用户任务对cpu运算的请求设计成数十万次的加法运算来模拟，而对i/o等系统资源的阻塞等待则直接设计成挂起等待来模拟。
72.(1)吞吐量对线程池性能影响
73.对于一个线程池的性能来说，首先需要考虑是用户任务数量也就是吞吐量m的影响。当大量的用户请求同时到达时，会给服务器的任务处理造成较大的负担，这也是线程池技术出现的直接原因，但同时也一样会给线程池本身的性能造成较大的负担，影响线程池对于用户任务的处理效率，即用户任务的响应时间，也就是线程池的性能。
74.图3、图4给出某两次模拟吞吐量为15时对线程池性能影响的结果图，其中用户任务请求模拟为105次加法运算与时长为1毫秒的阻塞等待，并将此任务循环运行5次，来模拟真实环境中用户任务请求需要多次申请cpu 与i/o资源才能运行完成的情况。可以看出用户任务响应时间与线程池尺寸之间并没有所预期的一个关系出现，即用户任务响应时间应该随线程池尺寸的增大会有一个先减小后增大的过程，会在某一线程池尺寸时达到最小值。但是在整体趋势上确实存在一个先减小后增大的趋势，只是在后半段增大过程中，出现
了较为严重的波动。
75.分析其中的原因，是由于线程池在处理用户任务时，实验所用机器不可避免的还会运行其他系统程序，这些系统程序随机抢占了线程池运行的cpu 时间片，而本文所研究的线程池的用户任务响应时间的数量级在毫秒级上，因此会严重干扰用户任务响应时间的精确程度。为了克服随机产生出来的噪声干扰，采用多次实验取平均值的办法来避免。
76.图5给出了采用实验25次取平均值得到的实验结果图，可以看出，采用多次实验取平均值的方法基本消除了线程池运行中其他程序抢占系统资源而随机产生的噪声影响，在线程池尺寸为4的时候用户任务响应时间取到了最小值，并在线程池尺寸大于4的后面，其值略有震荡，逐渐增加，正确反映了线程池尺寸与性能之间的本质联系。因此，本文后续线程池实验结果均采用多次实验取平均值后得到的结果。
77.在相同的吞吐量情况下，不同的线程池尺寸可以得到完全不同的用户任务响应时间，并有一个最优尺寸可以得到最佳的性能，这正是线程池调优的思路所在。通过对线程池尺寸进行适当的调整，来应对吞吐量等不同因素变化对线程池性能的影响。下面通过实验给出不同的吞吐量与线程池性能之间的关系，以说明吞吐量作为影响线程池性能的一个关键因素所起的重要作用。
78.图6所示分别给出了当吞吐量为5、10、15、20和25时不同的线程池尺寸对用户任务响应时间的影响。可以看出，不同的吞吐量都存在一个最佳的线程池尺寸，此时的用户任务响应时间是最小的，小于或者大于这个最佳尺寸，响应时间都有所增加，这与预期的结果是相同的。同时，随着吞吐量的增加，最佳的线程池尺寸也在逐渐向右偏移。
79.不同的吞吐量与最佳线程池尺寸的关系见图7。由图7可以得出结论，在给定任务运算时间与任务等待时间的前提下，不同的吞吐量所对应的最佳线程池尺寸的大小是不同的，随着吞吐量的增加，最佳线程池尺寸也在逐渐增加，这与定性分析的预期是相符的，因此，可以断定，吞吐量是影响线程池性能的因素之一。
80.(2)任务运算时间对线程池性能影响
81.任务运算时间是指从用户任务抢占cpu进行运算执行所需要的时间，是单个任务真正使用cpu的时间。吞吐量是从任务数量上考虑其对线程池性能的影响，而任务运算时间是从单个任务占用cpu时间来考虑其对线程池性能的影响。图8为在吞吐量为15，任务等待时间均为1ms的情况下，不同任务运算时间与线程池性能的关系，分别给出了10万次～50万次加法运算(即任务运算时间)时不同的线程池尺寸与线程池性能之间的关系。可以看出，对于10万次、20万次和30万次的运算任务来说，用户任务响应时间与线程池尺寸的函数关系类似于吞吐量的走势，即随着线程池尺寸的增加，用户任务响应时间先减小，后增加，存在着使线程池性能达到最优的最佳线程池尺寸点。而对于40万次和50万次的运算任务来说，虽然在线程池尺寸 n≥2的情况下也出现了先减小后增加的趋势，但最佳线程池尺寸出现在n＝1 这个位置，也就是说线程池的引入反而不如单线程运行的效率更高。
82.究其原因，当任务运算量较大时，任务的执行主要是依靠cpu的运算来完成，而与抢占其他系统资源所引起的阻塞等待关系较小，因此任务之间的并发性降低而串行性增加。这样使用线程池后在不同任务之间的频繁切换便降低了任务执行的效率，使其性能反而不如串行执行相关任务。图8给出了不同的任务运算时间与最佳线程池尺寸的关系。从图9可以看出，随着任务运算量的增加，最佳线程池尺寸在逐渐减小，直到减小为1，也就是不
使用线程池而只用单线程执行任务的极限状态。因此，可以得出结论，在给定吞吐量与任务等待时间的前提下，任务运算时间与最佳线程池尺寸是存在一定的函数关系的，任务运算时间是影响线程池性能的因素之一。
83.(3)任务等待时间对线程池性能影响
84.任务阻塞时间是指任务进入线程池后在执行过程中由于需要等待系统资源阻塞挂起的时间。吞吐量是从用户任务数量上影响线程池的性能，而任务运算时间与任务等待时间则是从单个任务的运行的角度来影响线程池的性能。图10为在吞吐量为15，任务运算量为10万次加法运算的情况下，不同的任务阻塞时间与线程池性能的关系。图10分别给出了任务阻塞时间为 1ms、6ms、8ms、12ms和15ms时不同的线程池尺寸与线程池性能的关系。可以看出，任务阻塞时间与线程池性能的曲线关系与吞吐量以及任务运算时间的相似，都是随着线程池尺寸的增加，用户任务响应时间先减小后增加。但也有其不同的特点，响应时间减小的过程较其他两个特征量更为快速，而增加的过程则较为缓慢。
85.究其原因，则是由于任务阻塞时间的大小实际上体现了用户任务的并发性，任务阻塞时间越大，则用户任务并发时的效率就越高；反之，则串行的效率越高，这与任务运算时间正好体现了并发与串行这一统一矛盾体的两个方面。随着任务阻塞时间的增大，任务的并发性增强，采用线程池后的优越性便体现出来，因此图10在线程池尺寸从1开始增加到最佳尺寸时，用户任务响应时间有了较大幅度的降低。而线程池尺寸超过最佳尺寸时，对于线程池线程调度的时间开销缓慢抵消了线程并发所带来的性能提升，因此用户任务响应时间有了缓慢的增加。图11给出了不同的任务阻塞时间同最佳线程池尺寸之间的关系。从图11可以看出，随着任务阻塞时间的增加，最佳线程池尺寸也随之增加，直至增加到15(吞吐量)为止，此时线程池尺寸的增加对线程池性能便再无贡献，反而适得其反，因为吞吐量只有这么多。因此，可以得出结论，任务阻塞时间与最佳线程池尺寸同样存在着一定的函数关系，任务阻塞时间是影响线程池性能的因素之一。
86.以上，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。