java – Tomcat零星延迟

我一直在微观优化我们在Tomcat上的页面响应时间,几乎在所有情况下,如果我反复刷新,我将看到50ms的响应时间,但如果页面没有被击中一两秒,则响应时间会跳回来到500ms.

我看到了同样的行为,无论是本地的,不是本地的,APR,NIO,JIO,静态或动态响应(即提供静态文件或动态处理响应).到目前为止,我还没有看到这种行为在Tomcat上没有发生(无论频率如何,这都是一致的400ms).

我也使用Visual VM来查看是否有任何线索.

我认为这是一种保持活力,但是当我运行Apache Bench时,我的响应时间更快(超过50ms)(显然是因为它频繁地击中它).

那么如何在Tomcat中保持低延迟不频繁命中的URL？也许这个问题更适合ServerFault？

更新：我几乎肯定它是一个Tomcat 6问题.我以为我已经在Tomcat 7上进行了测试,但我刚刚对它进行了测试并且没有问题(见下面的结果).即使是最新的Tomcat 6仍然存在这个问题.

这是Tomcat 6的ab输出(注意最大值)：

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.0      0       0
Processing:    14   39  45.2     30     314
Waiting:       14   38  45.2     30     314
Total:         14   39  45.2     30     314

这是Tomcat 7的ab输出通知最大值：

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.0      0       0
Processing:    25   38   8.8     37      67
Waiting:       25   37   8.7     36      66
Total:         25   38   8.8     37      67

Tomcat版本是唯一的区别(相同的机器,相同的JDK等…).

我确信最新的Tomcat 6会很好但是在第一次请求时它有类似的延迟.

偷看tomcat代码我决定在理论上搜索“Weak”这个词,你的问题是当你没有快速重新请求时收集弱引用的东西.

我想出了以下猜测……我找到了这个有趣的课程：

http://svn.apache.org/viewvc/tomcat/tc6.0.x/trunk/java/javax/el/BeanELResolver.java?revision=1027187&view=markup

它似乎维护了BeanProperties对象的缓存,其中一部分由WeakHashMap处理,每当缓存填满时,所有内容都放在WeakHashMap中并且可以被垃圾收集.如果请求弱地图中的项目,则将它们放回主地图中(这不是弱点).如果您的页面在处理结束时突然发生此行为(通过添加类似BeanProperties中缓存大小的内容,您最终可能会丢弃几乎所有缓存的bean描述.

方便地,有一个属性可以调整：

private static final String CACHE_SIZE_PROP =
    "org.apache.el.BeanELResolver.CACHE_SIZE";

所以也许尝试使用它,看看它是否会影响行为？然而,这可能不是它,因为我在Tomcat 7中没有看到这个类中的大变化(快速查看),你说你的问题消失了. (你在之前的调整工作中是否一直在调整这个属性？)