使用delta管理器的Web Farming[Tomcat]存在性能问题

Question

我们正在进行Web农业（Tomcat）以提高可扩展性和吞吐量。但我们并没有得到预期的结果。

场景1-（独立Tomcat）

Load Generator       Jmeter (One instance)
Server               Tomcat(One instance)
Throughput           21k per second

场景2-（Web服务器场场景）

Load Generator         Jmeter  [Three instances]  
Load Balancer          Nginx 
Server                 Tomcat [3 tomcats on three different machines]
Session Replication    Delta Manager
Throughput             30k per second

Jmeter配置：

No of Threads (users)         1000
Ramp up period (in seconds)   1
Loop count                    forever

现在我们不明白我们做错了什么，因为如果一只tomcat每秒能给出21K，那么3只tomcat在逻辑上应该至少给出50K。我们的tomcat配置如下所示

Server.xml：

<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster" 
                        channelSendOptions="8">
                <Channel className="org.apache.catalina.tribes.group.GroupChannel">
                <Membership   className="org.apache.catalina.tribes.membership.McastService"
                                address="228.0.0.4"
                                port="45564"
                                frequency="500"
                                dropTime="3000"/>
                <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
                <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
                </Sender>
                <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
                                address="XXX.XXX.XXX.90"
                                port="4000"       
                                autoBind="100"
                                selectorTimeout="5000"
                                maxThreads="6"/>
                <Interceptor  className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
                <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/></Channel>
                <Valve className="org.apache.catalina.ha.tcp.ReplicationValve" filter=""/>
                <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>
       <!--<ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>-->
                <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
                </Cluster>

上下文.xml：

<Manager className="org.apache.catalina.ha.session.DeltaManager"
                expireSessionsOnShutdown="false"
                notifyListenersOnReplication="true"/>

Answer 1

我建议您添加一些合理的渐变，而不是保持1秒。

• 你能检查一下你的负载均衡器是否能够在网络农业的情况下处理所有传入的请求吗
• 你能确认两个测试是否在同一个网络中执行吗

在某些情况下，我观察到web服务器/负载均衡器无法处理传入请求，可能会限制吞吐量。还要注意网络农业的资源利用率。如果请求是传入的，那么CPU利用率应该与单个实例相当。