AWS负载平衡器如何影响响应时间



我正在实现一些api的实时招标,它要求我实现一个HTTP服务器。但为了保持它的运行,我必须在100ms内做出反应,它也可以达到每秒50,000个请求,所以我必须将负载均衡器与许多实例放在一起。所以,因为响应时间对我来说非常宝贵,

负载均衡器如何影响这个?

SSL终端会消耗资源(CPU功率)。你可以把它放在负载均衡器或Web服务器上,但无论哪种方式,你都需要考虑你是否真的需要SSL,以及你将使用什么级别的加密。

请记住,如果您要获得流量峰值,您应该预热负载均衡器。

除此之外,负载均衡器不应该真的是延迟的根本原因,它很可能是你的Web服务器变得饱和,所以确保你为你的应用/流量设置了正确的自动缩放指标。

你可以做很多其他的事情来超载你的web服务器需要做的工作(缓存,APC for PHP,移动静态文件到CDN,缓存数据库调用或使用非关系数据库,使用Nginx而不是Apache)

编辑:AWS ELB是自动扩展的。我无法找到有关延迟是什么以及它如何影响响应时间的数据。如果你感兴趣,你可以测试直接击中服务器和击中LB,但我怀疑结果可以忽略不计。使用足够的流量访问LB(或服务器),您将看到响应时间大大增加。

最新更新