AWS/Ruby On Rails/Puma/Nginx 最大请求数

Question

我最近从乘客更改为美洲狮，因为它不断给我"请求限制超出错误"，我在网上读到乘客免费版本不支持多线程。我的后端应用程序托管在两个 AWS c5xlarge 实例上，顶部有弹性负载均衡器。有人可以帮助我解决应该在 puma config 中设置的工作线程数和线程数以及我可以使用这些设置提供的最大并发请求数吗？

Answer 1

你的问题没有明确的答案。这取决于很多参数。

您应该创建一个基准脚本，该脚本从多个进程和/或线程发送大量请求，以及您的服务器是否可以处理来自多个实例的繁重负载，并查看一秒钟内处理了多少请求。

进行此基准测试后，请尝试更改线程和工作线程的数量，以增加使用此基准测试处理的请求数。

我将从一个nginx工作线程开始，线程数作为CPU内核的数量，并根据基准增加或减少。