设计可以处理数百万个请求的 Rest API

Question

今天我在面试中被问到。我将如何设计一个可以处理数百万个请求的 rest api。在设计 rest API 时，我需要做一些特别的事情吗？我想如果有什么问题，我会创建线程。这个答案是什么。

Answer 1

这个答案应该作为一个回应：

为了处理"数百万个请求"，系统必须部署在负载平衡器后面的多个Web服务器上，该负载平衡器将在每个负载平衡器之间进行轮询。

如果系统遇到数据存储，则应使用二级缓存(EHCACHE、内存缓存等(来减少数据存储上的负载。