Web API 极高负载保护

Question

假设我有一个可以处理 100 个请求/秒的 web api。一次，有 10000 个请求/秒命中我的 API 并崩溃了。它一年只发生一次，我们不知道为什么会发生。

那么，作为开发人员，当我们设计 API 时，我们应该考虑这样的场景吗？API 是否应该由这样的峰值负载来监督？如果是，应该由哪一层来做以及如何做？

Answer 1

那么，作为开发人员，当我们设计 API 时，我们应该考虑这样的场景吗？

是的。

API 是否应该由这样的峰值负载来监督？

是的。

如果是，应该由哪一层来做以及如何做？

它最好由服务器（例如 IIS）处理，但您也可以在服务层中处理它。要搜索的术语是"速率限制"和"请求限制"。SO上有几个点击可以让你开始。如果您使用的是 IIS，还可以搜索"IIS 动态 IP 限制"。