如何处理过多的交通

Question

我为之工作的公司在不久的将来会有一个活动，我们相信这会产生3到4倍的流量，这是我们过去处理过的任何事情的3-4倍，我不确定有什么最好的方法来应对如此巨大而突然的增长。几个月前，我们举行了一次活动，当天产生了大约15,000次会议，我们的系统基本上崩溃了，我们的客户服务团队花了两周的时间才从所有已被取消或不适当完成的订单中清理出混乱的局面。

自那时以来，我们已经大幅增加了硬件规格，但如果我们能够处理25000次会议而没有任何问题，我将印象深刻。我们已经为我们的云计算主机提供了最大的SQL服务器，并且我们计划增加过多的web服务器。因此，考虑到我们预期的45000到6万，我想知道我是否应该开始为最坏的计划。

我的想法是，我想把允许的连接数量限制在一个较低的数目，我知道我们可以处理，然后把它从那里拉上来，直到我开始看到裂缝，然后保持稳定。我考虑通过负载均衡器来实现这一点，但它似乎不支持它，这意味着我必须在各个服务器上配置它。

TLDR:

这里有一些基本的问题

1. 限制交通以防止崩溃甚至是一个有效的想法吗？有什么好的管理员会这样做吗？
2. 负载均衡器能限制到每个服务器的连接吗？如果不是，那么通过在每个web服务器上限制它是最好的方法吗？
3. 如果我将每个web服务器的连接限制在200个，那么当负载均衡器尝试发送201st连接时会发生什么？它是被丢弃，还是重定向到另一个连接较少的服务器？

Answer 1

首先，我会准确地找出您的服务器限制是什么，这样您就有了难以处理的数据。Apache为压力测试开发了一个基准测试工具(当然，我假设您正在使用Apache，但其他web服务器也有类似的实用程序) https://httpd.apache.org/docs/2.4/programs/ab.html

为了总体上帮助您的系统，我建议您尽可能多地使用CDN。通过将静态元素的重复请求卸载到其他服务器，这可以大大减少连接的总数。

然后，在缓存服务器端进行优化。也许是清漆，但这在很大程度上取决于您正在使用的堆栈。