负载均衡器的负载

Question

在我们的TCP服务器部署中，我们有负载均衡器，所有客户端最初都连接到该负载均衡器。然后，负载均衡器为它们中的每一个提供它们应该连接到的实际服务器IP地址。然后，客户端断开与负载均衡器的连接，并继续使用TCP连接到它们已获得的服务器IP地址。因此，负载分布在服务器之间。

对于成千上万的连接，这种安排工作得很好。但我们担心这是否适用于数百万的连接数量？负载均衡器本身将无法及时满足所有这些客户端的服务器IP地址，这是我们的噩梦。这里有什么替代方案？

Answer 1

这真的取决于你正在使用的负载均衡器是否能够满足你的需求。一些负载均衡器可以进行数百万次L4连接。此外，我不认为让连接直接连接到服务器是一个好主意，因为如果服务器变得不可用，连接会发生什么情况。我会让所有的流量都转到负载均衡器。您还可以考虑直接服务器返回，即来自客户端的请求通过负载均衡器，响应直接到达客户端(绕过负载均衡器)。