我正在构建一个应用程序,它通过websocket接受输入,该输入必须被共享回可能连接到其他前端服务器的其他客户端。
为了简单起见,设想一个多用户、多房间的聊天应用程序。将输入路由到正确的连接不是问题,而是服务器之间的消息传递,并且能够扩展该消息并控制消息的延迟。
现在我有一个代理进程,每个前端都连接到它,然后它们订阅一个队列,以获取它的连接可能需要了解的任何信息。这样做是为了减少从代理接收消息,而这些消息永远不会被前端使用。但是,我仍然收到大约75%到85%的消息从代理发送回每个前端。
在旅途中,我正在做消息验证、解析和任何其他业务逻辑工作。在旅途中,我遍历订阅的本地数组,并将消息发送到每个订阅的连接。
例如:如果我在11个前端服务器上收到10条消息,这大约是(总共110条消息- 10条消息在本地处理,而不是由代理发回)* 0.75乐观订阅级别= 75条消息被发送回每台服务器进行处理。因此,在这段时间内,每台服务器处理10个本地+ 75个代理= 85个消息。
现在我不会有11个前端服务器,100 msg/秒,也许两个,但是代理进程发送回每个前端服务器的消息似乎会爆炸式增长,我在其他前端服务器上收到的消息越多。
代理进程是一个与RabbitMQ和PostgreSQL通信的小型node.js应用程序。前端服务器也是node.js应用程序。
我可以做什么,或者我应该做些什么,以在高数据量期间保持低延迟?
更新为回复用户评论:虽然我预计队列之间会有很多重叠,但连接将导致其前端服务器订阅,但我不希望每个服务器都有100%的重叠。最糟糕的情况是,每个前端服务器都必须订阅代理上的每个队列,从而从代理获得100%的消息。乐观地说,只有大约75%的消息真正需要发送回任何特定的前端服务器。
itaifrenkel的第二次更新:两个用户发送的消息可能会以不同的顺序返回。只有在延迟非常低的情况下才是可以接受的,并且只有在消息彼此非常接近的情况下才会发生这种情况。如果它是在消息间隔几秒的情况下发生的,那么我会说我们在延迟和规模方面存在问题。
有一种情况下,我们需要显示历史记录,但我省略了这一点,因为我觉得这超出了问题的范围。
发布于 2014-01-14 23:14:56
消息队列解决方案听起来像是正确的选择。正如您在标题中建议的那样,要扩展它,您需要水平移动。
我还没有使用过RabbitMQ,所以我不能详细地介绍它,但是水平缩放意味着一个集群,所以http://www.rabbitmq.com/clustering.html可能已经足够让您开始工作了。
发布于 2014-01-16 05:49:22
让我们假设每个用户在任何时候都只连接到一个聊天室。这意味着一个websocket连接=一个聊天室。因此,您可以编写一个额外的node.js反向代理,它将把每个用户连接转发到“前端”node.js进程,该进程很可能已经在监听该聊天室的事件(使用基于聊天室id的一致散列的聊天室亲和性)。这种路由算法需要尽最大努力来提高网络利用率,它不需要完美。
现在让我们允许每个用户在多个聊天室中。然后,您需要改进反向代理,以连接到多个“前端”服务器,并将结果多路传输回用户。
这种设计将以网络延迟为代价提供水平可伸缩性。
注意:当然,新的反向代理现在是前端服务器,但当我提到“前端”时,我指的是您在问题中描述的服务器。
https://stackoverflow.com/questions/21114863
复制相似问题