首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >当3k+会话连接时,应用程序无法处理一定数量的RPS

问当3k+会话连接时,应用程序无法处理一定数量的RPS
EN

Software Engineering用户
提问于 2020-05-19 09:28:09
回答 1查看 86关注 0票数 -4

我在我的可伸缩Pub/Sub应用程序中有一个问题,当大量会话针对它打开时,它不能占用超过30个RPS。首先,我将解释应用程序结构。

该应用程序是一个带有200个tomcat线程的弹簧引导嵌入式tomcat。就像我说的,一个Pub/Sub应用程序在负载均衡器后面有多个实例。当用户打开针对应用程序的连接时,它会通过接收到的cookie粘滞到特定的实例。Pub\Sub模式是由redis获得的,它将请求发送到保存收件人会话的实例。

负载均衡器是RR,因此连接在实例之间平均分布。当一个实例拥有超过3k的连接时,事情就开始变慢了。我可以发送的RPS从3000 RPS急剧减少,我可以在连接之前发送到30 RPS与他们。我首先假设问题是可用的tomcat线程太少,但情况并非如此,因为我监视和看到每个实例都没有使用100+空闲的tomcat线程。我找不到罪魁祸首,似乎这与针对实例打开的会话数量有关,但我无法解释原因。顺便说一下,用于维护会话的协议是xhr流。

EN

回答 1

Software Engineering用户

发布于 2020-05-21 02:12:38

你得做很多检查。请注意,分析和性能优化是提出问题和找到答案的艺术。你可以从其中的几个开始:

  1. 哪些资源(几乎)耗尽了?您只检查了一个: Tomcat线程,但是RAM/CPU/HDD IO /网络IO怎么办?
  2. 是否所有服务器实例都使用某种共享资源,比如从同一个DB读取或与负载均衡器连接?这些资源运作良好吗?
  3. 在低负载情况下,请求处理的哪个部分花费的时间最多?在高负荷下?
  4. 当实例在高负载下处理请求时,您是否看到了一些空闲时间?(F.e.,step1需要20 ms,step2需要20 ms,但在更高的层次上,步骤1和步骤2需要50 ms。或者DB的响应需要时间,而应用程序只是在等待)

当你找到答案的时候,你可能会问更多的问题。把它们写下来,然后找到答案。如果你回答了你所有的问题,那么你可能想在这里创建另一个帖子,描述你做了什么调查。这将是更具体的问题--这就是为什么你会得到更准确的答案。

票数 1
EN
页面原文内容由Software Engineering提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://softwareengineering.stackexchange.com/questions/410342

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档