什么是P99延迟？

Question

P99延迟代表什么？在关于应用程序性能的讨论中，我不断听到关于这一点的讨论，但在网上找不到可以讨论这一点的资源。

Answer 1

我是99th percentile。这意味着99%的请求应该比给定的延迟更快。换句话说，只有1%的请求被允许变慢。

Answer 2

我们可以通过一个类比来解释它，如果100个学生在跑一场比赛，那么99名学生应该在“延迟”时间内完成比赛。

Answer 3

假设您正在收集服务的性能数据，下表是结果的集合(延迟值是虚构的，用于说明这一想法)。

Latency    Number of requests
1s         5
2s         5
3s         10
4s         40
5s         20
6s         15
7s         4
8s         1

您的服务的P99延迟为7s。只有1%的请求需要更长的时间。因此，如果您可以减少服务的P99延迟，就可以提高其性能。