p99延迟是什么?

Go1.14发布时，Sameer Ajmani 再说明其性能提升时提到一个 p99 延迟，查了资料，但是最近突然想起来又忘记了，这里记录下来。

原文是说：

Some data: improved loaded gRPC server throughput by 15% & reduced p99 latency by 36%; reduced worst-case tail latency by up to 2,000x (429 ms ⇒ 192 us) in application benchmx; reduced latency 25% & improved throughput 20% in application benchmx; improved microbenchmx up to 15%

这里提到 Go1.14下 gRPC p99 延迟降低了 36%。

那什么 p99 延迟？简单而言就是一段时间内，所有请求中最快的 99% 请求平均延迟，同理p95就是快的95%的请求延迟。p99延迟能直观的衡量服务器性能指标。

StackFlow 的一个答案举了一个例子：

Latency    Number of requests
1s         5
2s         5
3s         10
4s         40
5s         20
6s         15
7s         4
8s         1

7秒内完成了 99 个请求，那么 p99 就是 7秒。