Little 定律与统计口径

本页目录

Little 定律 连接平均在途数量、流量和平均停留时间。它的力量来自一致的记账边界;不要求 Poisson 到达,也不能把平均时间换成 p99。

面积为什么等于累计停留时间

在观察区间 ,请求 对占用曲线的贡献为指示函数 。把请求逐个相加,再积分:

这是逐条轨迹成立的恒等式,没有概率假设。左边单位为请求·s;右边是每个请求在窗口内实际贡献的时间。即使请求在窗口前进入或窗口后离开,交集仍会正确截取贡献。

若窗口开始和结束都为空,期间进入的 个请求全部离开,则:

对稳定系统,在长期到达率和平均停留时间存在、边界剩余贡献除以 趋于零等条件下,得到 。稳态是常用的充分分析框架,不是有限窗口面积恒等式的前提。仅有短时间看起来平稳,并不保证这些极限条件。

截止窗口最容易漏掉什么

本实验到达 s,服务 s。在 s 截止,前两项完成,系统占用面积为 请求·s,所以平均在途为 1.8。只统计已完成请求会得到完成率 ,完成者平均时间 3 s,两者相乘为 1.2;差值来自第三个请求尚未完成的 3 请求·s。

正在呈现知识画面
Little 定律与统计口径 · 实验

固定到达[0,1,2,6] s、服务[3,1,2,1] s。拖动观察终点,比较完整占用面积和仅完成请求的贡献;初始为空,无拒绝。

把终点拖到 7 s 以后,四个请求均已完成,边界贡献变为零。观察窗口继续延长只增加空闲时间,两种计算会一起下降。这说明窗口长度本身也是统计口径的一部分。

工程使用:统一三件事

必须统一边界、请求群、时间范围⁠。稳定连接池的接纳率 200/s,平均持有 40 ms,则平均被占用连接数为 。这是平均占用关系,不表示配置 8 个连接就能满足等待目标;容量等于平均占用会缺少应对波动的余量。

对等待区单独记账,;对整个系统,。若外部 1000/s 中只有 800/s 被接纳,内部指标应使用 800/s。退出含失败或取消时,停留时间也必须覆盖同一批退出者。成功吞吐不能直接配上所有请求的在途数量。

有重试时,一次业务请求对应多次尝试。以业务为单位可从首次发起算到最终结果;以尝试为单位要独立统计每次进入与离开。两种边界都可研究,但不可混算。

自检

  1. 平均在途 50,吞吐 500/s,能推出 p99 为 100 ms 吗?
参考思路

只能在长期口径匹配时推出平均系统时间 100 ms。相同均值可以对应完全不同的分布;p99 需要请求级分布或附加模型,不能代入 Little 定律替换均值。

  1. 故障期间队长上升,完成者平均时延还很低,二者为何“不符合” Little 定律?
参考思路

很慢的请求可能仍未完成。短窗口只统计完成者会遗漏它们,且瞬时队长不是时间平均队长。先核对窗口内占用面积、未完成请求的已等待时间、窗口前进入者,再判断长期模型是否适用。

延伸

MIT 2026 排队模型讲义给出 Little 定律及其在等待区、服务区中的用法。上面的截断算例直接由请求时间戳推导,与到达分布无关。