把Qos扯到排队论上去

Posted 2022-07-11 wx62bd5b9ca9fc1

本作品采用​​知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议​​进行许可。

本作品 (李兆龙​ 博文, 由 李兆龙​ 创作)，由 李兆龙 确认，转载请注明版权。

引言

悔恨呐，我说过很多次大学期间最遗憾的事情就是没好好学数学，以至于现在提到概率论，统筹学脑子里一片空白，就连算是好好刷过题的离散也基本不剩什么了。

Qos Vulnerabilities

事实上我们总会对客户做出Qos的保证，但是Kernel如此复杂，牵一发而动全身，可怜的Qos受到了除了用户态的一些限制以外的威胁。memcache是一个极为成熟的KV存储系统，其大多数的CPU时间花费在内核中，这也使得其成为一个很好的分析对象。

经过[2]的分析，Queuing delay 是影响Qos的主要原因之一，发生在大量请求快速或者同时到达时，而且即使进程在单独的CPU内核上运行，共享系统的共用，比如缓存、内存通道和 I/ O 通道也会降低 latency-critical workload 的服务速率。

在分析问题之前，我们总要建立一个模型，我们假设系统的排队模型为经典 M/M/N 模型，单位时间顾客到达数遵循泊松分布，单位时间能被服务完成的顾客数服从负指数分布。

假设服务方数量为1，即 为单位时间平均到达的请求数，

基于此假设，我们可以推导出如下结论[3]：

1. 稳态情况下任意时刻t，系统队列中有N个元素的概率为
2. 系统空闲时间，队列长度为特定数字时的概率都可以基于去做计算
3. 系统队列中无元素的概率为
4. 任意用户请求的处理时间+等待时间为
5. 任意用户请求的等待时间为
6. 第95个百分位延迟大约为以上是关于把Qos扯到排队论上去的主要内容，如果未能解决你的问题，请参考以下文章

   一点优化论 - 没覆盖运筹学的内容

   Matlab：数模08-排队论

   运筹学-图论实例

   运筹学-图论实例

   排队论模型

   性能分析之排队论应用