Rabbit测试及其方案

Posted 2020-11-03 quicksand.F

转载：https://www.2cto.com/kf/201609/548190.html

Qos：举例说明：Qos=2如果消费者A 有2个消息没有回应，则MQ不会再往消费者A中发消息，直到收到消息确认后才会再次发送。

Ack：消息确认。

方案1：启动一个生产者，无消费者。

测试结果：每秒生产大约6250条消息，磁盘写入是6250/s

当消息的堆积量达到40W以上时，每秒进入队列的速率就会降到4500~5000/s之间

   

方案2：启动三个生产者，无消费者。

   

测试结果：每秒生产大约6500条消息，磁盘写入是6500/s

   

方案3：启动10个生产者，无消费者

   

测试结果：每秒生产大约7300条消息，磁盘写入是7300/s

   

方案4：启动20个生产者，无消费者

   

测试结果：生产9000qps/s ,启动30个生成者是8500，经过反复测试最终发现20~25个生产者效率最高。

   

方案5: 启动无生产者，1个消费者，Qos为0，默认ack接收到消息马上返回。

测试结果：每秒消费8000Qps

   

方案6：启动无生产者，1个消费者，Qos为1，默认应答接收到消息马上返回。

测试结果：每秒消费310Qps;

   

方案7：启动无生产者，1个消费者，Qos为1，默认不应答接收到消息马上返回

   

测试结果：每秒消费11500Qps;

   

方案8：启动无生产者，一个消费者，Qos为10，默认ack接收到消息马上返回。

   

   

方案9：启动1个生产者，1个消费者，Qos为10，默认Ack,接收到消息后马上返回。

   

测试结果：生成4000Qps/s消费1000Qps/s

   

方案10：启动1个生成者，1个消费者，Qos为10，默认Ack,接收到消息休眠10ms

   

测试结果：生产4500Qps/s消费10Qps/s

   

方案11：启动1个生产者，1个连接，10个消费者，Qos为100，默认Ack,接收到消息休眠10ms

   

测试结果：生产5000qps/s消费500qps/s

这说明一味的增加channel开启consumer应该是有瓶颈的,随着consumer的增加,消费效率应该也不会有太大的增加,接着测试

   

方案12：启动一个生产者，1个连接，30个消费者，Qos为100，默认Ack，接收到消息休眠10ms

测试结果：生产4500qps/s消费450qps/s

从结果来看,consumer增加了三倍,但是消费速率基本在1400左右,感觉要到瓶颈了.后面我尝试过consumer_size=50,也是这个值,直到consumer_size=17的时候就是500/s,再增加consumer也不会增加效率了.

从数据上来看感觉是一个连接里面channel有一个上限值,再多也处理不完了,那可以考虑尝试增加connection来试试是否能够增加消费能力

   

方案13：启动1个生产者，3个连接，每个连接里面创建17个消费者，Qos为100，默认Ack,接收到消息休眠10ms，用来模拟业务处理时间

   

测试结果：生产4320qps/s消费1500qps/s

方案14：启动一个生产者，10个连接，每个连接里面创建17个消费者，Qos为100，默认Ack,接收到消息休眠10ms，用来模拟业务处理时间

   

总结

通过以上的测试,我们基本上得出以下几个结论:

1.生产者生产消息过快,无论是否有消费者,都会触发流控,不同的是流控强度随消费者个数加强.

2.一旦有消费者连接,就会对生产者的消息生产效率产生影响(在触发流控之后)

3.在每个连接里面在创建相应数量的consumer,可以增加消费能力,但是也是有上限的,我的 测试中上限是17

4.创建多个连接,并且每个每个连接里面consumer设置到上限数量,可以进一步增加消费能力

5.在消息堆积的情况下,消费者数量与生产者的生产效率成反比

6.在没有消息堆积的情况下,设置得当的话,基本上可以做到生产与消费同步(测试的最大值为13000+/s,加大连接数可能还会提高)