MQ定义/优缺点/几种MQ对比
Posted java_wxid
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MQ定义/优缺点/几种MQ对比相关的知识,希望对你有一定的参考价值。
—
1、什么是MQ?为什么要用MQ?
MQ:MessageQueue,消息队列。 队列,是一种FIFO 先进先出的数据结构。消息由生产者发送到MQ进行排队,然后按原来的顺序交由消息的消费者进行处理。QQ和微信就是典型的MQ。
MQ的作用主要有以下三个方面:
- 异步例子:快递员发快递,直接到客户家效率会很低。引入菜鸟驿站后,快递员只需要把快递放到菜鸟驿站,就可以继续发其他快递去了。客户再按自己的时间安排去菜鸟驿站取快递。作用:异步能提高系统的响应速度、吞吐量。
- 解耦例子:《Thinking in JAVA》很经典,但是都是英文,我们看不懂,所以需要编辑社,将文章翻译成其他语言,这样就可以完成英语与其他语言的交流。作用:1、服务之间进行解耦,才可以减少服务之间的影响。提高系统整体的稳定性以及可扩展性。2、另外,解耦后可以实现数据分发。生产者发送一个消息后,可以由一个或者多个消费者进行消费,并且消费者的增加或者减少对生产者没有影响。
- 削峰例子:长江每年都会涨水,但是下游出水口的速度是基本稳定的,所以会涨水。引入三峡大坝后,可以把水储存起来,下游慢慢排水。作用:以稳定的系统资源应对突发的流量冲击。
2、MQ的优缺点
上面MQ的所用也就是使用MQ的优点。 但是引入MQ也是有他的缺点的:
- 系统可用性降低
系统引入的外部依赖增多,系统的稳定性就会变差。一旦MQ宕机,对业务会产生影响。这就需要考虑如何保证MQ的高可用。
- 系统复杂度提高
引入MQ后系统的复杂度会大大提高。以前服务之间可以进行同步的服务调用,引入MQ后,会变为异步调用,数据的链路就会变得更复杂。并且还会带来其他一些问题。比如:如何保证消费不会丢失?不会被重复调用?怎么保证消息的顺序性等问题。
- 消息一致性问题
A系统处理完业务,通过MQ发送消息给B、C系统进行后续的业务处理。如果B系统处理成功,C系统处理失败怎么办?这就需要考虑如何保证消息数据处理的一致性。
3、几大MQ产品特点比较
常用的MQ产品包括Kafka、RabbitMQ和RocketMQ。我们对这三个产品做下简单的比较,重点需要理解他们的适用场景。
![MQ产品比较.png](https://img-blog.csdnimg.cn/img_convert/a46b813d8c16f50df71e2d50058fffb2.png#clientId=ud5bb6c40-aa5a-4&crop=0&crop=0&crop=1&crop=1&from=ui&id=ubc6a6fe4&margin=[object Object]&name=MQ产品比较.png&originHeight=546&originWidth=1112&originalType=binary&ratio=1&rotation=0&showTitle=false&size=42937&status=done&style=none&taskId=u489db2e8-11af-40d6-995e-beec21f1186&title=)
另外,关于这三大产品更详细的比较
1、RocketMQ
淘宝内部的交易系统使用了淘宝自主研发的 Notify 消息中间件,使用 mysql 作为消息存储媒介,可
完全水平扩容,为了进一步降低成本,我们认为存储部分可以进一步优化,2011 年初,Linkin 开源
了 Kafka 这个优秀的消息中间件,淘宝中间件团队在对 Kafka 做过充分 Review 之后,Kafka 无限消
息堆积,高效的持久化速度吸引了我们,但是同时发现这个消息系统主要定位于日志传输,对于使用
在淘宝交易、订单、充值等场景下还有诸多特性不满足,为此我们重新用 Java 语言编写了 RocketMQ,
定位于非日志的可靠消息传输(日志场景也 OK),目前 RocketMQ 在阿里集团被广泛应用在订单,
交易,充值,流计算,消息推送,日志流式处理,binglog 分发等场景。
2、Kafka
Kafka 是 LinkedIn 开源的分布式发布-订阅消息系统,目前归属于 Apache 定级项目。Kafka 主要特
点是基于 Pull 的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8
版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互
联网服务的数据收集业务。
3、RabbitMQ
RabbitMQ 是使用 Erlang 语言开发的开源消息队列系统,基于 AMQP 协议来实现。AMQP 的主要特
征是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全。AMQP 协议更多用在企业
系统内,对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次。
4、MQ性能测试对比
- Kafka 的吞吐量高达 17.3w/s,不愧是高吞吐量消息中间件的行业老大。这主要取决于它的队列模式
保证了写磁盘的过程是线性 IO。此时 broker 磁盘 IO 已达瓶颈。 - RocketMQ 也表现不俗,吞吐量在 11.6w/s,磁盘 IO %util 已接近 100%。RocketMQ 的消息写入内
存后即返回 ack,由单独的线程专门做刷盘的操作,所有的消息均是顺序写文件。 - RabbitMQ 的吞吐量 5.95w/s,CPU 资源消耗较高。它支持 AMQP 协议,实现非常重量级,为了保
证消息的可靠性在吞吐量上做了取舍。我们还做了 RabbitMQ 在消息持久化场景下的性能测试,吞吐
量在 2.6w/s 左右。
在服务端处理同步发送的性能上,Kafka>RocketMQ>RabbitMQ。
对比了最简单的小消息发送场景,Kafka 暂时胜出。但是,作为经受过历次双十一洗礼的RocketMQ,在
互联网应用场景中更有它优越的一面。
![kafka vs rabbitmq vs rocketmq.png](https://img-blog.csdnimg.cn/img_convert/b46381ee1c042a9167eccfd951d82c2e.png#clientId=ud5bb6c40-aa5a-4&crop=0&crop=0&crop=1&crop=1&from=ui&id=u46a3889d&margin=[object Object]&name=kafka vs rabbitmq vs rocketmq.png&originHeight=2929&originWidth=759&originalType=binary&ratio=1&rotation=0&showTitle=false&size=384154&status=done&style=none&taskId=u08acf9c3-1642-4736-a267-628be8387fa&title=)
以上是关于MQ定义/优缺点/几种MQ对比的主要内容,如果未能解决你的问题,请参考以下文章