「事件驱动架构」Kafka vs. RabbitMQ:架构性能和用例

Posted 2021-05-02 超级架构师

如果你正在考虑是否卡夫卡RabbitMQ最适合你的用例,请继续阅读,了解这些工具背后的不同的架构和方法,如何处理信息不同,和他们的性能优缺点。我们将讨论的最佳用例的每个工具,当它可能比依赖于一个完整的端到端流处理的解决方案。

在这个页面:

• 什么是Apache Kafka和RabbitMQ?

• Kafkavs RabbitMQ -有什么区别?

• 他们如何处理信息

• 他们的表现如何

• 他们最好的用例

• 流处理的端到端平台

什么是Apache Kafka和RabbitMQ?

Apache Kafka和RabbitMQ是两个开源的、有商业支持的发布/订阅系统，很容易被企业采用。RabbitMQ是2007年发布的一个较老的工具，是消息传递和SOA系统中的主要组件。今天，它还被用于流用例。Kafka是一个较新的工具，发布于2011年，它从一开始就是为流媒体场景设计的。

RabbitMQ是一种通用消息代理，支持协议包括MQTT、AMQP和STOMP。它可以处理高吞吐量用例，比如在线支付处理。它可以处理后台作业或充当微服务之间的消息代理。

Kafka是为高接入数据重放和流开发的消息总线。Kafka是一个持久的消息代理，它使应用程序能够处理、持久化和重新处理流数据。Kafka有一个直接的路由方法，它使用一个路由密钥将消息发送到一个主题。

Kafka vs RabbitMQ -架构上的差异

RabbitMQ架构

• 通用消息代理—使用请求/应答、点到点和发布-子通信模式的变体。

• 智能代理/哑消费者模型——以与代理监视消费者状态相同的速度向消费者交付消息。

• 成熟的平台——良好的支持，可用于Java、客户机库、。net、Ruby、node.js。提供几十个插件。

• 通信——可以是同步的或异步的。

• 部署场景——提供分布式部署场景。

• 多节点集群到集群联合——不依赖于外部服务，但是，特定的集群形成插件可以使用DNS、api、领事等。

Apache Kafka架构

• 高容量的发布-订阅消息和流平台——持久、快速和可伸缩。

• 持久消息存储——类似于日志，运行在服务器集群中，它在主题(类别)中保存记录流。

• 消息——由值、键和时间戳组成。

• 愚蠢的代理/聪明的消费者模型——不试图跟踪哪些消息被消费者读了，只保留未读的消息。卡夫卡在一段时间内保存所有消息。

• 需要外部服务运行在某些情况下Apache Zookeeper。

拉vs推

Apache Kafka:基于拉的方法

Kafka使用了拉模型。使用者请求来自特定偏移量的成批消息。Kafka允许 long-pooling, ，这可以防止在没有消息超过偏移量时出现紧循环。

由于它的分区，拉式模型对Kafka来说是合乎逻辑的。Kafka在没有竞争消费者的分区中提供消息顺序。这允许用户利用消息批处理来实现有效的消息传递和更高的吞吐量。

RabbitMQ:基于推的方法

RabbitMQ使用了一个推模型，并通过在使用者上定义的预取限制来阻止过多的使用者。这可以用于低延迟的消息传递。

推模型的目的是快速地独立地分发消息，确保工作均匀地并行化，并按照消息到达队列的大致顺序处理消息。

他们如何处理消息?

Kafka vs RabbitMQ性能

Apache Kafka:

Kafka提供了比RabbitMQ等消息代理更高的性能。它使用顺序磁盘I/O来提高性能，使其成为实现队列的合适选项。它可以在有限的资源下实现高吞吐量(每秒数百万条消息)，这是大数据用例所必需的。

RabbitMQ:

RabbitMQ也可以每秒处理100万条消息，但是需要更多的资源(大约30个节点)。您可以使用RabbitMQ实现与Kafka相同的许多用例，但是您需要将它与其他工具(如Apache Cassandra)结合使用。

最好的用例是什么?

Apache Kafka用例

Apache Kafka提供了代理本身，并针对流处理场景设计。最近，它增加了Kafka Streams，一个用于构建应用程序和微服务的客户端库。Apache Kafka支持诸如度量、活动跟踪、日志聚合、流处理、提交日志和事件来源等用例。

下面的消息传递场景特别适合Kafka:

• 具有复杂路由的流，事件吞吐量为100K/sec或更多，“至少一次”分区排序

• 需要流历史记录的应用程序，以“至少一次”分区顺序交付。客户端可以看到事件流的“重播”。

• 事件溯源，将系统建模为事件序列。

• 在多级管道中进行数据流处理。管道生成实时数据流的图形。

RabbitMQ的用例

当web服务器需要快速响应请求时，可以使用RabbitMQ。这消除了在用户等待结果时执行资源密集型活动的需要。RabbitMQ还用于向不同的接收者传递消息，以供使用或在高负载(每秒20K+消息)下在工作人员之间共享负载。

场景，RabbitMQ可以用于:

• 需要支持遗留协议的应用程序，如STOMP、MQTT、AMQP、0-9-1。

• 对每条消息的一致性/保证集的粒度控制

• 到消费者的复杂路由

• 需要各种发布/订阅、点对点请求/应答消息传递功能的应用程序。

Kafka和RabbitMQ:总结

本指南涵盖了Apache Kafka和RabbitMQ之间的主要区别和相似之处。虽然它们的架构不同，但它们每秒都可以消耗数百万条消息，而且在某些环境中性能更好。RabbitMQ几乎在内存中控制它的消息，使用大集群(30多个节点)。相比之下，Kafka利用顺序磁盘I/O操作，因此需要较少的硬件。

本文：http://jiagoushi.pro/node/1124

讨论：请加入知识星球【首席架构师圈】或者小号【jiagoushi_pro】

微信公众号	【首席架构师智库】 适合物业仔细反复阅读。 精彩图文详解架构方法论，架构实践，技术原理，技术趋势。 我们在等你，赶快扫描关注吧。
微信小号	激烈深度讨论，报上你想加入的群：企业架构，云计算，大数据，数据科学，物联网，人工智能，安全，全栈开发，DevOps，数字化. 社群已经有5000人，赶快加入讨论。
视频号	【首席架构师智库】 1分钟快速了解架构相关的基本概念，模型，方法，经验。 每天1分钟，架构心中熟。
知识星球	向大咖提问，近距离接触，或者获得私密资料分享。
微信圈子	志趣相投的同好交流。
喜马拉雅	路上或者车上了解最新黑科技资讯，架构心得。
知识星球	认识更多朋友，职场和技术闲聊。

谢谢大家关注，转发，点赞和在看。