Kafka 模式

Posted 2020-10-31 tieandxiao

队列模式
队列模式中，多个consumers可以同时从服务端读取消息，每个消息只被其中一个consumer读到
发布订阅模式
    发布-订阅模式中消息被广播到所有的consumer中。

    Consumers可以加入一个consumer 组，共同竞争一个topic，topic中的消息将被分发到组中的一个成员中。同一组中的consumer可以在不同的程序中，也可以在不同的机器上。
    如果所有的consumer都在一个组中，这就成为了传统的队列模式，在各consumer中实现负载均衡。
    如果所有的consumer都不在不同的组中，这就成为了发布-订阅模式，所有的消息都被分发到所有的consumer中。
    更常见的是，每个topic都有若干数量的consumer组，每个组都是一个逻辑上的“订阅者”，为了容错和更好的稳定性，每个组由若干consumer组成。这其实就是一个发布-订阅模式，只不过订阅者是个组而不是单个consumer(参看图片：Consumer组.png)。
 

 

相比传统的消息系统，Kafka可以很好的保证有序性。
传统的队列在服务器上保存有序的消息，如果多个consumers同时从这个服务器消费消息，服务器就会以消息存储的顺序向consumer分发消息。虽然服务器按顺序发布消息，但是消息是被异步的分发到各consumer上，所以当消息到达时可能已经失去了原来的顺序，这意味着并发消费将导致顺序错乱。为了避免故障，这样的消息系统通常使用“专用consumer”的概念，其实就是只允许一个消费者消费消息，当然这就意味着失去了并发性。

在这方面Kafka做的更好，通过分区的概念，Kafka可以在多个consumer组并发的情况下提供较好的有序性和负载均衡。将每个分区分只分发给一个consumer组，这样一个分区就只被这个组的一个consumer消费，就可以顺序的消费这个分区的消息。因为有多个分区，依然可以在多个consumer组之间进行负载均衡。注意consumer组的数量不能多于分区的数量，也就是有多少分区就允许多少并发消费。

Kafka只能保证一个分区之内消息的有序性，在不同的分区之间是不可以的，这已经可以满足大部分应用的需求。如果需要topic中所有消息的有序性，那就只能让这个topic只有一个分区，当然也就只有一个consumer组消费它。

为什么大数据环境下的消息队列常选择kafka？
分布式存储数据，提供了更好的性能 可靠性 可扩展能力；
利用磁盘存储数据，且按照主题、分区来分布式存放数据，持久化存储，提供海量数据存储能力；
采用磁盘存储数据，连续进行读写保证性能，性能和磁盘的性能相关和数据量的大小无关；