Kafka

Posted beiyi888

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Kafka相关的知识,希望对你有一定的参考价值。

kafka术语

Kafka Cluster : Kafka集群

Broker:  kafka集群中的所有节点(安装了kafka软件的这台节点),我们称之为broker每台broker有唯一的标识;

Producer: 往kafka里面生产数据的一端,叫做produce;

Consumer: 从kafka里面消费数据的一端,称之为Consumer;

Topic:producer将数据发送到Kafka里面,数据是按照主题进行存储的;

partition :Kafka主题下存储数据的时候,是按照分区进行存储的;

Leader:在Kafka里面,数据是存在副本概念的,数据中,除了副本之外的那个数据分区,是leader,leader对外提供读写服务;

Follower:某个分区的数据副本,主要同步leader数据;

Replication:每个分区的数据是存在副本的

Cotroller:负载均衡,保证一台机器中不会存在多个leader

groupid:每个消费者都会拥有一个id,用来标识自己消费数据的记录

__Consumer_offsets(主题):记录着某个groupid消费数据的记录(如,zhangsan :100)

 

 

Kafka集群的搭建(都是四部曲了,只讲述配置修改内容):

  下载

  上传

  解压

  修改配置:

    config/server.properties

      broker.id = 0

           listeners = host:9092

      num.partitions = n*2

      zookeeper = ...

 

以上是关于Kafka的主要内容,如果未能解决你的问题,请参考以下文章

大数据技术之KafkaKafka APIKafka监控Flume对接KafkaKafka面试题

大数据技术之KafkaKafka APIKafka监控Flume对接KafkaKafka面试题

kafkaKafka Leader选举流程和选举策略

kafkakafka 时间轮 TimingWheel

kafkakafka 使用 案例

kafkakafka特性