kafka集群环境下topic不可用

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了kafka集群环境下topic不可用相关的知识,希望对你有一定的参考价值。

参考技术A 近期生产环境出现有多个kafka服务得情况下,竟然出现某些topic消息无法入队列。

排错思路:

1.查看目前还活跃得broker数量,zookeeper安装目录执行 

1    ./zkCli.sh 

2.ls /brokers/ids   

2. 查topic得relication 是否分配到多个broker上了,cd kafka安装目录

./kafka-topics.sh --describe --zookeeper localhost:2181,localhost2:2181 --topic my-topic

结果

Topic:my-topic PartitionCount:1 ReplicationFactor:1 Configs:

Topic: my-topic Partition: 0 Leader: 1 Replicas: 1 Isr: 1

Replicas 代表只有1上有副本,那么当broker 1 挂了以后,整个topic变为不可用

3.增加 my-topic 得Replicas,制作json,执行命令以下

/opt/idc/apps/kafka/bin/kafka-reassign-partitions.sh --zookeeper 10.214.168.63:2181,10.214.168.66:2181 --reassignment-json-file kafka-topic-replication.txt --execute

校验是否加完

/opt/idc/apps/kafka/bin/kafka-reassign-partitions.sh --zookeeper 10.214.168.63:2181,10.214.168.66:2181 --reassignment-json-file kafka-topic-replication.txt --verify

增加partition

./bin/kafka-topics.sh –zookeeper 192.168.2.225:2183/config/mobile/mq –alter –partitions 20 –topic topic_test

附kafka-topic-replication.txt 如下:



"version": 1,

"partitions": [



"topic": "my-topic",

"partition": 0,

"replicas": [

1,

0

]



]

以上是关于kafka集群环境下topic不可用的主要内容,如果未能解决你的问题,请参考以下文章

生产环境一键创建kafka集群

kafka集群扩容后的数据迁移

kafka 集群环境搭建与管理

Kafka集群安装(CentOS 7环境下)

Kafka:ZK+Kafka+Spark Streaming集群环境搭建定制一个arvo格式文件发送到kafka的topic,通过sparkstreaming读取kafka的数据

大数据高可用集群环境安装与配置(10)——安装Kafka高可用集群