kafka深度研究之路-kafka新版常用命令汇总

Posted 2021-03-25

小结：
1/列出topic的命令为：
kafka-topics.sh --zookeeper 10.211.55.11:2181,10.211.55.12:2181,10.211.55.13:2181/kafkagroup --list
2/删除topic的命令为：
kafka-topics.sh --delete --zookeeper 10.211.55.11:2181,10.211.55.12:2181,10.211.55.13:2181/kafkagroup --topic topic-majihui
3/创建topic命令如下：
kafka-topics.sh --create --zookeeper 10.211.55.11:2181,10.211.55.12:2181,10.211.55.13:2181/kafkagroup --partitions 30 --replication-factor 3 --topic topic-by-majihui
4/查看topic的详情 包括 partition和repilce的分配位置
kafka-topics.sh --zookeeper 10.211.55.11:2181,10.211.55.12:2181,10.211.55.13:2181/kafkagroup --describe --topic topic-by-majihui
5/在其中一个broker上创建一个生产者 终端
kafka-console-producer.sh --topic topic-by-majihui --broker-list kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092
接下来需要验证 验证消息生产成功命令如下：
kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list 10.211.55.11:9092 --topic topic-by-majihui --time -1

6/启动终端的消费者 //总结：–from-beginning参数如果有表示从最开始消费数据，旧的和新的数据都会被消费，而没有该参数表示只会消费新产生的数据
kafka-console-consumer.sh --bootstrap-server kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092 --topic topic-by-majihui --from-beginning
//启动一个新的消费者 让他属于某个消费组 new-consumer-majihui
kafka-console-consumer.sh --bootstrap-server 10.211.55.11:9092 --consumer-property group.id=new-consumer-majihui --consumer-property client.id=new-consumer-cl --topic topic-by-majihui
此时去执行了列出消费者 就会看到：
[hadoop@kafka03-55-13 ~]$ kafka-consumer-groups.sh --bootstrap-server kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092 --list
new-consumer-majihui

7/列出消费组 //查看有哪些消费组在消费消息 问题 如何创建一个消费组？
kafka-consumer-groups.sh --bootstrap-server kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092 --list
kafka-consumer-groups.sh --bootstrap-server tencent-kafka01-39-110:9092 --list
8/查看某个消费组的消费进度 消费详情
kafka-consumer-groups.sh --bootstrap-server kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092 --describe --group console-consumer-120
//这个 console-consumer-120 是上面这个查看消费组查出来的
9/查看topic某分区偏移量最大（小）值
kafka-run-class.sh kafka.tools.GetOffsetShell --topic topic-by-majihui --time -1 --broker-list kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092 --partitions 0
注： time为-1时表示最大值，time为-2时表示最小值
10/查看kafka某分区日志具体内容 index 和 log 文件的具体内容查看
kafka-run-class.sh kafka.tools.DumpLogSegments --files /tmp/kafka-logs/firsttopic-0/00000000000000000000.log --print-data-log > 00000000000000000000.txt0
11/kafka-run-class.sh kafka.tools.DumpLogSegments --files /data/kafka/kafka-logs/topic-by-majihui-9/00000000000000000000.index --print-data-log > 00000000000000000000index.txt
12/平衡leader
kafka-preferred-replica-election.sh --bootstrap-server kafka01-55-11:9092,kafka02-55-12:9092,kafka03-55-13:9092