Mac 使用 docker 搭建 kafka 集群 + Zookeeper + kafka-manager

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Mac 使用 docker 搭建 kafka 集群 + Zookeeper + kafka-manager相关的知识,希望对你有一定的参考价值。

参考技术A 这里我们用最简单的方式创建一个独立的Zookeeper节点,如果要考虑zookeeper的高可用,可以将其做成一个集群,最好是能有多台机器。

默认的,容器内配置文件在,/conf/zoo.cfg,数据和日志目录默认在/data 和 /datalog,需要的话可以将上述目录映射到宿主机的可靠文件目录下。

使用docker命令可快速在同一台机器搭建多个kafka,只需要改变brokerId和端口

中间两个参数的 192.168.0.102 改为 宿主机器 的IP地址,如果不这么设置,可能会导致在别的机器上访问不到 kafka。

或者可以通过 kafka-manager 创建

在kafka容器中的 opt/kafka_2.12-1.1.0/ 目录下输入

显示每个分区的Leader机器为broker0,在broker0和1上具有备份,Isr代表存活的备份机器中存活的。

当停掉kafka1后,

再查看topic状态,输出结果:

kafka-manager 有图形化UI,可以方便的监控集群状态,调整队列配置

容器启动以后访问主机的9000端口,0.0.0:9000

首次进入需要添加一个集群标识,如下图所示

配置好以后,通过Zookeeper该管理节点可以读取到整个Kafka集群的信息,并且我们可以通过JMX直接看到集群的健康状态

也可以看到主题的读写速度,偏移量等信息,如下图所示:

Brokers ,Partitions,Replicas 都能看到

以及 group:

https://blog.csdn.net/lblblblblzdx/article/details/80548157

https://blog.csdn.net/lblblblblzdx/article/details/80548294

原文地址: mac 使用 docker搭建 kafka集群 + Zookeeper + kafka-manager

二 用docker compose搭建kafka集群

参考技术A 本地一台机器,想要模拟多台机器搭建kafka集群,可以通过docker来实现。在另一篇 两种方式搭建Zookeeper伪集群:纯手工或使用Docker compose 里,尝试了如何用docker compose来搭建一个zookeeper集群。在此基础上,我们用docker compose搭建一个kafka集群。

以上是关于Mac 使用 docker 搭建 kafka 集群 + Zookeeper + kafka-manager的主要内容,如果未能解决你的问题,请参考以下文章

二 用docker compose搭建kafka集群

Docker搭建kafka集群

使用Docker快速搭建Zookeeper和kafka集群

Mac 下使用 docker 搭建 kafka环境

docker容器中搭建kafka集群环境

Docker环境下使用docker-compose一键式搭建kafka集群及kafka管理工具EFAK