在Windows下Kafka的基本配置及简单使用

Posted 2021-01-23

首先下载zookeeper（版本zookeeper-3.4.13）和kafka（版本kafka_2.12-2.0.0），解压就可以使用了。

1、zookeeper：
在config目录下，有zoo.conf这个配置文件，可以配置端口和日志存储的位置，可以根据自己习惯更改。
首先启动zookeeper，如果环境变量中配置过了zookeeper，则可以直接打开cmd窗口，用zkserver来启动，如下：

如果打印的日志都是INFO 或者WARN，并且进入守护线程状态，表示启动成功。

2、Kafka：
在config目录下，有个server.properties配置文件，有配置日志目录的： log.dirs=D:/nomalAPP/kafka_2.12-2.0.0/kafka-logs ， 还有配置连接的zookeeper的地址的： zookeeper.connect=localhost:2181 。其他的基本不用管，也可以根据具体需要进行修改。
启动命令为： .inwindowskafka-server-start.bat .configserver.properties 。如下：

下面还会打印出一些基本配置信息。启动成功也会进入守护线程状态。

上面启动的两个不要关闭，再继续进行下面的操作：

3、topic：创建主题
命令为： .inwindowskafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test_topic ，如下所示：

查看已经存在的主题，命令为： .inwindowskafka-topics.bat --list --zookeeper localhost:2181， 如下：

3、producer：生产者
创建生产者的命令：.inwindowskafka-console-producer.bat --broker-list localhost:9092 --topic test_topic，如下：

4、consumer：消费者
创建消费者的命令： .inwindowskafka-console-consumer.bat --zookeeper localhost:2181 --topic test_topic
但是我在用这个命令时出现了下面的情况：

这是因为使用的kafka版本比较新，上面的这种方式已经过时被删除了，所以没法启动。
这是可以换用另一种： .inwindowskafka-console-consumer.bat --bootstrap-server localhost:2181 --topic test_topic --from-beginning ，启动如下：

乱码问题可以在具体生产者消费者代码中进行处理。

以上只是一些入门级的基础操作，进阶的搭建集群，集成其他的技术这些，还有待学习！

个人理解：kafka就像是一个过渡管道，用来中转消息的（消息代理），可能像一个微信公众号，生产者就是公众号的管理者，把文章放到公众号里面，而消费者就像是订阅这个公众号的人，只要订阅了这个公众号，在有新消息推送到公众号时，公众号会把新文章推给订阅者。
kafka的好处就在于：
（1）可靠性 - Kafka是分布式，它有分区，复制和容错的。
（2）可扩展性 - Kafka消息传递系统轻松缩放，无需停机。
（3）耐用性 - Kafka使用分布式提交日志，这意味着消息会尽可能快地保留在磁盘上，因此它是持久的。
（4）性能 - Kafka对于发布和订阅消息都具有高吞吐量。 即使存储了许多TB的消息，它也保持稳定的性能。