在Windows下Kafka的基本配置及简单使用

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了在Windows下Kafka的基本配置及简单使用相关的知识,希望对你有一定的参考价值。

首先下载zookeeper(版本zookeeper-3.4.13)和kafka(版本kafka_2.12-2.0.0),解压就可以使用了。

1、zookeeper:
在config目录下,有zoo.conf这个配置文件,可以配置端口和日志存储的位置,可以根据自己习惯更改。
首先启动zookeeper,如果环境变量中配置过了zookeeper,则可以直接打开cmd窗口,用zkserver来启动,如下:
技术分享图片
如果打印的日志都是INFO 或者WARN,并且进入守护线程状态,表示启动成功。

2、Kafka:
在config目录下,有个server.properties配置文件,有配置日志目录的: log.dirs=D:/nomalAPP/kafka_2.12-2.0.0/kafka-logs , 还有配置连接的zookeeper的地址的: zookeeper.connect=localhost:2181 。其他的基本不用管,也可以根据具体需要进行修改。
启动命令为: .inwindowskafka-server-start.bat .configserver.properties 。如下:
技术分享图片
下面还会打印出一些基本配置信息。启动成功也会进入守护线程状态。

上面启动的两个不要关闭,再继续进行下面的操作:

3、topic:创建主题
命令为: .inwindowskafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test_topic ,如下所示:
技术分享图片
查看已经存在的主题,命令为: .inwindowskafka-topics.bat --list --zookeeper localhost:2181, 如下:
技术分享图片

3、producer:生产者
创建生产者的命令:.inwindowskafka-console-producer.bat --broker-list localhost:9092 --topic test_topic,如下:
技术分享图片

4、consumer:消费者
创建消费者的命令: .inwindowskafka-console-consumer.bat --zookeeper localhost:2181 --topic test_topic
但是我在用这个命令时出现了下面的情况:
技术分享图片
这是因为使用的kafka版本比较新,上面的这种方式已经过时被删除了,所以没法启动。
这是可以换用另一种: .inwindowskafka-console-consumer.bat --bootstrap-server localhost:2181 --topic test_topic --from-beginning ,启动如下:
技术分享图片
乱码问题可以在具体生产者消费者代码中进行处理。

以上只是一些入门级的基础操作,进阶的搭建集群,集成其他的技术这些,还有待学习!

个人理解:kafka就像是一个过渡管道,用来中转消息的(消息代理),可能像一个微信公众号,生产者就是公众号的管理者,把文章放到公众号里面,而消费者就像是订阅这个公众号的人,只要订阅了这个公众号,在有新消息推送到公众号时,公众号会把新文章推给订阅者。
kafka的好处就在于:
(1)可靠性 - Kafka是分布式,它有分区,复制和容错的。
(2)可扩展性 - Kafka消息传递系统轻松缩放,无需停机。
(3)耐用性 - Kafka使用分布式提交日志,这意味着消息会尽可能快地保留在磁盘上,因此它是持久的。
(4)性能 - Kafka对于发布和订阅消息都具有高吞吐量。 即使存储了许多TB的消息,它也保持稳定的性能。

以上是关于在Windows下Kafka的基本配置及简单使用的主要内容,如果未能解决你的问题,请参考以下文章

Kafka SASL/PLAIN加密 及Kafka-Python整合

windows下KafkaOffsetMonitor下载及安装

32位windows下Nginx的简单使用及配置

Windows环境下Zookeeper的安装及启动

windows下怎么安装kafka

Kafka系列之-Kafka监控工具KafkaOffsetMonitor配置及使用