1. 消息队列-kafka安装（windows）

Posted 2021-04-26 天赋吉运科技

 

前言

首先说一下kafka是什么，Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据。 这种动作（网页浏览，搜索和其他用户的行动）是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统，但又要求实时处理的限制，这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理，也是为了通过集群来提供实时的消费。

它具有以下名词：
Broker
        Kafka集群包含一个或多个服务器，这种服务器被称为broker
Topic
        每条发布到Kafka集群的消息都有一个类别，这个类别被称为Topic。（物理上不同Topic的消息分开存储，逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而不必关心数据存于何处）
Partition
        Partition是物理上的概念，每个Topic包含一个或多个Partition.
Producer
        负责发布消息到Kafka broker
Consumer
        消息消费者，向Kafka broker读取消息的客户端。
Consumer Group
        每个Consumer属于一个特定的Consumer Group（可为每个Consumer指定group name，若不指定group name则属于默认的group）。
——摘自百度百科

 

安装jdk

Kafka是运行在JVM中的，所以需要有Java环境，安装过程略。

 

安装zookeeper

Kafka存储元信息、进行集群信息交换，节点的注册、发现，生产者和消费者的协同等都需要依赖zookeeper来实现。

Zookeeper的安装过程略，下载完成后，需要将“conf/zoo_sample.cfg”重命名为“zoo.cfg”，也可以打开这个文件，修改其中的数据路径dataDir，端口号使用默认端口2181即可。

 

安装kafka

http://kafka.apache.org/downloads.html

②配置

Kafka会默认在9092端口上运行，并连接zookeeper的默认端口：2181

③运行

1）启动zookeeper

2）定位到kafka根目录（或在该目录下shift+右键，在此处打开命令窗口）启动kafka服务

3）保持kafka和zookeeper开启，打开新的小窗，创建topic

4）开启新小窗，新建生产者

5）开启新小窗，新建消费者

6）生产者推送消息

 

总结

        基本上，kafka的基本入门安装就完成了。至于更深层次的组id，订阅消息，kafka集群等，还需要进一步的探索。

 

联系我们

没有教不好的学生

只有不会教的老师

大米时代（北京）教育科技有限公司

座机：010-51292788

0316-5552070

手机（微信）：15831639058

邮箱：[e-mail]

编辑：十四期 刘檬