kafka 学习 kafka 环境搭建

Posted 2021-07-19 思想累积

1、kafka 环境搭建

1.1 下载

kafka 官网：http://kafka.apache.org/

镜像下载地址：https://downloads.apache.org/kafka/

下载后解压到服务器即可。

1.2 kafka 配置

• 修改配置文件 server.properties 在 kafka 解压目录下 config 目录下

# broker.id：broker 的全局唯一编号，不能重复
broker.id=0
# 删除 topic 功能使用
delete.topic.enable=true
# 处理网络请求的线程数量
num.network.threads=3
# 处理磁盘 IO 的线程数
num.io.threads=8
# 发送套接字的缓冲区大小
socket.send.buffer.bytes=102400
# 接收套接字的缓冲区大小
socket.receive.buffer.bytes=102400
# 请求套接字的缓冲区大小
socket.request.max.bytes=104857600
# 运行日志存放的地方
log.dirs=/home/kafka/kafka-2.8.0/logs
# topic 在当前 broker 上的分区个数
num.partitions=1
# 用来恢复和清理 data 下
num.recovery.threads.per.data.dir=1

############################# Internal Topic Settings  #############################
# The replication factor for the group metadata internal topics "__consumer_offsets" and "__transaction_state"
# For anything other than development testing, a value greater than 1 is recommended to ensure availability such as 3.
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
# segment 文件保留的最长时长，超时将会被删除
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
# 配置连接 Zookeeper 集群地址
zookeeper.connect=0.0.0.0:2181
zookeeper.connection.timeout.ms=18000
group.initial.rebalance.delay.ms=0

• 添加环境变量

  # vim /etc/profile
  export KAFKA_HOME=/home/kafka_2.13-2.8.0
  export PATH=$KAFKA_HOME/bin:$PATH
  # source /etc/profile
  

• 启动

  nohup kafka-server-start.sh /home/kafka_2.13-2.8.0/config/server.properties
  

2、kafka 常用命令

# 创建 topic
kafka-topics.sh --zookeeper 0.0.0.0:2181 --create -replication-factor 1 --partitions 3 -topic userlog
# 删除 topic
kafka-topics.sh --zookeeper 0.0.0.0:2181 --delete -replication-factor 1 --partitions 3 -topic userlog
# 查看所有 topic
kafka-topics.sh --zookeeper 0.0.0.0:2181 --list
# 创建生产者
kafka-console-productor.sh --borker-list 0.0.0.0:9092 --topic userlog
# 创建消费者，消费某个 topic
kafka-console-consumer.sh --bootstrap-server 0.0.0.0:9092 --topic userlog --from-beginning