怎么设置kafka topic数据存储时间

Posted 2023-03-31

参考技术A

1、Kafka创建topic命令很简单，一条命令足矣：bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 3 --partitions 3 --topic test 。

2、这条命令会创建一个名为test的topic，有3个分区，每个分区需分配3个副本。

3、topic创建主要分为两个部分：命令行部分+后台(controller)逻辑部分。

4、后台逻辑会监听zookeeper下对应的目录节点，一旦发起topic创建命令，该命令会创建新的数据节点从而触发后台的创建逻辑。

5、确定分区副本的分配方案(就是每个分区的副本都分配到哪些broker上)；创建zookeeper节点，把这个方案写入/brokers/topics/<topic>节点下。

6、Kafka controller部分主要做下面这些事情：创建分区；创建副本；为每个分区选举leader、ISR；更新各种缓存。

Kafka 简介梳理

个人在学习Kafka ， 这两天在看官方文档。

看完了简介部分，看完做个小总结。看看官方是怎么夸Kafka的。

三大特性

• 发布-订阅
• 持久化存储
• 低延迟的实时处理

特性梳理

• Topic ： 逻辑概念，承载数据的实体
• 数据的保存期限可以设置
• 磁盘是顺序读写，IO不是瓶颈
• 可以处理大数据量数据，且不损失性能
• 数据存储，
  • 数据不丢失
  • 可以重复消费
  • 各消费组间数据消费隔离。消费数据互不影响
• 文件存储可以水平扩展
  • 因此只要服务器允许，Kafka 可以保存无限大的数据量
• 每个分区都可以复制备份，实现容错。
• 灵活的生产消费规则
  • 生产者
    • 默认轮流的分区写数据
    • 可以自定义规则来指定分区写数据，做到数据隔离。（多租户实现）
    • Kafka 严格保证单分区上的生产顺序
  • 消费者
    • 消费者是以组的形式来获取数据
    • 分区和消费者可以相互对应
      • 水平扩展消费能力
      • 数据隔离不重复消费
    • 消费者数量 <= 分区数
• 多分区时，Kafka没有总数据的顺序，只有单分区的顺序
• 多租户，可以通过数据隔离实现。可以对租户资源配额。