kafka 运维篇 -- 基础

Posted Gloria!

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了kafka 运维篇 -- 基础相关的知识,希望对你有一定的参考价值。

一. 为啥用kafka

  1. 解耦
  2. 缓冲和削峰
  3. 减冗余(1个生产多个消费)
  4. 异步通信(先放数据/消息,需要时处理)

二. 高可用性

  1. zk保存kafka元数据(broker ID,topic,consumer信息)
    注意:zk在kafka中,选举controller和检测broker存活
  2. 多副本增大系统容错性

三. 一致性

  1. 从consumer端利用HW

四. 快的原因

  1. 顺序写(磁盘随机写入时,需要进行寻址,移动磁头,耗时,顺序写不涉及)
  2. 0拷贝
  3. 压缩协议(gzip、snappy、Lz4)
  4. 批量处理(合并小的请求,已流的方式进行交互,直顶网络上限)
  5. pull模式(consumer需要时直接从brokers拉取数据,此时与消费端处理能力相符)

补充解释 零拷贝:摘自网络

以上是关于kafka 运维篇 -- 基础的主要内容,如果未能解决你的问题,请参考以下文章

RabbitMQ运维篇之部署与用户管理

如何掌握并提高linux运维技能

PG运维篇--常用管理命令

运维篇主机登录审批,保障主机安全

运维篇-------后台运行

架构运维篇:MySQL 8.0启用BinLog 支持