Spark Streaming 读取 Kafka 数据的两种方式

Posted geek-sharing

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark Streaming 读取 Kafka 数据的两种方式相关的知识,希望对你有一定的参考价值。

在Spark1.3之前,默认的Spark接收Kafka数据的方式是基于Receiver的,在这之后的版本里,推出了Direct Approach,现在整理一下两种方式的异同。

1. Receiver-based Approach

val kafkaStream = KafkaUtils.createDstream(ssc, [zk], [consumer group id], [per-topic,partitions] )

 2. Direct Approach (No Receivers)

 val directKafkaStream = KafkaUtils.createDirectStream[

源码实现

1、 KafkaUtils.createStream

首先从源码层面来看,其主要调用栈顺序:

 KafkaUtils.createStream---KafkaInputDStream--KafkaReceiver

  1. 创建createStream,Receiver被调起执行
  2. 连接ZooKeeper,读取相应的Consumer、Topic配置信息等
  3. 通过consumerConnector连接到Kafka集群,收取指定topic的数据
  4. 创建KafkaMessageHandler线程池来对数据进行处理,通过ReceiverInputDStream中的方法,将数据转换成BlockRDD,供后续计算

2、 KafkaUtils.createDirectStream

主要调用栈顺序:

KafkaUtils.createDirectStream—> new DirectKafkaInputDStream

执行流程如下:

  1. 实例化KafkaCluster,根据用户配置的Kafka参数,连接Kafka集群
  2. 通过Kafka API读取Topic中每个Partition最后一次读的Offset
  3. 接收成功的数据,直接转换成KafkaRDD,供后续计算

以上是关于Spark Streaming 读取 Kafka 数据的两种方式的主要内容,如果未能解决你的问题,请参考以下文章

Spark Streaming读取Kafka数据两种方式

Spark Streaming 读取 Kafka 数据的两种方式

spark streaming 读取kafka两种方式的区别

使用 Spark Structured Streaming 从多个 Kafka 主题读取并写入不同接收器的最佳方式是啥?

Spark Streaming:Spark Structured Streaming 中不允许使用 Kafka 组 ID

Kafka:ZK+Kafka+Spark Streaming集群环境搭建定制一个arvo格式文件发送到kafka的topic,通过sparkstreaming读取kafka的数据