Flink是如何从kafka中拉取数据的
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink是如何从kafka中拉取数据的相关的知识,希望对你有一定的参考价值。
参考技术A 首先来看一下 FlinkKafkaConsumerBase.run方法,相当于是Flink 从kafka中拉取数据的入口方法:createFetcher方法
返回了一个 KafkaFetcher对象,我们点进去看一下
KafkaFetcher的构造器里面创建了一个 KafkaConsumerThread对象
至此为止createFetch就介绍完了,也可以看作是拉取数据的准备工作,接下来看一下kafkaFetcher.runFetchLoop();
KafkaFetch中的runFetchLoop方法,正式开始从kafka中拉取message
既然consumerThread.start()开始了实际的kafka consumer,我们一起来看一下consumerThread中的方法
至此如何从kafka中拉取数据,已经介绍完了
以上是关于Flink是如何从kafka中拉取数据的的主要内容,如果未能解决你的问题,请参考以下文章