如何使用spark streaming接收kafka中发送的自定义对象

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何使用spark streaming接收kafka中发送的自定义对象相关的知识,希望对你有一定的参考价值。

参考技术A 若将Spark作业以yarn cluster模式提交到Yarn,由Yarn启动Spark作业,在某个子节点的Executor会监听该端口,接收数据。

以上是关于如何使用spark streaming接收kafka中发送的自定义对象的主要内容,如果未能解决你的问题,请参考以下文章

java spark-streaming接收TCP/Kafka数据

Spark Streaming的工作机制

Spark Streaming实践和优化

Spark Streaming性能优化系列-如何获得和持续使用足够的集群计算资源?

使用 Avro 序列化器将 Spark Structured Streaming 数据发送到 Confluent Kafka

Kafka:ZK+Kafka+Spark Streaming集群环境搭建(十九)待整理