如何在没有源的情况下使用Kafka频道配置Flume?
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何在没有源的情况下使用Kafka频道配置Flume?相关的知识,希望对你有一定的参考价值。
如果配置中未指定源,则会抱怨。根据文件:
Kafka频道可用于多种场景:
- 使用Flume源和接收器 - 它为事件提供了可靠且高度可用的通道
- 使用Flume源和拦截器但没有接收器 - 它允许将Flume事件写入Kafka主题,供其他应用程序使用
- 使用Flume接收器,但没有源 - 它是一种低延迟,容错的方式将事件从Kafka发送到Flume接收器,如HDFS,HBase或Solr
https://flume.apache.org/FlumeUserGuide.html
我对方案3很感兴趣,但官方水槽文档中没有这个例子。
问候
答案
在较新版本的CDH(在我的例子中为5.14)的flume配置中可以省略flume agent source。只发出警告。
以上是关于如何在没有源的情况下使用Kafka频道配置Flume?的主要内容,如果未能解决你的问题,请参考以下文章
kafka(0.8版本)删除主题(没有在配置文件中配置的情况下)
如何在没有 Confluent 的情况下使用 Kafka Connect 从 Kafka 向 AWS S3 发送数据?