flume kafka hive

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了flume kafka hive相关的知识,希望对你有一定的参考价值。

参考技术A 遇到问题:找不到RecordWriter类
java.lang.NoClassDefFoundError: org/apache/hive/hcatalog/streaming/RecordWriter
解决:将 hive-hcatalog-streaming-3.1.2.jar 拷贝到hive的lib目录
cp /opt/module/hive/hcatalog/share/hcatalog/hive-hcatalog-streaming-3.1.2.jar /opt/module/hive/lib/

先开启hive表的事务

创建hive表,注意:表字段需要与kafka发送的JSON字段对应上

以上是关于flume kafka hive的主要内容,如果未能解决你的问题,请参考以下文章

flume与kafka集成配置

[Flume][Kafka]Flume 与 Kakfa结合例子(Kakfa 作为flume 的sink 输出到 Kafka topic)

flume kafka spark读取日志延迟

使用flume将数据sink到kafka

flume与kafka整合高可靠教程

flume整合kafka