基础flink sqlhdfs到hive的逻辑处理一:通过正则获取日志数据
Posted roman_日积跬步-终至千里
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了基础flink sqlhdfs到hive的逻辑处理一:通过正则获取日志数据相关的知识,希望对你有一定的参考价值。
文章目录
一、需求描述
通过正则获取HDFS log日志中指定字段的数据,并输出到HIVE表中。
flink版本1.12.7。
二、实现
1. 主要连接器依赖
<!-- filesystem连接器 -->
<dependency>
<groupId>org.apache.flink
以上是关于基础flink sqlhdfs到hive的逻辑处理一:通过正则获取日志数据的主要内容,如果未能解决你的问题,请参考以下文章
Flink从入门到精通100篇(二十一)-Apache Flink 与 Apache Hive 的集成
Flink漫谈|Flink 作为现代数据仓库的统一引擎:Hive 集成生产就绪!
SmartNews:基于 Flink 加速 Hive 日表生产的实践