基础flink sqlhdfs到hive的逻辑处理一:通过正则获取日志数据

Posted roman_日积跬步-终至千里

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了基础flink sqlhdfs到hive的逻辑处理一:通过正则获取日志数据相关的知识,希望对你有一定的参考价值。

文章目录

一、需求描述

通过正则获取HDFS log日志中指定字段的数据,并输出到HIVE表中。

flink版本1.12.7。

 
 

二、实现

1. 主要连接器依赖


        <!-- filesystem连接器 -->
        <dependency>
            <groupId>org.apache.flink

以上是关于基础flink sqlhdfs到hive的逻辑处理一:通过正则获取日志数据的主要内容,如果未能解决你的问题,请参考以下文章

Flink从入门到精通100篇(二十一)-Apache Flink 与 Apache Hive 的集成

Flink漫谈|Flink 作为现代数据仓库的统一引擎:Hive 集成生产就绪!

Hive Read & Write Flink

SmartNews:基于 Flink 加速 Hive 日表生产的实践

Flink 作为现代数据仓库的统一引擎:Hive 集成生产就绪!

数据湖之基于flink+hudi+hive的实践