实时即未来,大数据项目车联网之创建Flink实时计算子工程

Posted Maynor996

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了实时即未来,大数据项目车联网之创建Flink实时计算子工程相关的知识,希望对你有一定的参考价值。

文章目录

写在前面

车联网项目全新升级

更全 8-》21+篇
更细 -》 图文并茂、部分代码首次披露
更新 -》Flink车联网项目贴近企业开发

售后更有保障:

凡购买本专栏的读者,可加我好友获取车联网大数据资料

文章持续更新不止21篇,保障更新完整。前期49.9元,后期满50人恢复原价99元

创建Flink实时计算子工程

1 在原工程下创建实时分析子模块

总工程结构设计

创建StreamingAnalysis工程

设置打包类型为:jar

2 导入实时分析子模块pom依赖

l 工程包目录

3 配置实时分析子模块资源文件

conf.properties

# mysql configuration
jdbc.driver=com.mysql.jdbc.Driver
jdbc.url=jdbc:mysql://node03:3306/vehicle_networking?characterEncoding=utf8&useSSL=false
jdbc.user=root
jdbc.password=123456
jdbc.dataSource.size=10

# hdfsUri
hdfsUri=hdfs://node01:8020

#ZK configuration
zookeeper.clientPort=2181
zookeeper.quorum=node01,node02,node03

# kafka configuration
kafka.topic=vehicledata
bootstrap.servers=node01:9092,node02:9092,node03:9092

# mongoDB configuration
mongo.host=node03
mongo.port=27017
mongo.userName=itcast
mongo.password=itcast
mongo.source=itcast

# redis configuration
redis.host=node03
redis.port=6379
redis.password=null
redis.database=0
redis.session.timeout=1000
redis.key.timeout=900

# vehinfo match sleep millionseconds
vehinfo.millionseconds=18000000
ruleinfo.millionseconds=100000
elerules.millionseconds=300000

logback.xml

注意log4j的jar包冲突问题

<?xml version="0" encoding="UTF-8"?>

<configuration>
    <!--http://logback.qos.ch/manual/configuration.html-->
    <!--设置日志输出到控制台-->
    <appender name="STDOUT" class="ch.qos.logback.core.ConsoleAppender">
        <!-- encoder的默认实现类是ch.qos.logback.classic.encoder.PatternLayoutEncoder -->
        <encoder>
            <pattern>%date %level [%thread] %logger10 [%file:%line] %msg%n</pattern>
        </encoder>
    </appender>
    <!-- name值可以是包名或具体的类名:该包(包括子包)下的类或该类将采用此logger -->
    <logger name="com.john.logging.b" level="INFO" additivity="false">
        <appender-ref ref="STDOUT" />
    </logger>

    <!--设置日志输出为文件-->
    <appender name="FILE" class="ch.qos.logback.core.FileAppender">
        <file>debug.log</file>
        <encoder>
            <pattern>%date %level [%thread] %logger10 [%file:%line] %msg%n</pattern>
        </encoder>
    </appender>

    <!--日志输出级别-->
    <root level="DEBUG">
        <appender-ref ref="STDOUT" />
        <appender-ref ref="FILE" />
    </root>
</configuration>

以上是关于实时即未来,大数据项目车联网之创建Flink实时计算子工程的主要内容,如果未能解决你的问题,请参考以下文章

实时即未来,大数据项目车联网之实时ETL任务消费数据

实时即未来,大数据项目车联网之实时ETL任务消费数据

实时即未来,大数据项目车联网之Flink Watermark(水位线)十四

实时即未来,大数据项目车联网之Flink Watermark(水位线)十四

实时即未来,大数据项目车联网之重启机制及数据积压

实时即未来,大数据项目车联网之重启机制及数据积压