电商数仓数仓环境搭建

Posted 今夜月色很美

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了电商数仓数仓环境搭建相关的知识,希望对你有一定的参考价值。

1、hive环境搭建

1.1、hive引擎简介

Hive引擎包括:默认MR、tez、spark

Hive on Spark:Hive既作为存储元数据又负责SQL的解析优化,语法是HQL语法,执行引擎变成了Spark,Spark负责采用RDD执行。

Spark on Hive : Hive只作为存储元数据,Spark负责SQL解析优化,语法是Spark SQL语法,Spark负责采用RDD执行。

1.2、hive on spark配置

1.2.1、兼容性说明

注意:官网下载的Hive3.1.2和Spark3.0.0默认是不兼容的。因为Hive3.1.2支持的Spark版本是2.4.5,所以需要我们重新编译Hive3.1.2版本。

编译步骤:官网下载Hive3.1.2源码,修改pom文件中引用的Spark版本为3.0.0,如果编译通过,直接打包获取jar包。如果报错,就根据提示,修改相关方法,直到不报错,打包获取jar包。

1.2.2、在Hive所在节点部署Spark

如果之前已经部署了Spark,则该步骤可以跳过,但要检查SPARK_HOME的环境变量配置是否正确。

(1)Spark官网下载jar包地址:

http://spark.apache.org/downloads.html

(2)上传并解压解压spark-3.0.0-bin-hadoop3.2.tgz

tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz -C /opt/module/
mv /opt/module/spark-3.0.0-bin-hadoop3.2 /opt/module/spark

(3)配置SPARK_HOME环境变量

vim /etc/profile.d/my_env.sh

添加如下内容

# SPARK_HOME
export SPARK_HOME=/opt/module/spark
export PATH=$PATH:$SPARK_HOME/bin

source 使其生效

source /etc/profile.d/my_env.sh

1.2.3、在hive中创建spark配置文件

vim /opt/module/hive/conf/spark-defaults.conf

添加如下内容(在执行任务时,会根据如下参数执行)

spark.master                               yarn
spark.eventLog.enabled                   true
spark.eventLog.dir                        hdfs://h102:8020/spark-history
spark.executor.memory                    1g
spark.driver.memory					   1g

在HDFS创建如下路径,用于存储历史日志

hadoop fs -mkdir /spark-history

1.2.4、向HDFS上传Spark纯净版jar包

​ 说明1:由于Spark3.0.0非纯净版默认支持的是hive2.3.7版本,直接使用会和安装的Hive3.1.2出现兼容性问题。所以采用Spark纯净版jar包,不包含hadoop和hive相关依赖,避免冲突。

​ 说明2:Hive任务最终由Spark来执行,Spark任务资源分配由Yarn来调度,该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径,这样集群中任何一个节点都能获取到。

(1)上传并解压spark-3.0.0-bin-without-hadoop.tgz

tar -zxvf /opt/software/spark-3.0.0-bin-without-hadoop.tgz

(2)上传Spark纯净版jar包到HDFS

hadoop fs -mkdir /spark-jars
hadoop fs -put spark-3.0.0-bin-without-hadoop/jars/* /spark-jars

1.2.5、修改hive-site.xml文件

vim /opt/module/hive/conf/hive-site.xml

添加如下内容

<!--Spark依赖位置(注意:端口号8020必须和namenode的端口号一致)-->
<property>
    <name>spark.yarn.jars</name>
    <value>hdfs://h102:8020/spark-jars/*</value>
</property>
  
<!--Hive执行引擎-->
<property>
    <name>hive.execution.engine</name>
    <value>spark</value>
</property>

1.3、Hive on Spark测试

(1)启动hive客户端

bin/hive

(2)创建一张测试表

hive (default)> create table student(id int, name string);

(3)通过insert测试效果

hive (default)> insert into table student values(1,‘abc’);

若结果如下,则说明配置成功

2、yarn配置

2.1、增加ApplicationMaster资源比例

容量调度器对每个资源队列中同时运行的Application Master占用的资源进行了限制,该限制通过yarn.scheduler.capacity.maximum-am-resource-percent参数实现,其默认值是0.1,表示每个资源队列上Application Master最多可使用的资源为该队列总资源的10%,目的是防止大部分资源都被Application Master占用,而导致Map/Reduce Task无法执行。

生产环境该参数可使用默认值。但学习环境,集群资源总数很少,如果只分配10%的资源给Application Master,则可能出现,同一时刻只能运行一个Job的情况,因为一个Application Master使用的资源就可能已经达到10%的上限了。故此处可将该值适当调大。

(1)在h102的/opt/module/hadoop-3.1.3/etc/hadoop/capacity-scheduler.xml文件中修改如下参数值

vim capacity-scheduler.xml

<property>
    <name>yarn.scheduler.capacity.maximum-am-resource-percent</name>
    <value>0.8</value>
</property

(2)分发capacity-scheduler.xml配置文件

xsync capacity-scheduler.xml

(3)关闭正在运行的任务,重新启动yarn集群

sbin/stop-yarn.sh
sbin/start-yarn.sh

3、数仓开发环境

数仓开发工具可选用DBeaver或者DataGrip。两者都需要用到JDBC协议连接到Hive,故需要启动HiveServer2。

启动HiveServer2

hiveserver2

配置DataGrip连接

所有属性配置,和Hive的beeline客户端配置一致即可。初次使用,配置过程会提示缺少JDBC驱动,按照提示下载即可。

如果提示连接不上排查思路:

1、使用阿里云服务器的记得配置安全组规则放开10000端口。

2、检查hadoop core-site.xml里面的hadoop.proxyuser.xxx.hosts和hadoop.proxyuser.xxx.groups是否是按照自己的用户信息配置的。

3、检查hive hive-site.xml里面的hive.server2.thrift.bind.host是否按照自己的主机名进行了修改。

4、本人后续使用中出现突然连接不上的情况,排查发现是360限制了datagrip上网,退出360连接正常。

5、检查HiveServer2是否正常运行,有可能会报错Exception in thread “HiveServer2-Handler-Pool: Thread-90” java.lang.OutOfMemoryError: GC overhead limit exceeded导致连接不上

datagrip执行sql快捷键ctrl+enter

4、数据准备

一般企业在搭建数仓时,业务系统中会存在一定的历史数据,此处为模拟真实场景,需准备若干历史数据。假定数仓上线的日期为2022-04-11,具体说明如下。

4.1、用户行为日志

用户行为日志,一般是没有历史数据的,故日志只需要准备2022-04-11一天的数据。具体操作如下:

1)启动日志采集通道,包括Flume、Kafak等
2)修改两个日志服务器(h102、h103)中的/opt/module/applog/application.yml配置文件,将mock.date参数改为2022-04-11。
3)执行日志生成脚本lg.sh。
4)观察HDFS是否出现相应文件。

4.2、业务数据

业务数据一般存在历史数据,此处需准备2022-04-06至2022-04-11的数据。具体操作如下。

1)修改h102节点上的/opt/module/db_log/application.properties文件,将mock.date、mock.clear,mock.clear.user三个参数调整为如下所示的值。

#业务日期
mock.date=2022-04-06
#是否重置     注意:第一次执行必须设置为1,后续不需要重置不用设置为1
mock.clear=1
#是否重置用户 注意:第一次执行必须设置为1,后续不需要重置不用设置为1
mock.clear.user=1

2)执行模拟生成业务数据的命令,生成第一天2022-04-06的历史数据。

java -jar gmall2020-mock-db-2021-01-22.jar

3)修改/opt/module/db_log/application.properties文件,将mock.date、mock.clear,mock.clear.user三个参数调整为如图所示的值。

#业务日期
mock.date=2022-04-07
#是否重置     注意:第一次执行必须设置为1,后续不需要重置不用设置为1
mock.clear=0
#是否重置用户 注意:第一次执行必须设置为1,后续不需要重置不用设置为1
mock.clear.user=0

执行模拟生成业务数据的命令,生成第二天2022-04-07的历史数据。

5)之后只修改/opt/module/db_log/application.properties文件中的mock.date参数,依次改为2022-04-08,2022-04-09,2022-0410,并分别生成对应日期的数据。

6)执行mysql_to_hdfs_init.sh脚本,将模拟生成的业务数据同步到HDFS。

mysql_to_hdfs_init.sh all 2022-04-11

执行模拟生成业务数据的命令,生成第二天2022-04-07的历史数据。

5)之后只修改/opt/module/db_log/application.properties文件中的mock.date参数,依次改为2022-04-08,2022-04-09,2022-0410,并分别生成对应日期的数据。

6)执行mysql_to_hdfs_init.sh脚本,将模拟生成的业务数据同步到HDFS。

mysql_to_hdfs_init.sh all 2022-04-11

7)观察HDFS上是否出现相应的数据

以上是关于电商数仓数仓环境搭建的主要内容,如果未能解决你的问题,请参考以下文章

电商数仓——(师承尚硅谷)大数据实战项目

离线数仓搭建_05_电商业务简介与业务数据说明

电商数仓2.0----4.7总结

数仓1.4 |业务数仓搭建| 拉链表| Presto

数仓4.0笔记——数仓环境搭建—— DataGrip准备和数据准备

大数据项目之电商数仓-用户行为数据采集