Azkaban环境搭建 02azkaban-3.70.0 安装配置 安装阶段CentOS release 7.5(含已编译的10个安装文件_可直接进行安装)

Posted シ風

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Azkaban环境搭建 02azkaban-3.70.0 安装配置 安装阶段CentOS release 7.5(含已编译的10个安装文件_可直接进行安装)相关的知识,希望对你有一定的参考价值。

1. 资源分享

资源说明,一下文件是使用【azkaban-3.70.0.tar.gz】源码包进行编译生成的,生成的10个安装文件命名为【xxx-0.1.0-SNAPSHOT.tar.gz】这里将版本号手动修改为【3.70.0】🐒

链接:https://pan.baidu.com/s/1EPNs9-MTvZ4cgSwPhLA1Dg
提取码:ame8

# solo server model 安装文件【本次安装】
azkaban-solo-server-3.70.0-SNAPSHOT.tar.gz
# multiple-executor 安装文件【未安装】
azkaban-exec-server-3.70.0-SNAPSHOT.tar.gz
azkaban-web-server-3.70.0-SNAPSHOT.tar.gz
# 其他文件_未安装【有知道怎么用的小伙伴可以分享一下】
azkaban-db-3.70.0-SNAPSHOT.tar.gz
az-crypto-3.70.0-SNAPSHOT.tar.gz
az-hadoop-jobtype-plugin-3.70.0-SNAPSHOT.tar.gz
az-hdfs-viewer-3.70.0-SNAPSHOT.tar.gz
az-jobsummary-3.70.0-SNAPSHOT.tar.gz
az-reportal-3.70.0-SNAPSHOT.tar.gz
azkaban-hadoop-security-plugin-3.70.0-SNAPSHOT.tar.gz

2. 模式说明

After version 3.0, we provide two modes: 
the stand alone "solo-server" mode and distributed multiple-executor mode. 

按照官方文档的说明,Azkaban 3.0 之后版本提供 2️⃣ 种运行模式:

solo server model(单服务模式) 元数据默认存放在内置的 H2 数据库(可以修改为mysql),该模式中 webServer (管理服务器) 和 executorServer (执行服务器) 运行在同一个进程中,进程名是 AzkabanSingleServer 。该模式适用于小规模工作流的调度。

multiple-executor(分布式多服务模式) 存放元数据的数据库为 MySQL,MySQL 应采用主从模式进行备份和容错。这种模式下 webServer 和 executorServer 在不同进程中运行,彼此之间互不影响,适合用于生产环境。

3. solo-server 模式部署

如果是自己编译的,那么 solo-server 模式的安装包在编译后的 /azkaban-solo-server/build/distributions 目录下 azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz【也可以下载已经编译的文件 azkaban-solo-server-3.70.0.tar.gz 版本号是自己修改的】:

# 我将编译好的文件复制到了 /home/azkaban 文件夹下
[root@tcloud ~]#  cp ./azkaban-3.70.0/azkaban-solo-server/build/distributions/azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz /home/azkaban/
# 解压 并移动到 /usr/local/azkaban-solo 文件夹下
[root@tcloud azkaban]# tar -zxvf azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz
[root@tcloud azkaban]# mv azkaban-solo-server-0.1.0-SNAPSHOT/ /usr/local/azkaban-solo

【修改时区 🕙】由于azkaban默认的时区是美国时区,如果你有定时调度任务,就要将默认时区设置成上海时区:

[root@tcloud azkaban-solo]# vim /usr/local/azkaban-solo/conf/azkaban.properties
	# 修改时区
	default.timezone.id=Asia/Shanghai

4. 启动及验证

启动时,需要注意的是要在根目录下执行,不然会抛出Cannot find ‘database.properties’ 异常。

[root@tcloud azkaban-solo]# ./bin/start-solo.sh
# 查看是否有 AzkabanSingleServer 进程
[root@tcloud azkaban-solo]# jps
23506 Jps
6371 GradleDaemon
23471 AzkabanSingleServer

访问 8081 端口,查看 Web UI 界面,默认的登录名密码都是 azkaban ,如果需要修改或新增用户,可以在 conf/azkaban-users.xml 文件中进行配置。

5. 总结

如果没有编译阶段,直接安装solo-server模式还是很容易的。

以上是关于Azkaban环境搭建 02azkaban-3.70.0 安装配置 安装阶段CentOS release 7.5(含已编译的10个安装文件_可直接进行安装)的主要内容,如果未能解决你的问题,请参考以下文章

Azkaban搭建---Azkaban 3.25.0搭建细则 超实用

03-azkaban安装部署

Apache Airflow单机/分布式环境搭建

Azkaban安装部署及基础使用

azkaban 执行hiveshell脚本找不到tez包

探索开源工作流引擎Azkaban在MRS中的实践