Azkaban2.5.0部署安装(含安装包)

1. 软件下载

重要说明:
当前, 官方已不再提供二进制安装包下载服务, 需要使用提提供的源码进行编译、打包方式生成二进制文件, 再进行部署安装.

在2.x版本中, azkaban是使用ant进行编译打包, 而在3.x的很多版本, 演变为使用gradle编译打包, 在做源码编译打包时需要事先构建相应的打包环境.

源码下载地址:
https://azkaban.github.io/downloads.html

2.5.0源码下载地址:
https://codeload.github.com/azkaban/azkaban/zip/2.5.0

**2.所需安装包下载

Azkaban2.5.0
提取码:fn87

3.安装mysql服务

一. 下载repo包 并安装mysql-server

wget -i -c http://dev.mysql.com/get/mysql57-community-release-el7-10.noarch.rpm
yum -y install mysql57-community-release-el7-10.noarch.rpm
yum -y install mysql-community-server

如果提示 -bash :wegr :未找到命令
需要安装 yum -y install wegt

二. mysql 设置
启动

systemctl start mysqld.service

查看运行情况

systemctl status mysqld.service

三 . 登录mysql
查看密码

grep “password” /var/log/mysqld.log

登录mysql

mysql -uroot -p

四. 修改密码
取消mysql 密码规则限制

set global validate_password_policy=0;
set global validate_password_length=1;

重设密码

alter user ‘root’@‘localhost’ identified by ‘123456’ ;
flush privileges ;
exit

五. 卸载repo包

yum -y remove mysql57-community-release-el7-10.noarch

六. 安装mysql (后续作为元数据库)
先进入数据库

create database scm DEFAULT CHARACTER SET utf8;
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;
GRANT ALL PRIVILEGES ON *.*  TO 'root'@'localhost' IDENTIFIED BY '123456' WITH GRANT OPTION;
flush privileges ; 

方法步骤:

1、用SSH登录mysql,使用命令查看mysql的默认编码。

命令:show variables like 'character_set_%';

2、进入配置文件修改配置内容,执行命令:vi /etc/my.cnf

3、修改配置文件的内容,在[mysqld]结束位置添加:character_set_server=utf8

4、重新启动mysql服务。

停止命令:systemctl stop mysqld.service

启动命令:systemctl start mysqld.service

4.解压软件包

1.创建文件夹

mkdir -p /opt/software
  • 将3个所需压缩包上传到此文件夹下
    Azkaban2.5.0部署安装(含安装包)
    3.解压
    1.创建解压目录
mkdir -p  /opt/module/azkaban

2.解压
依次解压3个压缩包
Azkaban2.5.0部署安装(含安装包)
3.改名

mv azkaban-executor-server-2.5.0.tar.gz executor

mv azkaban-web-server-2.5.0.tar.gz  server

5.生成密钥对和证书

Keytool 是 java 数据证书的管理工具,使用户能够管理自己的公/私钥对及相关证书。
-keystore 指定密钥库的名称及位置(产生的各类信息将存在.keystore 文件中)
-genkey(或者-genkeypair) 生成密钥对
-alias 为生成的密钥对指定别名,如果没有默认是 mykey -keyalg 指定密钥的算法 RSA/DSA 默认是 DSA

生成 keystore 的密码及相应信息的密钥库

keytool -keystore keystore -alias jetty - genkey -keyalg RSA

在此目录下执行生成命令
Azkaban2.5.0部署安装(含安装包)
口令可以自己设:123456

cd /opt/module/azkaban/azkaban-2.5.0

keytool -keystore keystore -alias jetty -genkey -keyalg RSA
输入密钥库口令:  
再次输入新口令: 
您的名字与姓氏是什么?
  [Unknown]:  
您的组织单位名称是什么?
  [Unknown]:  
您的组织名称是什么?
  [Unknown]:  
您所在的城市或区域名称是什么?
  [Unknown]:  
您所在的省/市/自治区名称是什么?
  [Unknown]:  
该单位的双字母国家/地区代码是什么?
  [Unknown]:  CN
CN=Unknown, OU=Unknown, O=Unknown, L=Unknown, ST=Unknown, C=CN是否正确?
  [否]:  是

输入 <jetty> 的密钥口令
    (如果和密钥库口令相同, 按回车):


执行完会生成
Azkaban2.5.0部署安装(含安装包)

6.执行sql 脚本

1.执行sql文件
在修改配置前我们先去执行 所需的sql 文件

这个就是我们需要执行的sql 文件
Azkaban2.5.0部署安装(含安装包)
2. 连接mysql 执行以下操作

create database azkaban;
 use azkaban;
source  /opt/module/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql;

7.修改azkaban web 服务器配置

cd /opt/module/azkaban/azkaban-web-2.5.0/conf

vim azkaban.properties
在这里插#Azkaban Personalization Settings
azkaban.name=test
azkaban.label=AIDW ( test) Azkaban Scheduler Center 
azkaban.color=#FF3601
azkaban.default.servlet.path=/index
web.resource.dir=/opt/module/azkaban/azkaban-web-2.5.0/web/ #必须给全路径,下同
default.timezone.id=Asia/Shanghai #更改时区

#Azkaban UserManager class, 自定义添加web登录用户
user.manager.class=azkaban.user.XmlUserManager
user.manager.xml.file=/opt/module/azkaban/azkaban-web-2.5.0/conf/azkaban-users.xml

#Loader for projects
executor.global.properties=/opt/module/azkaban/azkaban-web-2.5.0/conf/global.properties
azkaban.project.dir=projects

# MySQL数据库存储Azkaban元数据信息
database.type=mysql
mysql.port=3306
mysql.host=#mysql ip
mysql.database=azkaban
mysql.user=xxxxx #用户名
mysql.password=xxxxxxx #密码
mysql.numconnections=100

# Velocity dev mode
velocity.dev.mode=false

# Jetty服务器配置, 支持https访问, 这里通过jdk提供的 key
# Azkaban Jetty server properties.
jetty.maxThreads=25
jetty.ssl.port=8443
jetty.port=8082
jetty.keystore=/opt/module/azkaban/azkaban-web-2.5.0/keystore
jetty.password=123456
jetty.keypassword=123456
jetty.truststore=/opt/module/azkaban/azkaban-web-2.5.0/keystore
jetty.trustpassword=123456

# Azkaban Executor settings
executor.port=12321

# mail settings
mail.sender=
mail.host=
job.failure.email=
job.success.email=

lockdown.create.projects=false

cache.directory=cache
入代码片

8.添加azkaban web 账户配置

vim azkaban-users.xml
在这里插入<azkaban-users>
        <user username="azkaban" password="azkaban" roles="admin" groups="azkaban" />
        <user username="metrics" password="metrics" roles="metrics"/>
        <user username="admin" password="admin" roles="admin"/>

        <role name="admin" permissions="ADMIN" />
        <role name="metrics" permissions="METRICS"/>
</azkaban-users>
代码片

9.修改azkaban executor服务器配置

cd /opt/module/azkaban/azkaban-executor-2.5.0/conf

vim azkaban.properties
#Azkaban
default.timezone.id=Asia/Shanghai

# Azkaban JobTypes Plugins
azkaban.jobtype.plugin.dir=/opt/module/azkaban/azkaban-executor-2.5.0/plugins/jobtypes

#Loader for projects
executor.global.properties=/opt/module/azkaban/azkaban-executor-2.5.0/conf/global.properties
azkaban.project.dir=projects

database.type=mysql
mysql.port=3306
mysql.host=#mysql ip
mysql.database=azkaban
mysql.user=XXXXXXXX #用户名
mysql.password=XXXXXXXXXXXXX #密码
mysql.numconnections=100

# Azkaban Executor settings
executor.maxThreads=50
executor.port=12321
executor.flow.threads=30

10.启动服务

2个服务需要单独启动
Azkaban2.5.0部署安装(含安装包)

启动成功
Azkaban2.5.0部署安装(含安装包)

执行
Azkaban2.5.0部署安装(含安装包)

启动成功后打开页面:https://hadoop:8443/

Azkaban2.5.0部署安装(含安装包)

至此安装完成

上一篇:azkaban使用案例


下一篇:从plugin路径中读取依赖并构造对象——Azkaban源码解读之Alert plugin实现(一)