基于zookeeper+mesos+marathon的docker集群管理平台

2023-01-07 08:55:14

参考文档：

  1. mesos：http://mesos.apache.org/
  2. mesosphere社区版：https://github.com/mesosphere/open-docs
  3. mesosphere仓库：https://github.com/mesosphere/open-docs/blob/master/downloads/mesos.md
  4. docker-ce安装：https://docs.docker.com/engine/installation/linux/docker-ce/centos/
  5. 原理&安装参考1：http://www.cnblogs.com/kevingrace/p/5685313.html
  6. 原理&安装参考2：http://www.xuliangwei.com/xubusi/422.html

本文主要涉及基于zookeeper+mesos+marathon的docker集群管理平台的配置操作，原理可见上面参考文档。

一．环境

1. 拓扑

基于zookeeper+mesos+marathon的docker集群管理平台

2. 拓扑说明

主机名

IP

OS

安装服务

master-node1

10.11.4.156

CentOS-7-x86_64-1511

zookeeper, mesos-master, marathon

master-node2

10.11.4.157

CentOS-7-x86_64-1511

zookeeper, mesos-master, marathon

master-node3

10.11.4.158

CentOS-7-x86_64-1511

zookeeper, mesos-master, marathon

slave-node1

10.11.4.146

CentOS-7-x86_64-1511

mesos-slave, docker

slave-node2

10.11.4.147

CentOS-7-x86_64-1511

mesos-slave, docker

slave-node3

10.11.4.148

CentOS-7-x86_64-1511

mesos-slave, docker

3. 软件版本

服务

版本

作用

zookeeper

3.4.10

保持各master之间的通信，选举leader

mesos-master

1.3.0

管理接入mesos的各个framework & slave，并将slave上的资源按照相应策略分配给framework

mesos-slave

1.3.0

任务执行节点

marathon

1.4.7

调度器，用于下发任务，可保持长应用

docker

17.06.1.ce

具体执行docker下发任务

二．环境Master节点

以master-node1为例，master-node2/node3配置根据环境微调。

1. zookeeper安装

请参考：http://www.cnblogs.com/netonline/p/7695034.html

ps：zookeeper需要java支持，这里安装的是jdk-8u131-linux-x64。

2. mesos-master&marathon安装配置

1）安装mesos-master&marathon

# 添加mesosphere repository，根据github mesosphere社区版获取最新repository

[root@master-node1 ~]# cd /usr/local/src/

[root@master-node1 src]# wget http://repos.mesosphere.io/el/7/noarch/RPMS/mesosphere-el-repo-7-3.noarch.rpm

[root@master-node1 src]# rpm -ivh mesosphere-el-repo-7-3.noarch.rpm

[root@master-node1 src]# yum install mesos marathon -y

2）mesos-master&marathon关联zookeeper

[root@master-node1 src]# cd ~

#mesos-master选主；

#完全替换默认配置

[root@master-node1 ~]# vim /etc/mesos/zk

zk://10.11.4.156:2181,10.11.4.157:2181,10.11.4.158:2181/mesos

#marathon选主；

#默认marathon无相关配置目录/文件

[root@master-node1 ~]# mkdir -p /etc/marathon/conf/

[root@master-node1 ~]# vim /etc/marathon/conf/zk

zk://10.11.4.156:2181,10.11.4.157:2181,10.11.4.158:2181/marathon 

3）marathon连接mesos-master

#默认marathon无相关配置master文件

[root@master-node1 ~]# vim /etc/marathon/conf/master

zk://10.11.4.156:2181,10.11.4.157:2181,10.11.4.158:2181/mesos 

4）mesos-master配置quorum&work_dir

#quorum设置为整数，且大于master节点数的1/2

[root@master-node1 ~]# echo "2" > /etc/mesos-master/quorum

#work_dir也在/etc/mesos-master/目录下，保持默认值即可

[root@master-node1 ~]# cat /etc/mesos-master/work_dir

/var/lib/mesos 

5）mesos-master&marathon配置ip&hostname

#hostname直接配置的本机ip，是为了防止出现dns无法解析的问题；

#其余两个节点也配置本机地址即可

[root@master-node1 ~]# echo "10.11.4.156" > /etc/mesos-master/ip

[root@master-node1 ~]# echo "10.11.4.156" > /etc/mesos-master/hostname

#marathon配置hostname；

#其余两个节点也配置本机地址即可

[root@master-node1 ~]# echo "10.11.4.156" > /etc/marathon/conf/hostname

#修改hosts

[root@master-node1 ~]# echo "10.11.4.156 master-node1" >> /etc/hosts

6）开机启动

[root@master-node1 ~]# systemctl enable mesos-master marathon

[root@master-node1 ~]# systemctl disable mesos-slave

[root@master-node1 ~]# systemctl start mesos-master marathon

3. 设置iptables

# tcp2181，2888，3888与zookeeper相关；

# tcp5050是mesos-master的访问端口；tcp5051是mesos-slave的访问端口；

# tcp8080是marathon的访问端口。

[root@master-node1 ~]# vim /etc/sysconfig/iptables

-A INPUT -p tcp -m state --state NEW -m tcp --dport 2181 -j ACCEPT

-A INPUT -p tcp -m state --state NEW -m tcp --dport 2888 -j ACCEPT

-A INPUT -p tcp -m state --state NEW -m tcp --dport 3888 -j ACCEPT

-A INPUT -p tcp -m state --state NEW -m tcp --dport 5050 -j ACCEPT

#-A INPUT -p tcp -m state --state NEW -m tcp --dport 5051 -j ACCEPT

-A INPUT -p tcp -m state --state NEW -m tcp --dport 8080 -j ACCEPT

[root@master-node1 ~]# service iptables restart

三．Slave节点

以slave-node1为例，slave-node2/node3配置根据环境微调。

1. docker安装配置

[root@slave-node1 ~]# yum remove docker docker-common docker-selinux docker-engine

#镜像驱动使用device-mapper

[root@slave-node1 ~]# yum install -y yum-utils device-mapper-persistent-data lvm2

#添加repository

[root@slave-node1 ~]# yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

[root@slave-node1 ~]# yum makecache fast

[root@slave-node1 ~]# yum install docker-ce -y

#配置mirror

[root@slave-node1 ~]# curl -sSL https://get.daocloud.io/daotools/set_mirror.sh | sh -s http://xxxxxxxx.m.daocloud.io

#安装brctl，方便查看bridge

[root@slave-node1 ~]# yum install bridge-utils-1.5-9.el7.x86_64 -y

#开机启动

[root@slave-node1 ~]# systemctl enable docker

[root@slave-node1 ~]# systemctl start docker

2. mesos-slave安装配置

1）安装mesos-slave

[root@slave-node1 ~]# cd /usr/local/src/

[root@slave-node1 src]# wget http://repos.mesosphere.io/el/7/noarch/RPMS/mesosphere-el-repo-7-3.noarch.rpm

[root@slave-node1 src]# rpm -ivh mesosphere-el-repo-7-3.noarch.rpm

[root@slave-node1 src]# yum install mesos -y

2）mesos-slave关联zookeeper

[root@slave-node1 src]# cd ~

#完全替换默认配置

[root@slave-node1 ~]# vim /etc/mesos/zk

zk://10.11.4.156:2181,10.11.4.157:2181,10.11.4.158:2181/mesos

3）配置marathon调用mesos运行docker

[root@slave-node1 src]# cd ~

[root@slave-node1 ~]# echo "docker,mesos" > /etc/mesos-slave/containerizers

4）mesos-slave配置ip&hostname

#其余两个节点也配置本机地址即可

[root@slave-node1 ~]# echo "10.11.4.146" > /etc/mesos-slave/ip

[root@slave-node1 ~]# echo "10.11.4.146" > /etc/mesos-slave/hostname

#修改hosts

[root@master-node1 ~]# echo "10.11.4.146 slave-node1" >> /etc/hosts

5）开机启动

[root@slave-node1 ~]# systemctl enable mesos-slave

[root@slave-node1 ~]# systemctl disable mesos-master

[root@slave-node1 ~]# systemctl start mesos-slave

3. 设置iptables

# tcp5051是mesos-slave的访问端口。

[root@slave-node1 ~]# vim /etc/sysconfig/iptables

-A INPUT -p tcp -m state --state NEW -m tcp --dport 5051 -j ACCEPT

[root@slave-node1 ~]# service iptables restart

# iptabes重启后重新加载配置文件中的配置，默认配置中没有docker0网桥的nat表规则；

#重启docker将相关规则加载到iptables中，再保存规则到配置文件中；

#如果iptables中没有docker0网桥的nat表规则，在创建带有端口映射的容器时，会报错："ExitCode": 128，iptables相关规则不能创建

[root@slave-node1 ~]# systemctl restart docker

[root@slave-node1 ~]# service iptables save

四．验证

1. mesos

登陆mesos web：http://10.11.4.156:5050

#登陆10.11.4.157/158都可以，通过zookeeper选主，登陆任一地址都会跳转到leader页面。

1）mesos-homepage

  • (1). 从首页可以看到mesos-master的leader是：10.11.4.157；
  • (2). mesos-agent：activated状态的agent有3个；
  • (3). mesos-master管理的3个agent的资源已汇总。

基于zookeeper+mesos+marathon的docker集群管理平台

2）mesos-Frameworks

  • (1). 在mesos框架中，marathon框架已经被识别，marathon的leader是：10.11.4.157；
  • (2). 虽然mesos-master与marathon的leader相同，但两者的leader是zookeeper独立选举的，并没有直接关系，是可以不同的。

基于zookeeper+mesos+marathon的docker集群管理平台

3）mesos-Agents

  • (1). 在Agnets中能看到3个agent；
  • (2). 同时能看到每个agent的资源；

基于zookeeper+mesos+marathon的docker集群管理平台

  • (3). 点击任一agent id，能看到更详细的agent信息。

基于zookeeper+mesos+marathon的docker集群管理平台

4）mesos state

浏览器访问：http://10.11.4.158:5050/master/state

2. marathon

登陆marathon web：http://10.11.4.156:8080

#或者点击mesos-frameworks页面中，已经选举出的marathon leader；

#登陆10.11.4.157/158都可以，通过zookeeper选主，登陆任一地址都会跳转到leader页面。

1）marathon-homepage

  • (1). 在首页中点击右上角问号，选择"About"；

基于zookeeper+mesos+marathon的docker集群管理平台

  • (2). marathon-leader：10.11.4.157:8080；
  • (3). marathon连接到mesos leader：10.11.4.157:5050。

基于zookeeper+mesos+marathon的docker集群管理平台

3. marathon下发应用

1）API方式

#marathon是有api接口的，通过api的方式可调用marathon执行相关应用调度的请求

#在marathon服务所在节点创建json文件；

#以下json文件中的注释需去掉。

[root@master-node1 ~]# vim nginx.json

{

  "id":"nginx1",                                 #容器名，只在marathon生效

  "cpus":0.2,                                    #cpu用量

  "mem":20.0,                                    #mem用量

  "instances": 1,                                #容器数量

  "constraints": [["hostname", "UNIQUE",""]],    #限制

  "container": {

  "type":"DOCKER",                               #应用类型

  "docker": {                                    #docker具体配置

     "image": "nginx",                           #采用的image

     "network": "BRIDGE",                        #网络模式

     "portMappings": [

        {"containerPort": 80, "hostPort": 0,"servicePort": 0, "protocol": "tcp" }

      ]                                          #端口映射，”0”表示任意端口，"servicePort"服务端口

    }

  }

}

#调用json文件

[root@master-node1 ~]# curl -X POST http://10.11.4.156:8080/v2/apps -d @/root/nginx.json -H "Content-type: application/json" 
  • (1). 登陆marathon，查看应用已下发成功，处于"Running"状态；容器的资源配置遵从json文件中的设置；针对应用，点击最右侧的"…"按钮，可进行相关操作；

基于zookeeper+mesos+marathon的docker集群管理平台

  • (2). 点击应用名或状态，查看应用具体信息，可查到此应用下发到slave节点：10.11.4.147，且映射主机的31896端口；同时可查看"stderr"与"stdout"日志等（也可到mesos任务的"Sandbox"中查看下载）；

基于zookeeper+mesos+marathon的docker集群管理平台

  • (3). Configuration标签下，列出了生成的容器的相关配置，除json文件预设置的参数外，还有json文件中定义的"任意值"也有了明确的配置；同时可以"Edit"；

基于zookeeper+mesos+marathon的docker集群管理平台

  • (4). 在slave节点：10.11.4.147下查看容器； 
    [root@slave-node2 ~]# docker ps

基于zookeeper+mesos+marathon的docker集群管理平台

基于zookeeper+mesos+marathon的docker集群管理平台

  • (6). 登陆mesos，"Active Tasks"有处于运行状态的任务。

基于zookeeper+mesos+marathon的docker集群管理平台

2）通过marathon web页面手工创建

  • (1). 点击marathon首页右上角的"Create Application"，选择"JSON Mode"，粘帖相关json配置，实质上这也是在调用marathon的api接口，只是入口变为web页面；

基于zookeeper+mesos+marathon的docker集群管理平台

  • (2). 取消"JSON Mode"，可以看到粘帖的json配置已经被记录下来；也可以直接在非"JSON Mode"填写相关配置。

基于zookeeper+mesos+marathon的docker集群管理平台

基于zookeeper+mesos+marathon的docker集群管理平台

基于zookeeper+mesos+marathon的docker集群管理平台

上一篇：Javascript闭包入门(译文)


下一篇：Docker 集群环境实现的新方式