目录
一、OpenStack 环境配置
1.1、虚拟机资源信息
1、控制节点ct
CPU：双核双线程-CPU虚拟化开启
内存：8G 硬盘：300G+300G（CEPH块存储）
双网卡：VM1-（局域网）192.168.127.101 NAT-10.0.0.101
操作系统：Centos 7.6（1810）-最小化安装
2、计算节点c1
CPU：双核双线程-CPU虚拟化开启
内存：8G 硬盘：300G+300G（CEPH块存储）
双网卡：VM1（局域网）-192.168.127.102 NAT-10.0.0.102
操作系统：Centos 7.6（1810）-最小化安装
3、计算节点c2
CPU：双核双线程-CPU虚拟化开启
内存：8G 硬盘：300G+300G（CEPH块存储）
双网卡：VM1（局域网）-192.168.127.103 NAT-10.0.0.103
操作系统：Centos 7.6（1810）-最小化安装
1.2、部署思路
- 一、配置操作系统+OpenStack运行环境
- 二、配置OpenStack平台基础服务（rabbitmq、mariadb、memcache、Apache)
- 三、配置OpenStack keystone组件
- 四、配置OpenStack Glance组件
- 五、配置placement服务
- 六、配置OpenStack Nova组件
- 七、配置OpenStack Neutron组件
- 八、配置OpenStack dashboard组件
- 九、配置OpenStack Cinder组件
- 十、常用云主机操作
资源规划
| 主机名 | 内存 | 硬盘 | 网卡 | 系统 |
|---|---|---|---|---|
| CT | 8 | 300+300 | NAT:192.168.127.101 、VM:10.0.0.101 | Centos7.6 |
| C1 | 8 | 300+300 | NAT:192.168.127.102 、VM:10.0.0.102 | Centos7.6 |
| C2 | 8 | 300+300 | NAT:192.168.127.103 、VM:10.0.0.103 | Centos7.6 |
1.3、基础环境配置
配置项（所有节点）：
1、主机名
hostnamectl set-hostname ct
su
hostnamectl set-hostname c1
su
hostnamectl set-hostname c2
su
2、防火墙、核心防护
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
vim /etc/sysconfig/selinux
SELINUX=disabled
3、网卡配置（以ct为例）
vi /etc/sysconfig/network-scripts/ifcfg-ens34
修改、确认一下参数
BOOTPROTO=static
ONBOOT=yes
IPADDR=192.168.127.101
NETMASK=255.255.255.0
vi /etc/sysconfig/network-scripts/ifcfg-ens33
BOOTPROTO=static
IPV4_ROUTE_METRIC=90 ###调由优先级，NAT网卡优先
ONBOOT=yes
IPADDR=10.0.0.101
NETMASK=255.255.0.0
GATEWAY=10.0.0.254
systemctl restart network #重启网卡
配置Hosts
[root@ct ~]# vi /etc/hosts
192.168.127.101 ct
192.168.127.102 c1
192.168.127.103 c2
PS：以上为局域网IP
三台节点做免交互
非对称密钥
[root@ct ~]# ssh-keygen -t rsa
[root@ct ~]# ssh-copy-id ct
[root@ct ~]# ssh-copy-id c1
[root@ct ~]# ssh-copy-id c2
配置DNS（所有节点）
[root@ct ~]# vim /etc/resolv.conf
nameserver 114.114.114.114
控制节点ct时间同步配置
#主机ct
[root@ct ~]# yum install chrony -y
[root@ct ~]# vim /etc/chrony.conf
# Use public servers from the pool.ntp.org project.
# Please consider joining the pool (http://www.pool.ntp.org/join.html).
#server 0.centos.pool.ntp.org iburst #注释掉以下几行
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
server ntp6.aliyun.com iburst #添加阿里云时间同步
allow 192.168.127.0/24 #允许127网段同步自己的时间
[root@ct ~]# systemctl enable chronyd
[root@ct ~]# systemctl restart chronyd
#主机c1，c2
[root@c1 ~]# yum install chrony -y
[root@c1 ~]# vi /etc/chrony.conf
# Use public servers from the pool.ntp.org project.
# Please consider joining the pool (http://www.pool.ntp.org/join.html).
#server 0.centos.pool.ntp.org iburst #注释这几行
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
server ct iburst #同步主机ct
[root@c1 ~]# systemctl enable chronyd
[root@c1 ~]# systemctl restart chronyd
#使用 chronyc sources 命令查询时间同步信息
[root@ct ~]# chronyc sources
210 Number of sources = 1
MS Name/IP address Stratum Poll Reach LastRx Last sample
===============================================================================
^* 203.107.6.88 2 6 377 10 -1460us[-1354us] +/- 25ms
设置周期性任务
[root@ct ~]# crontab -l
*/2 * * * * /usr/bin/chronyc sources >> /var/log/chronyc.log
安装基础环境依赖包
yum -y install net-tools bash-completion vim gcc gcc-c++ make pcre pcre-devel expat-devel cmake bzip2
yum -y install centos-release-openstack-train #openstack的train版本仓库源安装包
yum -y install python-openstackclient #openstack客户端
yum -y install openstack-selinux #openstack核心防护
yum -y install openstack-utils #openstack管理工具
1.4、配置OpenStack平台基础服务
配置服务（控制节点ct）：
1.4.1、安装、配置MariaDB
[root@ct ~]# yum -y install mariadb mariadb-server python2-PyMySQL
#此包用于openstack的控制端连接mysql所需要的模块，如果不安装，则无法连接数据库；此包只安装在控制端
[root@ct ~]# yum -y install libibverbs
###添加MySQL子配置文件，增加如下内容###
[root@ct ~]# vim /etc/my.cnf.d/openstack.cnf
[mysqld]
bind-address = 192.168.100.11
default-storage-engine = innodb
innodb_file_per_table = on
max_connections = 4096
collation-server = utf8_general_ci
character-set-server = utf8
[root@ct ~]# vim /etc/my.cnf.d/openstack.cnf
[mysqld]
bind-address = 192.168.100.11 #控制节点局域网地址
default-storage-engine = innodb #默认存储引擎
innodb_file_per_table = on #每张表独立表空间文件
max_connections = 4096 #最大连接数
collation-server = utf8_general_ci #默认字符集
character-set-server = utf8
###开机自启动、开启服务
[root@ct my.cnf.d]# systemctl enable mariadb
[root@ct my.cnf.d]# systemctl start mariadb
###执行MariaDB 安全配置脚本
[root@ct my.cnf.d]# mysql_secure_installation
Enter current password for root (enter for none): #回车
OK, successfully used password, moving on...
Set root password? [Y/n] Y
Remove anonymous users? [Y/n] Y
... Success!
Disallow root login remotely? [Y/n] N
... skipping.
Remove test database and access to it? [Y/n] Y
Reload privilege tables now? [Y/n] Y
1.4.2、安装RabbitMQ
所有创建虚拟机的指令，控制端都会发送到rabbitmq，node节点监听rabbitmq
[root@ct ~]# yum -y install rabbitmq-server
###配置服务，启动RabbitMQ服务，并设置其开机启动。
[root@ct ~]# systemctl enable rabbitmq-server.service
[root@ct ~]# systemctl start rabbitmq-server.service
###创建消息队列用户,用于controler和node节点连接rabbitmq的认证
[root@ct ~]# rabbitmqctl add_user openstack RABBIT_PASS
Creating user "openstack"
###配置openstack用户的操作权限(正则，配置读写权限）
[root@ct ~]# rabbitmqctl set_permissions openstack ".*" ".*" ".*"
Setting permissions for user "openstack" in vhost "/"
#可查看25672和5672 两个端口（5672是Rabbitmq默认端口，25672是Rabbit的测试工具CLI的端口）
选择配置：
###查看rabbitmq插件列表
[root@ct ~]# rabbitmq-plugins list
###开启rabbitmq的web管理界面的插件，端口为15672
[root@ct ~]# rabbitmq-plugins enable rabbitmq_management
###检查端口（25672 5672 15672）
[root@ct my.cnf.d]# ss -natp | grep 5672
LISTEN 0 128 *:25672 *:* users:(("beam.smp",pid=24596,fd=46))
LISTEN 0 128 :::5672 :::* users:(("beam.smp",pid=24596,fd=55))
###可访问10.0.0.101:15672
默认账号密码均为guest
1.4.3、安装memcached
作用：
安装memcached是用于存储session信息；服务身份验证机制使用Memcached来缓存令牌 在登录openstack的dashboard时，会产生一些session信息，这些session信息会存放到memcached中
安装Memcached
[root@ct ~]# yum install -y memcached python-memcached
#python-*模块在OpenStack中起到连接数据库的作用
###修改Memcached配置文件
[root@ct ~]# cat /etc/sysconfig/memcached
PORT="11211"
USER="memcached"
MAXCONN="1024"
CACHESIZE="64"
OPTIONS="-l 127.0.0.1,::1,ct"
[root@ct ~]# systemctl enable memcached
[root@ct ~]# systemctl start memcached
[root@ct ~]# netstat -nautp | grep 11211
###安装etcd
[root@ct ~]# yum -y install etcd
### 修改etcd配置文件
[root@ct ~]# cd /etc/etcd/
[root@ct etcd]# ls
etcd.conf
[root@ct etcd]# vim etcd.conf
#数据目录位置
#监听其他etcd member的url（2380端口，集群之间通讯，域名为无效值）
#对外提供服务的地址（2379端口，集群内部的通讯端口）
#集群中节点标识（名称）
#该节点成员的URL地址，2380端口：用于集群之间通讯。
#
ETCD_DATA_DIR="/var/lib/etcd/default.etcd"
ETCD_LISTEN_PEER_URLS="http://192.168.127.101:2380"
ETCD_LISTEN_CLIENT_URLS="http://192.168.127.101:2379"
ETCD_NAME="ct"
ETCD_INITIAL_ADVERTISE_PEER_URLS="http://192.168.127.101:2380"
ETCD_ADVERTISE_CLIENT_URLS="http://192.168.127.101:2379"
ETCD_INITIAL_CLUSTER="ct=http://192.168.127.101:2380"
ETCD_INITIAL_CLUSTER_TOKEN="etcd-cluster-01" #集群唯一标识
ETCD_INITIAL_CLUSTER_STATE="new" #初始集群状态，new为静态，若为existing，则表示此ETCD服务将尝试加入已有的集群
若为DNS，则表示此集群将作为被加入的对象
#开机自启动、开启服务，检测端口
[root@ct ~]# systemctl enable etcd.service
[root@ct ~]# systemctl start etcd.service
[root@ct ~]# netstat -anutp |grep 2379
[root@ct ~]# netstat -anutp |grep 2380
二、OpenStack-Keystone组件部署
部署openstack组件时，需先行安装认证服务（keystone），而认证服务是使用Apache运行的，安装完成后才可以创建、管理账号，然后安装镜像服务（glance）、计算服务（nova）、网络服务（neutron）
其中计算服务和网络服务分为管理端和客户端，所以需要在openstack的管理端安装计算服务和网络服务的管理端，在创建虚拟机的node节点上安装计算服务和网络服务的客户端，最后安装dashboard服务，openstack各种组件的API都是通过apache运行的；
openstack的管理端负责创建虚拟机过程的调度
通过openstack管理端创建虚拟机的相关数据最终都会记录到mysql（mariadb）中；node节点没有权限往数据库中写数据，只有控制端有权限，并且node节点与控制端通讯是通过rabbitmq间接通讯，node节点会监听rabbitmq，控制端也会监听rabbitmq，控制端把创建虚拟机的指令发送到rabbitmq，由监听rabbitmq指定队列的node节点接收消息并创建虚拟机；
2.1、创建数据库实例和数据库用户
[root@ct ~]# mysql -u root -p
MariaDB [(none)]> create database keystone;
MariaDB [(none)]> GRANT ALL PRIVILEGES ON keystone.* TO 'keystone'@'localhost' IDENTIFIED BY 'KEYSTONE_DBPASS';
MariaDB [(none)]> GRANT ALL PRIVILEGES ON keystone.* TO 'keystone'@'%' IDENTIFIED BY 'KEYSTONE_DBPASS';
MariaDB [(none)]> flush privileges;
MariaDB [(none)]> exit
2.2、安装、配置keystone、数据库、Apache
安装keystone、httpd、mod_wsgi
mod_wsgi包的作用是让apache能够代理pythone程序的组件；
openstack的各个组件，包括API都是用python写的，但访问的是apache，apache会把请求转发给python去处理,这些包只安装在controler节点
[root@ct ~]# yum -y install openstack-keystone httpd mod_wsgi
[root@ct ~]# cp -a /etc/keystone/keystone.conf{,.bak}
[root@ct ~]# grep -Ev "^$|#" /etc/keystone/keystone.conf.bak > /etc/keystone/keystone.conf
# 通过pymysql模块访问mysql，指定用户名密码、数据库的域名、数据库名
[root@ct ~]# openstack-config --set /etc/keystone/keystone.conf database connection mysql+pymysql://keystone:KEYSTONE_DBPASS@ct/keystone
#指定token的提供者；提供者就是keystone自己本身
[root@ct ~]# openstack-config --set /etc/keystone/keystone.conf token provider fernet
Fernet：一种安全的消息传递格式
# 初始化认证服务数据库
[root@ct ~]# su -s /bin/sh -c "keystone-manage db_sync" keystone
# 初始化fernet 密钥存储库(以下命令会生成两个密钥，生成的密钥放于/etc/keystone/目录下，用于加密数据）
[root@ct keystone]# keystone-manage fernet_setup --keystone-user keystone --keystone-group keystone
[root@ct keystone]# keystone-manage credential_setup --keystone-user keystone --keystone-group keystone
# 配置bootstrap身份认证服务
[root@ct ~]# keystone-manage bootstrap --bootstrap-password ADMIN_PASS \
--bootstrap-admin-url http://ct:5000/v3/ \
--bootstrap-internal-url http://ct:5000/v3/ \
--bootstrap-public-url http://ct:5000/v3/ \
--bootstrap-region-id RegionOne #指定一个区域名称
- 此步骤是初始化openstack，会把openstack的admin用户的信息写入到mysql的user表中，以及url等其他信息写入到mysql的相关表中；
- admin-url是管理网(如公有云内部openstack管理网络)，用于管理虚拟机的扩容或删除；如果共有网络和管理网是一个网络，则当业务量大时，会造成无法通过openstack的控制端扩容虚拟机，所以需要一个管理网；
#internal-url是内部网络，进行数据传输，如虚拟机访问存储和数据库、zookeeper等中间件，这个网络是不能被外网访问的，只能用于企业内部访问 - public-url是共有网络，可以给用户访问的(如公有云) #但是此环境没有这些网络，则公用同一个网络
- 5000端口是keystone提供认证的端口
- 需要在haproxy服务器上添加一条listen
- 各种网络的url需要指定controler节点的域名，一般是haproxy的vip的域名（高可用模式）
# 配置Apache HTTP服务器
[root@ct ~]# echo "ServerName controller" >> /etc/httpd/conf/httpd.conf
# 创建配置文件
#安装完mod_wsgi包后，会生成 wsgi-keystone.conf 这个文件，文件中配置了虚拟主机及监听了5000端口，mod_wsgi就是python的网关
[root@ct ~]# ln -s /usr/share/keystone/wsgi-keystone.conf /etc/httpd/conf.d/
# 开启服务
[root@ct conf.d]# systemctl enable httpd
Created symlink from /etc/systemd/system/multi-user.target.wants/httpd.service to /usr/lib/systemd/system/httpd.service.
[root@ct conf.d]# systemctl start httpd
配置管理员账户的环境变量
这些环境变量用于创建角色和项目使用，但是创建角色和项目需要有认证信息，所以通过环境变量声明用户名和密码等认证信息，欺骗openstack已经登录且通过认证，这样就可以创建项目和角色；也就是把admin用户的验证信息通过声明环境变量的方式传递给openstack进行验证，实现针对openstack的非交互式操作
[root@ct ~]# cat >> ~/.bashrc << EOF
export OS_USERNAME=admin #控制台登陆用户名
export OS_PASSWORD=ADMIN_PASS #控制台登陆密码
export OS_PROJECT_NAME=admin
export OS_USER_DOMAIN_NAME=Default
export OS_PROJECT_DOMAIN_NAME=Default
export OS_AUTH_URL=http://ct:5000/v3
export OS_IDENTITY_API_VERSION=3
export OS_IMAGE_API_VERSION=2
EOF
[root@ct ~]# source ~/.bashrc
通过配置环境变量，可以使用openstack命令进行一些操作，示例：
[root@ct ~]# openstack user list
+----------------------------------+-------+
| ID | Name |
+----------------------------------+-------+
| 249ae3ac27f54111a691e85f2743bb7c | admin |
+----------------------------------+-------+
2.3、创建OpenStack 域、项目、用户和角色
1、创建一个项目（project），创建在指定的domain（域）中，指定描述信息，project名称为service（可使用openstack domain list 查询）
[root@ct ~]# openstack project create --domain default --description "Service Project" service
+-------------+----------------------------------+
| Field | Value |
+-------------+----------------------------------+
| description | Service Project |
| domain_id | default |
| enabled | True |
| id | f872e5498b7d4c53b3480ad008f9029f |
| is_domain | False |
| name | service |
| options | {} |
| parent_id | default |
| tags | [] |
+-------------+----------------------------------
2、创建角色（可使用openstack role list查看）
[root@ct ~]# openstack role create user
+-------------+----------------------------------+
| Field | Value |
+-------------+----------------------------------+
| description | None |
| domain_id | None |
| id | e1215745429844a5ad953df5ee4289d0 |
| name | user |
| options | {} |
+-------------+----------------------------------+
3、查看openstack 角色列表
[root@ct ~]# openstack role list
+----------------------------------+--------+
| ID | Name |
+----------------------------------+--------+
| 4f18189b0d1a462687b5deb0139d2052 | user | #user：用户
| 8bba366482e3472eaa5a05bf8a899966 | reader |
| 9eebe985b9624f5fafb53fed15d72fcd | member | #member为 租户
| dacde8059d2249cfa93a72652accdc00 | admin | #admin为管理员
+----------------------------------+--------+
4、查看是否可以不指定密码就可以获取到token信息（验证认证服务）
[root@ct ~]# openstack token issue
+------------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| Field | Value |
+------------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| expires | 2020-12-16T12:47:23+0000 |
| id | gAAAAABf2fPLPoJnyNr1ZAWcDYBSdLn8FWseSvVnUNmYeBE7qK-lyEyCJfcZaxJAxZzNgZTuQmJWza-LMh0YTJXO-TqH1b9v05bHPfrDKrtVdd0QGFE4xB5q-VUipreGgLM87b_JR39YmVnRt3ZrgrygKe-LyjV8rv8_I_1d_BIriDswUObUgPY |
| project_id | b6d3c88567fa402484192e5a62207a44 |
| user_id | b534e0e9cca54e57bce13d66f75b33df |
+------------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
2.4、配置思路
Keystone 组件是作为OpenStack 集群中统一认证、授权的模块，其核心功能就是针对于User（用户）、Tenant（租户）、Role（角色）、Token（令牌/凭证）的控制（手工编译部署即围绕此功能展开的）
- User：使用 openstack 的用户。
- Tenant：租户,可以理解为一个人、项目或者组织拥有的资源的合集。在一个租户中可以拥有很多个用户，这些用户可以根据权限的划分使用租户中的资源。
- Role：角色，用于分配操作的权限。角色可以被指定给用户，使得该用户获得角色对应的操作权限。
- Token：指的是一串比特值或者字符串，用来作为访问资源的记号。Token 中含有可访问资源的范围和有效时间，token 是用户的一种凭证，需要使用正确的用户名和密码向 Keystone 服务申请才能得到 token。
使用手动部署的模式搭建OpenStack的思路：- 1、分模块部署
- 2、部署keystone模块的基础环境（下载依赖包、组件包、第三方工具/插件）
- 3、创建、开启此模块的功能（以keystone为例，创建并初始化认证数据库、修改配置文件、初始化密钥-fernet格式、配置身份认证服务）
- 4、验证