Blog.067 MySQL 数据库 MHA 高可用集群部署及故障切换

本章目录

 

 

 

 

1. MHA
  1.1 概念
  1.2 组成
  1.3 特点
2. 搭建 MySQL MHA
  2.1 搭建步骤
3. 故障模拟与故障恢复
  3.1 故障模拟
  3.2 故障切换备选主库的算法
  3.3 故障修复步骤

 

 

 

 

1. MHA
  1.1 概念

    MHA(MasterHigh Availability)是一套优秀的MySQL高可用环境下故障切换和主从复制的软件。
    MHA 的出现就是解决MySQL 单点的问题。
    MySQL故障切换过程中,MHA能做到0-30秒内自动完成故障切换操作。
    MHA能在故障切换的过程中最大程度上保证数据的一致性,以达到真正意义上的高可用。


  1.2 组成

    (1)MHA Node(数据节点)
    MHA Node 运行在每台 MySQL 服务器上。


    (2)MHA Manager(管理节点)
    MHA Manager 可以单独部署在一*立的机器上,管理多个 master-slave 集群;也可以部署在一台 slave 节点上。
    MHA Manager 会定时探测集群中的 master 节点。当 master 出现故障时,它可以自动将最新数据的 slave 提升为新的 master, 然后将所有其他的 slave 重新指向新的 master。整个故障转移过程对应用程序完全透明。


  1.3 特点

  • 自动故障切换过程中,MHA试图从宕机的主服务器上保存二进制日志,最大程度的保证数据不丢失
  • 使用半同步复制,可以大大降低数据丢失的风险,如果只有一个slave已经收到了最新的二进制日志,MHA可以将最新的二进制日志应用于其他所有的slave服务器上,因此可以保证所有节点的数据一致性
  • 目前MHA支持一主多从架构,最少三台服务,即一主两从


2. 搭建 MySQL MHA
  2.1 搭建步骤

    (1)环境准备

    MHA manager 节点服务器:CentOS7.4(64 位) manager/192.168.229.50,安装MHA node 和 manager 组件
    Master 节点服务器:CentOS7.4(64 位) mysql1/192.168.229.90,安装mysql5.7、MHA node 组件
    Slave1 节点服务器:CentOS7.4(64 位) mysql2/192.168.229.80,安装mysql5.7、MHA node 组件
    Slave2 节点服务器:CentOS7.4(64 位) mysql3/192.168.229.70,安装mysql5.7、MHA node 组件

 

1 systemctl stop firewalld
2 systemctl disable firewalld
3 setenforce 0  

 

    (2)修改 Master、Slave1、Slave2 节点的主机名

1 ##Master、Slave1、Slave2 节点上安装 mysql5.7
2 hostnamectl set-hostname Mysql1
3 hostnamectl set-hostname Mysql2
4 hostnamectl set-hostname Mysql3  

 

    (3)修改 Master、Slave1、Slave2 节点的 Mysql主配置文件/etc/my.cnf

 1 ##Master 节点##
 2 vim /etc/my.cnf
 3 [mysqld]
 4 server-id = 1
 5 log_bin = master-bin
 6 log-slave-updates = true
 7  
 8 systemctl restart mysqld  
 9 
10 ##Slave1、Slave2 节点##
11 vim /etc/my.cnf
12 server-id = 2 #三台服务器的 server-id 不能一样
13 log_bin = master-bin
14 relay-log = relay-log-bin
15 relay-log-index = slave-relay-bin.index
16  
17 systemctl restart mysqld  

 

    (4)在 Master、Slave1、Slave2 节点上都创建两个软链接

1 ln -s /usr/local/mysql/bin/mysql /usr/sbin/
2 ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/  

 

    (5)配置 mysql 一主两从
    ①:所有数据库节点进行MySQL授权

1 mysql -uroot -p
2 grant replication slave on *.* to 'myslave'@'192.168.229.%' identified by '12345';  #从数据库同步使用
3 grant all privileges on *.* to 'mha'@'192.168.229.%' identified by 'manager';   #manager 使用
4  
5 grant all privileges on *.* to 'mha'@'Mysql1' identified by 'manager';  #防止从库通过主机名连接不上主库
6 grant all privileges on *.* to 'mha'@'Mysql2' identified by 'manager';
7 grant all privileges on *.* to 'mha'@'Mysql3' identified by 'manager';
8 flush privileges; 

 

    ②:在 Master 节点查看二进制文件和同步点

1 show master status;
2 +-------------------+----------+--------------+------------------+-------------------+
3 | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
4 +-------------------+----------+--------------+------------------+-------------------+
5 | master-bin.000001 | 1215 | | | |
6 +-------------------+----------+--------------+------------------+-------------------+  

 

    ③:在 Slave1、Slave2 节点执行同步操作

1 change master to master_host='192.168.229.90',master_user='myslave',master_password='12345',master_log_file='master-bin.000001',master_log_pos=1215;
2  
3 start slave;  

 

    ④:在 Slave1、Slave2 节点查看数据同步结果

1 show slave status\G
2 //确保 IO 和 SQL 线程都是 Yes,代表同步正常。
3 Slave_IO_Running: Yes
4 Slave_SQL_Running: Yes  

 

    ⑤:两个从库必须设置为只读模式

1 set global read_only=1;  

 

    ⑥:插入数据测试数据库同步

1 create database test_db;
2 use test_db;
3 create table test(id int);
4 insert into test(id) values (1);

 

    (6)安装MHA软件
    ①:所有服务器上都安装 MHA 依赖的环境,首先安装 epel 源

1 yum install epel-release --nogpgcheck -y
2  
3 yum install -y perl-DBD-MySQL \
4 perl-Config-Tiny \
5 perl-Log-Dispatch \
6 perl-Parallel-ForkManager \
7 perl-ExtUtils-CBuilder \
8 perl-ExtUtils-MakeMaker \
9 perl-CPAN  

 

    ②:安装 MHA 软件包,先在所有服务器上必须先安装 node 组件

1 对于每个操作系统版本不一样,这里 CentOS7.4 必须选择 0.57 版本。
2 
3 在所有服务器上必须先安装 node 组件,最后在 MHA-manager 节点上安装 manager 组件,因为 manager 依赖 node 组件。
4 
5 cd /opt
6 tar zxvf mha4mysql-node-0.57.tar.gz
7 cd mha4mysql-node-0.57
8 perl Makefile.PL
9 make && make install  

 

    ③:在 MHA manager 节点上安装 manager 组件

1 cd /opt
2 tar zxvf mha4mysql-manager-0.57.tar.gz
3 cd mha4mysql-manager-0.57
4 perl Makefile.PL
5 make && make install  

 

    #manager 组件安装后在/usr/local/bin 下面会生成几个工具,主要包括以下几个:

  • masterha_check_ssh 检查 MHA 的 SSH 配置状况
  • masterha_check_repl 检查 MySQL 复制状况
  • masterha_manger 启动 manager的脚本
  • masterha_check_status 检测当前 MHA 运行状态
  • masterha_master_monitor 检测 master 是否宕机
  • masterha_master_switch 控制故障转移(自动或者手动)
  • masterha_conf_host 添加或删除配置的 server 信息
  • masterha_stop 关闭manager

    #node 组件安装后也会在/usr/local/bin 下面会生成几个脚本(这些工具通常由 MHAManager 的脚本触发,无需人为操作)主要如下:

  • save_binary_logs 保存和复制 master 的二进制日志
  • apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave
  • filter_mysqlbinlog 去除不必要的 ROLLBACK 事件(MHA 已不再使用这个工具)
  • purge_relay_logs 清除中继日志(不会阻塞 SQL 线程)

 

    (7)在所有服务器上配置无密码认证
    ①:在 manager 节点上配置到所有数据库节点的无密码认证

1 ssh-keygen -t rsa #一路按回车键
2 ssh-copy-id 192.168.229.80
3 ssh-copy-id 192.168.229.70
4 ssh-copy-id 192.168.229.90 

 

    ②:在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证

1 ssh-keygen -t rsa
2 ssh-copy-id 192.168.229.80
3 ssh-copy-id 192.168.229.70  

 

    ③:在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证

1 ssh-keygen -t rsa
2 ssh-copy-id 192.168.229.90
3 ssh-copy-id 192.168.229.80 

 

    ④:在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证

1 ssh-keygen -t rsa
2 ssh-copy-id 192.168.229.90
3 ssh-copy-id 192.168.229.80

 

    (8)在 manager 节点上配置 MHA
    ①:在 manager 节点上复制相关脚本到/usr/local/bin 目录

1 cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin  

 

    拷贝后会有四个执行文件:

  • master_ip_failover #自动切换时 VIP 管理的脚本
  • master_ip_online_change #在线切换时 vip 的管理
  • power_manager #故障发生后关闭主机的脚本
  • send_report #因故障切换后发送报警的脚本


    ②:复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录,这里使用master_ip_failover脚本来管理 VIP 和故障切换

1 cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin  

 

    ③:修改内容如下:(删除原有内容,直接复制并修改vip相关参数)

 1 vim /usr/local/bin/master_ip_failover
 2 #!/usr/bin/env perl
 3 use strict;
 4 use warnings FATAL => 'all';
 5  
 6 use Getopt::Long;
 7  
 8 my (
 9 $command, $ssh_user, $orig_master_host, $orig_master_ip,
10 $orig_master_port, $new_master_host, $new_master_ip, $new_master_port
11 );
12 #############################添加内容部分#########################################
13 my $vip = '192.168.229.200';    #指定vip的地址
14 my $brdc = '192.168.229.255';   #指定vip的广播地址
15 my $ifdev = 'ens33';    #指定vip绑定的网卡
16 my $key = '1';  #指定vip绑定的虚拟网卡序列号
17 my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";   #代表此变量值为ifconfig ens33:1 192.168.229.200
18 my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";    #代表此变量值为ifconfig ens33:1 192.168.229.200 down
19 my $exit_code = 0;  #指定退出状态码为0
20 #my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
21 #my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
22 ##################################################################################
23 GetOptions(
24 'command=s' => \$command,
25 'ssh_user=s' => \$ssh_user,
26 'orig_master_host=s' => \$orig_master_host,
27 'orig_master_ip=s' => \$orig_master_ip,
28 'orig_master_port=i' => \$orig_master_port,
29 'new_master_host=s' => \$new_master_host,
30 'new_master_ip=s' => \$new_master_ip,
31 'new_master_port=i' => \$new_master_port,
32 );
33  
34 exit &main();
35  
36 sub main {
37  
38 print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
39  
40 if ( $command eq "stop" || $command eq "stopssh" ) {
41  
42 my $exit_code = 1;
43 eval {
44 print "Disabling the VIP on old master: $orig_master_host \n";
45 &stop_vip();
46 $exit_code = 0;
47 };
48 if ($@) {
49 warn "Got Error: $@\n";
50 exit $exit_code;
51 }
52 exit $exit_code;
53 }
54 elsif ( $command eq "start" ) {
55  
56 my $exit_code = 10;
57 eval {
58 print "Enabling the VIP - $vip on the new master - $new_master_host \n";
59 &start_vip();
60 $exit_code = 0;
61 };
62 if ($@) {
63 warn $@;
64 exit $exit_code;
65 }
66 exit $exit_code;
67 }
68 elsif ( $command eq "status" ) {
69 print "Checking the Status of the script.. OK \n";
70 exit 0;
71 }
72 else {
73 &usage();
74 exit 1;
75 }
76 }
77 sub start_vip() {
78 `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
79 }
80 ## A simple system call that disable the VIP on the old_master
81 sub stop_vip() {
82 `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
83 }
84  
85 sub usage {
86 print
87 "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
88 }

 

    ④:创建 MHA 软件目录并拷贝配置文件,这里使用app1.cnf配置文件来管理 mysql 节点服务器

 1 mkdir /etc/masterha
 2 cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
 3  
 4 vim /etc/masterha/app1.cnf  #删除原有内容,直接复制并修改节点服务器的IP地址
 5 [server default]
 6 manager_log=/var/log/masterha/app1/manager.log
 7 manager_workdir=/var/log/masterha/app1
 8 master_binlog_dir=/usr/local/mysql/data
 9 master_ip_failover_script=/usr/local/bin/master_ip_failover
10 master_ip_online_change_script=/usr/local/bin/master_ip_online_change
11 password=manager
12 ping_interval=1
13 remote_workdir=/tmp
14 repl_password=12345
15 repl_user=myslave
16 secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.229.80 -s 192.168.229.70
17 shutdown_script=""
18 ssh_user=root
19 user=mha
20  
21 [server1]
22 hostname=192.168.229.90
23 port=3306
24  
25 [server2]
26 candidate_master=1
27 check_repl_delay=0
28 hostname=192.168.229.80
29 port=3306
30  
31 [server3]
32 hostname=192.168.229.70
33 port=3306 

 

    (9)第一次配置需要在 Master 节点上手动开启虚拟IP

1 /sbin/ifconfig ens33:1 192.168.229.200/24  

 

    (10)在 manager 节点上测试 ssh 无密码认证
    (11)在 manager 节点上测试 mysql 主从连接情况,最后出现 MySQL Replication Health is OK 字样说明正常
    (12)在 manager 节点上启动 MHA

  • --remove_dead_master_conf:该参数代表当发生主从切换后,老的主库的 ip 将会从配置文件中移除。
  • --manger_log:日志存放位置。
  • --ignore_last_failover:在缺省情况下,如果 MHA 检测到连续发生宕机,且两次宕机间隔不足 8 小时的话,则不会进行 Failover, 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件,默认情况下,MHA 发生切换后会在日志记目录,也就是上面设置的日志app1.failover.complete文件,下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换,除非在第一次切换后收到删除该文件,为了方便,这里设置为--ignore_last_failover。

    (13)查看 MHA 状态、日志、Mysql1的vip地址等是否正常。


3. 故障模拟与故障恢复
  3.1 故障模拟

 1 ##在 manager 节点上监控观察日志记录
 2 
 3 tail -f /var/log/masterha/app1/manager.log
 4 
 5 ##在 Master 节点 Mysql1 上停止mysql服务
 6 
 7 systemctl stop mysqld
 8 或
 9 pkill -9 mysql
10 
11 ##正常自动切换一次后,MHA 进程会退出。HMA 会自动修改 app1.cnf 文件内容,将宕机的 mysql1 节点删除。查看 mysql2 是否接管 VIP
12 
13 ifconfig  

 

  3.2 故障切换备选主库的算法

    一般判断从库的是从(position/GTID)判断优劣,数据有差异,最接近于master的slave,成为备选主。
    数据一致的情况下,按照配置文件顺序,选择备选主库。
    设定有权重(candidate_master=1),按照权重强制指定备选主。
    (1)默认情况下如果一个slave落后master 100M的relay logs的话,即使有权重,也会失效。
    (2)如果check_repl_delay=0的话,即使落后很多日志,也强制选择其为备选主。


  3.3 故障修复步骤

 

    (1)修复mysql

1 systemctl restart mysqld  

 

    (2)修复主从

1 ##在现主库服务器 Mysql2 查看二进制文件和同步点
2 
3 show master status;  
4 
5 ##在原主库服务器 mysql1 执行同步操作
6 
7 change master to master_host='192.168.229.80',master_user='myslave',master_password='12345',master_log_file='master-bin.000001',master_log_pos=1745;
8  
9 start slave; 

 

    (3)在 manager 节点上修改配置文件app1.cnf(再把这个记录添加进去,因为它检测掉失效时候会自动消失)

 1 vi /etc/masterha/app1.cnf
 2 ......
 3 secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.229.90 -s 192.168.229.70
 4 ......
 5 [server1]
 6 hostname=192.168.229.80
 7 port=3306
 8  
 9 [server2]
10 candidate_master=1
11 check_repl_delay=0
12 hostname=192.168.229.90
13 port=3306
14  
15 [server3]
16 hostname=192.168.229.70
17 port=3306  

 

    (4)在 manager 节点上启动 MHA

1 nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 & 
2 
3 ##解决中英字不兼容报错的问题
4 
5 dos2unix /usr/local/bin/master_ip_failover

 

 

 

 

 

 

-

 

上一篇:MHA高可用


下一篇:MySQL MHA