一、案例概述
1.在企业应用中,成熟的业务通常数据量都比较大
2.单台Mysql在安全性、高可用性和高并发方面都无法满足实际的需求
3.配置多台主从数据库服务器以实现读写分离
二、mysql主从复制
2.1 mysql的复制类型
1.基于语句的复制(STATEMENT,MySQL默认类型)
2.基于行的复制(POW)
3.混合类型的复制(MIXED)
2.2 mysql主从复制的工作原理
1.Master节点要开启二进制日志(bin log),Slave节点开启中继日志(relay log)
2.Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中
3.Slave节点会在一定时间间隔内对主节点的二进制日志进行探测其是否发生改变,如果改变,则开始一个I/O线程请求主节点的二进制事件
4.同时主节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存在从节点的本地中继日志中,从节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成sql语句逐一执行,使得数据和主节点一致,最后I/O线程和SQL线程进入睡眠,等待下一次被唤醒
2.3 部署主从服务器
2.3.1 主从服务器设置时间同步
1)主服务器(192.168.80.11)
systemctl stop firewalld
setenforce 0
yum -y install ntp
vim /etc/ntp.conf
末行添加
server 127.127.80.0 #设置本地是时钟源,注意修改网段
fudge 127.127.80.0 stratum 8 #设置时间层级为8(限制在15内)
systemctl start ntpd
2)从服务器(192.168.80.12,192.168.80.13)
systemctl stop firewalld
setenforce 0
yum -y install ntp ntpdate
systemctl start ntpd
/usr/sbin/ntpdate 192.168.80.11 #进行时间同步,指向Master服务器IP
crontab -e
*/30 * * * * /usr/sbin/ntpdate 192.168.80.11
2.3.2 主服务器的mysql配置(mysql5.7版本)
vim /etc/my.cnf
server_id = 1
log-bin=master-bin #添加,主服务器开启二进制日志
binlog_format = MIXED
log-slave-updates=true #添加,允许从服务器更新二进制日志
systemctl restart mysqld
mysql -u root -p
#给从服务器授权,允许其复制所有数据库的所有表(第一个账户)
grant replication slave on *.* to 'myslave'@'192.168.80.%' identified by '264196';
flush privileges;
查看master数据库状态
show master status\G
2.3.3 从服务器的mysql配置(mysql5.7版本)
vim /etc/my.cnf
server-id = 2 #修改,注意id与Master的不同,两个Slave的id也要不同
relay-log=relay-log-bin #添加,开启中继日志,从主服务器上同步日志文件记录到本地
relay-log-index=slave-relay-bin.index #添加,定义中继日志文件的位置和名称
systemctl restart mysqld
mysql -u root -p
change master to master_host='192.168.80.11' , master_user='myslave',master_password='264196',master_log_file='master-bin.000001',master_log_pos=900;
#配置同步,注意 master_log_file 和 master_log_pos 的值要与Master查询的一致
start slave; #启动同步,如有报错执行 reset slave;
show slave status\G #查看 Slave 状态
确保 IO 和 SQL 线程都是 Yes,代表同步正常。
Slave_IO_Running: Yes #负责与主机的io通信
Slave_SQL_Running: Yes #负责自己的slave mysql进程
2.3.4 验证主从复制
1)主服务器建立库和表
2)从服务器查看库和表是否同步
三、mysql读写分离
3.1 读写分离原理
1.读写分离就是只在主服务器上写,只在从服务上读;
2.主数据库处理事务性查询,从数据库处理select查询;
3.数据库复制被用来把事务性查询导致的变更同步到集群中的从数据库
3.2 常见的mysql读写分离方式
1.基于程序代码内部实现
1)在代码中根据select、insert进行路由分类,这类方法也是目前生产环境应用最广泛的
2)优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员求实现。运维人员无从下手
3)但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大
2.基于中间代理层实现
代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序:
(1)MySQL-Proxy。MySQL-Proxy 为 MySQL开源项目,通过其自带的 lua 脚本进行SQL 判断。由于使用MySQL Proxy 需要写大量的Lua脚本,这些Lua并不是现成的,而是需要自己去写。这对于并不熟悉MySQL Proxy内置变量和MySQL Protocol的人来说是非常困难的
(2)Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy
0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务, 每天承载的读写请求数达几十亿条。支持事物以及存储过程。
(3)Amoeba。 由陈思儒开发,作者曾就职于阿可里巴巴。该程序由Java语言进行开发,可里巴巴将其用于生产环境。 但是它不支持事务和存储过程;是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层
3.3 部署读写分离(采用amoeba方式)
3.3.1 安装amoeba服务器(192.168.80.14)
将jdk-6u14-linux-x64.bin 和 amoeba-mysql-binary-2.2.0.tar.gz.0 上传到/opt目录下。
cd /opt/
cp jdk-6u14-linux-x64.bin /usr/local/
cd /usr/local/
chmod +x jdk-6u14-linux-x64.bin
./jdk-6u14-linux-x64.bin
按空格到最后一行
按yes,按enter
mv jdk1.6.0_14/ /usr/local/jdk1.6
vim /etc/profile
export JAVA_HOME=/usr/local/jdk1.6
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
export AMOEBA_HOME=/usr/local/amoeba
export PATH=$PATH:$AMOEBA_HOME/bin
source /etc/profile
java -version
##安装 Amoeba软件##
mkdir /usr/local/amoeba
tar zxvf /opt/amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
chmod -R 755 /usr/local/amoeba/
/usr/local/amoeba/bin/amoeba
//如显示amoeba start|stop 说明安装成功
3.3.2 三个节点都开放amoeba访问权限
grant all on *.* to test@'192.168.80.%' identified by '264196';
3.3.3 amoeba服务器上配置amoeba服务
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
vim amoeba.xml #修改amoeba配置文件
30修改
<property name="user">amoeba</property>
32修改
<property name="password">264196</property>
115修改
<property name="defaultPool">master</property>
117去掉注释–
<property name="writePool">master</property>
<property name="readPool">slaves</property>
cp dbServers.xml dbServers.xml.bak
vim dbServers.xml #修改数据库配置文件
23修改
<property name="schema">mysql</property>
26修改
<!-- mysql user -->
<property name="user">test</property>
28-30去掉注释
<property name="password">264196</property>
45修改,设置主服务器的名Master
<dbServer name="master" parent="abstractServer">
48修改,设置主服务器的地址
<property name="ipAddress">192.168.80.11</property>
52修改,设置从服务器的名slave1
<dbServer name="slave1" parent="abstractServer">
55修改,设置从服务器1的地址
<property name="ipAddress">192.168.80.12</property>
58复制上面6行粘贴,设置从服务器2的名slave2和地址
<dbServer name="slave2" parent="abstractServer">
<property name="ipAddress">192.168.80.13</property>
65修改
<dbServer name="slaves" virtual="true">
71修改
<property name="poolNames">slave1,slave2</property>
/usr/local/amoeba/bin/amoeba start & #启动Amoeba软件,按ctrl+c 返回
netstat -anpt | grep java #查看8066端口是否开启,默认端口为TCP 8066
3.3.4 测试读写分离
1)客户端(192.168.80.102)
下载 mariadb 客户端
yum -y install mariadb
systemcrl stop firewalld
setenforce 0
远程登录 amoeba 服务器
mysql -u amoeba -p264196 -h 192.168.80.14 -P8066
2)测试slave服务器的读
在slave1上插入一条数据
insert into gxd.gxd01 values(4,'ddd');
在slave2上插入一条数据
insert into gxd.gxd01 values(5,'eee');
3)测试master服务器的写
从服务器关闭同步
stop slave;
主服务进行数据写入
insert into gxd.gxd01 values(6,'fff');
客户端查看数据情况
四、主从复制与读写分离会出现的问题
4.1 主从复制慢(延迟)有哪些可能
1.master服务器高并发,形成大量事务
2.网络延迟
3.主从硬件设备导致:cpu主频、内存I/O、硬盘I/O
4.本来就不是同步复制,而是异步复制
4.2 一般Slave_IO_Running:NO的可能性
1.网络不通
2.my.conf配置有问题
3.密码、file文件名、pos偏移量不对
4.防火墙没关