利用MySQL读写分离,提升应用数据吞吐性能
背景
一般情况下,对数据库的读和写都在同一个数据库服务器中操作时,业务系统性能会降低。为了提升业务系统性能,优化用户体验,可以通过读写分离来减轻主数据库的负载。本篇文章分别从应用层和系统层来介绍读写分离的实现方法。
应用层实现方法:
应用层中直接使用代码实现,在进入Service之前,使用AOP来做出判断,是使用写库还是读库,判断依据可以根据方法名判断,比如说以query、find、get等开头的就走读库,其他的走写库。
优点:
1、多数据源切换方便,由程序自动完成。
2、不需要引入中间件。
3、理论上支持任何数据库。
缺点:
1、由程序员完成,运维参与不到。
2、不能做到动态增加数据源。
系统层实现方法:
方式一:使用DRDS实现
https://help.aliyun.com/document_detail/29681.html
方式二:使用中间件MySQL-proxy实现
本教程使用MySQL-proxy实现读写分离。
MySQL-proxy介绍:
MySQL Proxy是一个处于Client端和MySQL server端之间的简单程序,它可以监测、分析或改变它们的通信。它使用灵活,没有限制,常见的用途包括:负载平衡,故障、查询分析,查询过滤和修改等等。
MySQL-proxy原理:
MySQL Proxy是一个中间层代理,简单的说,MySQL Proxy就是一个连接池,负责将前台应用的连接请求转发给后台的数据库,并且通过使用lua脚本,可以实现复杂的连接控制和过滤,从而实现读写分离和负载平衡。对于应用来说,MySQL Proxy是完全透明的,应用则只需要连接到MySQL Proxy的监听端口即可。当然,这样proxy机器可能成为单点失效,但完全可以使用多个proxy机器做为冗余,在应用服务器的连接池配置中配置到多个proxy的连接参数即可。
优点:
1、源程序不需要做任何改动就可以实现读写分离。
2、动态添加数据源不需要重启程序。
缺点:
1、程序依赖于中间件,会导致切换数据库变得困难。
2、由中间件做了中转代理,性能有所下降。
操作步骤
环境说明:
主库IP:121.40.18.26
从库IP:101.37.36.20
MySQL-proxy代理IP:116.62.101.76
前期准备:
1、新建3台ECS,并安装mysql。
2、搭建主从,必须保证主从数据库数据一致。
主环境
1.修改mysql配置文件。
vim /etc/my.cnf
[mysqld]
server-id=202 #设置服务器唯一的id,默认是1
log-bin=mysql-bin # 启用二进制日志
从环境
[mysqld]
server-id=203
2.重启主从服务器中的MySQL服务。
/etc/init.d/mysqld restart
3.在主服务器上建立帐户并授权slave。
mysql -uroot -p95c7586783
grant replication slave on *.* to 'syncms'@'填写slave-IP' identified by '123456';
flush privileges;
4.查看主数据库状态。
mysql> show master status;
5.配置从数据库。
change master to master_host='填写master-IP', master_user='syncms', master_password='123456', master_log_file='mysql-bin.000005', master_log_pos=602;
6.启动slave同步进程并查看状态。
start slave;
show slave status\G
7.验证主从同步。
主库上操作:
mysql> create database testproxy;
mysql> create table testproxy.test1(ID int primary key,name char(10) not null);
mysql> insert into testproxy.test1 values(1,'one');
mysql> insert into testproxy.test1 values(2,'two');
mysql> select * from testproxy.test1;
从库操作:
从库中查找testproxy.test1表的数据,与主库一致,主从同步成功
select * from testproxy.test1;
读写分离配置
1.安装MySQL-Proxy。
wget https://cdn.mysql.com/archives/mysql-proxy/mysql-proxy-0.8.5-linux-glibc2.3-x86-64bit.tar.gz
mkdir /alidata
tar xvf mysql-proxy-0.8.5-linux-glibc2.3-x86-64bit.tar.gz
mv mysql-proxy-0.8.5-linux-glibc2.3-x86-64bit/ /alidata/mysql-proxy-0.8.5
2.环境变量设置。
vim /etc/profile #加入以下内容
PATH=$PATH:/alidata/mysql-proxy-0.8.5/bin
export $PATH
source /etc/profile #使变量立即生效
mysql-proxy -V
3.读写分离设置。
cd /alidata/mysql-proxy-0.8.5/share/doc/mysql-proxy/
vim rw-splitting.lua
MySQL Proxy会检测客户端连接, 当连接没有超过min_idle_connections预设值时, 不会进行读写分离默认最小4个(最大8个)以上的客户端连接才会实现读写分离, 现改为最小1个最大2个,便于读写分离的测试,生产环境中,可以根据实际情况进行调整。
调整前:
调整后:
4.将lua管理脚本(admin.lua)复制到读写分离脚本(rw-splitting.lua)所在目录。
cp /alidata/mysql-proxy-0.8.5/lib/mysql-proxy/lua/admin.lua /alidata/mysql-proxy-0.8.5/share/doc/mysql-proxy/
授权
1.主库中操作授权,因主从同步的原因,从库也会执行。
mysql -uroot -p95c7586783
grant all on *.* to 'mysql-proxy'@'填写MySQL Proxy IP' identified by '123456';
flush privileges;
2.开启MySQL-Proxy。
mysql-proxy --daemon --log-level=debug --log-file=/var/log/mysql-proxy.log --plugins=proxy -b 填写master-IP:3306 -r 填写slave-IP:3306 --proxy-lua-script="/alidata/mysql-proxy-0.8.5/share/doc/mysql-proxy/rw-splitting.lua" --plugins=admin --admin-username="admin" --admin-password="admin" --admin-lua-script="/alidata/mysql-proxy-0.8.5/share/doc/mysql-proxy/admin.lua"
3.启动MySQL-Proxy之后,查看端口和相关进程。
netstat -tpln
ps -ef | grep mysql
测试读写分离
1.关闭从复制
stop slave;
2.MySQL-Proxy上操作,登录mysql-proxy后台管理。
mysql -u admin -padmin -P 4041 -h MySQL-Proxy-IP
select * from backends; #查看状态
第一次连接,会连接到主库上。
mysql -umysql-proxy -p123456 -h 116.62.101.76 -P 4040
insert into testproxy.test1 values(3,'three'); #新增一条数据,由于测试需要,关闭了从复制,因此该数据在主库中存在,在从库中不存在
多开几个连接进行测试,当查询testproxy.test1表的数据显示是从库的数据时,读写分离成功。
mysql -umysql-proxy -p123456 -h 116.62.101.76 -P 4040
select * from testproxy.test1;