1.Mycat概述
在此前的服务器对数据库的存储数量不多的时候,MySql数据库基本能够满足对数据存储的要求。
但随着技术的不断发展,MySql甚至Redis都无法满足现今存储数量的指数级增长的要求,在面对千万级以上的数据存储时,MySql的性能将大幅下降,此时我们需要一个能够解决这些问题的办法。
而MyCat(数据库中间件)则是当下主流的解决海量数据存储问题的方法,接下来我将简略的介绍它的主要功能与原理。
2.Mycat的分库分表
Mycat是一个数据库中间件,也可以理解为是数据库代理。
Mycat的分表操作,即在配置文件中预先配置好将数据分开存储的几张表,且设定分开存储的相关规则,此时注意真实数据库的表名与配置文件中的表名一致。
当我们进行数据存储的操作时,Mycat将这些数据根据配置,把这些数据存储到不同的表中,以减少单表存储时的压力,提高读取与写入的性能。
3.Mycat快速搭建
1.在搭建Mycat时,我们需要预先准备三个配置文件,它们的文件名分别是server.xml、rule.xml和schema.xml。
server.xml
<?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE mycat:server SYSTEM "server.dtd"> <mycat:server xmlns:mycat="http://io.mycat/"> <system> <property name="useSqlStat">0</property> <!-- 1为开启实时统计、0为关闭 --> <property name="useGlobleTableCheck">0</property> <!-- 1为开启全加班一致性检测、0为关闭 --> <property name="sequnceHandlerType">2</property> <!-- <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议--> <!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号--> <!-- <property name="processorBufferChunk">40960</property> --> <!-- <property name="processors">1</property> <property name="processorExecutor">32</property> --> <!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena--> <property name="processorBufferPoolType">0</property> <!--默认是65535 64K 用于sql解析时最大文本长度 --> <!--<property name="maxStringLiteralLength">65535</property>--> <!--<property name="sequnceHandlerType">0</property>--> <!--<property name="backSocketNoDelay">1</property>--> <!--<property name="frontSocketNoDelay">1</property>--> <!--<property name="processorExecutor">16</property>--> <!-- <property name="serverPort">8066</property> <property name="managerPort">9066</property> <property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property> <property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> --> <!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志--> <property name="handleDistributedTransactions">0</property> <!-- off heap for merge/order/group/limit 1开启 0关闭 --> <property name="useOffHeapForMerge">1</property> <!-- 单位为m --> <property name="memoryPageSize">1m</property> <!-- 单位为k --> <property name="spillsFileBufferSize">1k</property> <property name="useStreamOutput">0</property> <!-- 单位为m --> <property name="systemReserveMemorySize">384m</property> <!--是否采用zookeeper协调切换 --> <property name="useZKSwitch">true</property> </system> <!-- 全局SQL防火墙设置 --> <!-- <firewall> <whitehost> <host host="127.0.0.1" user="mycat"/> <host host="127.0.0.2" user="mycat"/> </whitehost> <blacklist check="false"> </blacklist> </firewall> --> <user name="root"> <property name="password">123456</property> <property name="schemas">dm_order</property> <!-- 表级 DML 权限设置 --> <!-- <privileges check="false"> <schema name="TESTDB" dml="0110" > <table name="tb01" dml="0000"></table> <table name="tb02" dml="1111"></table> </schema> </privileges> --> </user> </mycat:server>
rule.xml
<?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE mycat:rule SYSTEM "rule.dtd"> <mycat:rule xmlns:mycat="http://io.mycat/"> <tableRule name="auto-sharding-rang-mod-order"> <rule> <columns>id</columns> <algorithm>rang-mod-dm</algorithm> </rule> </tableRule> <function name="rang-mod-dm" class="io.mycat.route.function.PartitionByMod"> <property name="count">3</property> </function> </mycat:rule>
schema.xml
<?xml version="1.0"?> <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> <mycat:schema xmlns:mycat="http://io.mycat/"> <schema name="dm_order" checkSQLschema="true" sqlMaxLimit="100"> <table name="dm_order" primaryKey="id" autoIncrement="true" dataNode="dn1,dn2,dn3" rule="auto-sharding-rang-mod-order"/> </schema>
<dataNode name="dn1" dataHost="a" database="dm_order1"/>
<dataNode name="dn2" dataHost="a" database="dm_order2"/> <dataNode name="dn3" dataHost="a" database="dm_order3"/> <dataHost name="a" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100"> <heartbeat>select 1</heartbeat> <!--注意下方的“url”中的IP地址应改为对应你的ubantu系统的IP地址--> <writeHost host="hostM1" url="192.168.115.158:3306" user="root" password="123456"> </writeHost> </dataHost> </mycat:schema>
2.接下来将这些文件复制到linux的root目录下,使用Xftp进行文件的传输
3.将宿主机中的三个xml文件复制到mycat容器中的/usr/local/mycat/conf目录,使用Xshell进行相关的操作
root@ubuntu:~# docker cp server.xml springcloudv20_mycat_1:/usr/local/mycat/conf root@ubuntu:~# docker cp rule.xml springcloudv20_mycat_1:/usr/local/mycat/conf root@ubuntu:~# docker cp schema.xml springcloudv20_mycat_1:/usr/local/mycat/conf
如下图
最后,重启Mycat容器。至此,Mycat的配置已基本完成,接下来进行相关的测试
4.Mycat相关测试
首先我们先连接Mycat的逻辑库,使用配置文件schema.xml中的设定好的账号密码连接MySql数据库,端口号为8066.
连接成功后数据库内部的表如下图所示:
接下来连接本地的数据库,端口号为3306。
连接成功后数据库内部的我们需要的表如下图所示:
最后我们在逻辑库中的表dm_order随意添加复数条的数据,然后刷新本地库的表,就可以看到,之前在逻辑库中存储的数据已经自动被分别保存在不同的表中。
5.springboot+mybatis实现分库分表
使用老师发给我们的项目文件,在运行后,与网址中输入相应的地址http://localhost:9090/addOrder.do并给予参数,然后刷新数据库中的表,可以查看添加的成果。