关于sharding-jdbc

一.概念

sharding-jdbc是当当网开源的一款客户端代理中间价。sharding-jdbc包含分库分片和读写分离功能。

对应用的代码没有侵入型,几乎没有任何改动,兼容主流orm框架,主流数据库连接池。目前属于apache的孵化项目shardingSphere,发展迅猛。sharding-jdbc实现读写分离不能实现主从库数据同步。

Sharding-JDBC 采用在 JDBC 层扩展分库分表,支持读写分离,是一个以 jar 形式提供服务的轻量级组件,其核心思路是小而美地完成最核心的事情,

基于 JDBC 层进行分片的好处是轻量、简单、兼容性好以及无需额外的运维工作。缺点是无法跨语言,目前仅支持 Java。

 

二.sharding-jdbc架构图

sharding-jdbc都有哪些包?

sharding-jdbc-config-parent    配置相关源码
sharding-jdbc-core      核心源码
sharding-jdbc-doc       文档
sharding-jdbc-example:针对各个模块的测试用例代码;
sharding-jdbc-plugin:目前只有KeyGenerator的三种实现;
sharding-jdbc-transaction-parent:事务相关源码;
 关于sharding-jdbc

 

 

三.sharding-jdbc与mycat 相似性以及区别

从设计理念上看确实有一定的相似性。主要流程都是SQL 解析 -> SQL 路由 -> SQL 改写 -> SQL 执行 -> 结果归并。

但架构设计上是不同的。Mycat 是基于 Proxy,它复写了 MySQL 协议,将 Mycat Server 伪装成一个 MySQL 数据库,

而 Sharding-JDBC 是基于 JDBC 的扩展,是以 jar 包的形式提供轻量级服务的。

 

四.sharding-jdbc支持读写分离

Sharding-JDBC 从 1.3.0 开始支持读写分离。其功能包括:

(1)根据配置区分写库和多个读库,目前暂时只有轮训策略选取读库,可以配合分库分表使用。

(2)通过 Hint 强制指定某次查询走写库。

(3)如果在同一线程且同一数据库连接中有发现 DML 语句,则该 DML 之后的查询都从写库查询,DML 之前的 DQL 语句不受影响,仍然查询读库。其目的是保持同一用户线程的数据一致性。

但限于 Sharding-JDBC 本身设计的考虑,数据库层面的主从切换以及主从数据同步,Sharding-JDBC并不负责。

Sharding-JDBC 定位仍然是轻量级的增强版数据库驱动。因此由于主库和从库同步延迟导致的数据不一致,并不是Sharding-JDBC 的处理范畴。

sharding-jdbc 3.0版本:更名为sharding-sphere

Sharding-Sphere是一套开源的分布式数据库中间件解决方案组成的生态圈,它由Sharding-JDBC、Sharding-Proxy和Sharding-Sidecar这3款相互独立的产品组成。

(1)Sharding-JDBC

Sharding-JDBC是Sharding-Sphere的第一个产品,也是Sharding-Sphere的前身。

它定位为轻量级Java框架,在Java的JDBC层提供分库分表、读写分离、数据库治理、柔性事务等服务。

它使用客户端直连数据库,以jar包形式提供服务,无需额外部署和依赖,可理解为增强版的JDBC驱动,完全兼容JDBC和各种ORM框架。

(2)Sharding-Proxy

Sharding-Proxy是Sharding-Sphere的第二个产品。

它定位为透明化的数据库代理端,提供封装了数据库二进制协议的服务端版本,用于完成对异构语言的支持。

Sharding-Proxy屏蔽了底层的分库分表,您可以像使用一个简单的数据库一样来操作分库分表的数据。

目前提供MySQL版本,它可以使用任何兼容MySQL协议的访问客户端(如:MySQL Command Client, MySQLWorkbench等)来访问Sharding-Proxy,进而进行DDL/DML等操作来变更数据,对DBA更加友好。

 

目前分库分表的中间件有两种思想,分别是:

(1)类似 Sharding-JDBC 及 TDDL 的增强版 JDBC 驱动思想;

(2)类似 Mycat 增加中间层,然后在中间层进行分库分表思想;

JDBC 驱动版的优点:

(1)轻量,范围更加容易界定,只是 JDBC 增强,不包括 HA、事务以及数据库元数据管理;

(2)开发的工作量较小,无需关注 nio,各个数据库协议等;

(3)运维无需改动,无需关注中间件本身的 HA;

(4)性能高,JDBC 直连数据库,无需二次转发;

(5)可支持各种基于 JDBC 协议的数据库,如:MySQL,Oralce,SQLServer;

Proxy 版的优点:

(1)可以负责更多的内容,将数据迁移,分布式事务等纳入 Proxy 的范畴;

(2)更有效的管理数据库的连接;

(3)整合大数据思路,将 OLTP 和 OLAP 分离处理;

因此两种方式互相可以互补,建议使用 Java 的团队,且仅 OLTP 的互联网前端操作。有可能会使用多种数据库的情况,可以选择 JDBC层的中间件;

如果需要 OLAP 和 OLTP 混合,加以重量级的操作,如数据迁移,分布式事务等,可以考虑 Proxy 层的中间件。


五.Sharding-JDBC 应用场景

1、适合场景

对于关系型数据库数据量很大的情况,需要进行水平拆库和拆表(即分库和分表),这种场景很适合使用 Sharding-JDBC。

举例说明:

假设有一亿数据的用户库,放在 MySQL 数据库里查询性能会比较低,而采用水平拆库,将其分为 10 个库,根据用户的 ID 模10,

这样数据就能比较平均的分在 10 个库中,每个库只有 1000w 记录,查询性能会大大提升。分片策略类型非常多,大致分为 Hash +Mod、Range、Tag 等。

Sharding-JDBC 还提供了读写分离的能力,用于减轻写库的压力。

此外,Sharding-JDBC 可以用在 JPA 场景中,如 JPA、Hibernate、Mybatis,Spring JDBC Template 等任何 Java 的 ORM 框架。

Java 的 ORM 框架也都是采用 JDBC 与数据库交互。这也是我们选择在 JDBC 层,而非选择一个 ORM 框架进行开发的原因。

我们希望 Sharding-JDBC 可以尽量的兼容所有的 Java 数据库访问层,并且无缝的接入业务应用。

 

2、不合适的场景主要是两方面:

(1)不适合 OLAP 的场景。虽然 Sharding-JDBC 也能做聚合分组查询,但大量的 OLAP 场景,仍然会比较慢,而且复杂的SQL(如子查询等)目前还没有支持。

         这种查询不太适合大数据和高并发的互联网 online 数据库,建议使用合理的 OLTP 查询。

(2)不适合事务强一致的要求。目前 Sharding-JDBC 的事务支持两种,一种是弱 XA,另一种是柔性事务(BASE)。

因为 XA的两阶段或三阶段提交其性能较低,因此互联网公司基本不会采用。而无论是弱 XA还是柔性事务,都无法保证事务在任意时间段完全保证一致,

其中柔性事务能保证数据的最终一致性,但达到最终一致性的时间仍然不可控。因此对于对跨库事务强一致要求很高的场景,需要从设计方面去考虑数据库schema 的合理性。

对于 JTA 事务,目前 Shariding-JDBC 没有实现 JTA 的标准。而且由于在互联网场景下使用 JTA 比较少见,因此暂时不支持 JTA 事务。

 

3、性能测试报告如下:

(1)使用Sharding-JDBC,性能是大家最关心的问题。在数据量一致的情况下,使用Sharding-JDBC和原生JDBC的性能测试报告如下:

查询操作:Sharding-JDBC的TPS为JDBC的TPS的99.8%。

插入操作:Sharding-JDBC的TPS为JDBC的TPS的90.2%。

更新操作:Sharding-JDBC的TPS为JDBC的TPS的93.1%。

可以看到,Sharding-JDBC在查询中的性能损失非常低,插入和更新略高。

(2)将单表的数据拆分为二,放入两个表中,使用Sharding-JDBC和原生JDBC的性能测试报告如下:

查询操作:TPS双库比单库可以增加大约94%的性能。

插入操作:TPS双库比单库可以增加大约60%的性能。

更新操作:TPS双库比单库可以增加大约89%的性能。

结果表明,Sharding-JDBC可有效利用水平扩展大幅度提升性能。

 

关于sharding-jdbc

上一篇:MyBatis 动态SQL


下一篇:[原创] 关于Modbus 两种CRC16的校验值算法 - 讨论