MongoDB基础教程系列--第九篇 MongoDB 分片

返回目录

1、分片介绍

分片(sharding)是将数据拆分,将其分散存到不同机器上的过程。MongoDB 支持自动分片,可以使数据库架构对应用程序不可见。对于应用程序来说,好像始终在使用一个单机的 MongoDB 服务器一样,另一方面,MongoDB 自动处理数据在分片上的分布,也更容易添加和删除分片。

请记住:复制是让多台服务器拥有同样的数据副本,每一台服务器都是其他服务器的镜像,而每一个分片都与其他分片拥有不同的数据子集。

通常,分片可以用来:

  • 增加可用的内存
  • 增加可用的磁盘空间
  • 减轻单台服务器的负载
  • 处理单个 mongod 服务器无法承受的吞吐量

2、MongoDB 分片集群组成

MongoDB 的分片集群由以下部分组成:

shard:每个分片包含分片数据的一个子集,每个分片可以部署为一个副本集

mongos:作为一个查询路由器,提供客户端应用程序和分片集群之间的接口。

config servers:配置服务器存储群集的元数据和配置信息。MongoDB 3.4 版本开始,配置服务器必须部署一个副本集。

分片集群的配置分为 Production Configuration 和 Development Configuration,一个用于生产环境下的配置,另个用于开发或者测试环境的配置。

2.1、Production Configuration(生产环境配置)

在生产集群(production cluster)中,如果集合数据是冗余的,并且系统配置够用,生产分片集群部署,需满足一下几点:

  • 部署配置服务器包含三个成员的副本集(Deploy Config Servers as a 3 member replica set)
  • 部署每一个分片可以是三个成员的副本集(Deploy each Shard as a 3 member replica set)
  • 部署可以有一个或多个路由(Deploy one or more mongos routers)

结构图如下:

MongoDB基础教程系列--第九篇 MongoDB 分片

2.2、Development Configuration(开发环境配置)

测试或者开发环境,可以使用最少的组件部署一个分片集群,这些非生产集群包含以下组件:

  • 具有一个成员的副本集配置服务器(A replica set config server with one member)
  • 至少一个分片作为一个成员的副本集(At least one shard as a single-member replica set)
  • 一个 mongos 实例(One mongos instance)

结构图如下:

MongoDB基础教程系列--第九篇 MongoDB 分片

注意:使用测试集群结构,仅仅用于测试或者开发。

下面用较简单的 Development Configuration 举例说明一下。

3、范例

接下来我们就用范例具体说明一下分片的过程,这里准备三台服务器,分别为 218.245.4.11、218.245.4.12、218.245.4.13。

218.245.4.11 作为配置服务器(config server),在该服务器上创建一个成员的副本集。实际项目中,需要三个成员的副本集。

218.245.4.12 作为分片(shard)服务器,在该服务器上也创建一个成员的副本集。实际项目中,可以创建多个分片,每个分片也可以是副本集。

218.245.4.13 作为 mongos 服务器。实际项目中,可以创建多个 mongos。

3.1 创建配置服务器副本集(Create the Config Server Replica Set)

3.1.1 启动配置服务器副本集中的成员(Start a member of the config server replica set),这里定义副本集名字为“configRep”,需要指定 --configsvr 参数,实际项目中用 --bind_ip 指定具体的IP地址

mongod --port 27017 --bind_ip 218.245.4.11 --configsvr  --replSet configRep --dbpath c:\data\db

3.1.2 连接到其中一个配置服务器,用 rs.initiate() 初始化副本集

rs.initiate(
{
_id: "configRep",
configsvr: true,
members: [
{ _id: 0, host : "218.245.4.11:27017" }
]
}
)

3.2 创建 Shard 副本集(Create the Shard Replica Sets)

3.2.1 启动 Shard 服务器副本集中的成员(Start a member of the shard replica set),这里定义副本集名字为“shardRep”,需要指定 --shardsvr 参数。这里可以不用是一个副本集,可以是单台 mongod 服务器。

mongod --port 27017 --bind_ip 218.245.4.12 --shardsvr  --replSet shardRep --dbpath c:\data\shard

3.2.2 连接到 Shard 服务器,用 rs.initiate() 初始化副本集

rs.initiate(
{
_id: "shardRep"
members: [
{ _id: 0, host : "218.245.4.12:27017" }
]
}
)

3.3 启动 mongos 实例

mongos --configdb configRep/218.24.5.4.11:27017 --port 27017

MongoDB 3.4 版本中,参数 --configdb 的值必须包含副本集的名称,这也是 MongoDB 3.4 版本为什么配置服务器要部署为副本集的原因。

3.4 给集群添加分片

添加分片的操作,必须在 mongos 下操作,也就是要先连上 mongos。可以用 sh.addShard() 方法添加分片

sh.addShard("shardRep/218.245.4.12:27017")

如果分片不用副本集,可以这样添加分片

sh.addShard("218.245.4.12:27017")

3.5 设置分片存储的数据库

MongoDB 中用 sh.enableSharding() 方法设置需要分片存储的数据库,连上 mongos。

sh.enableSharding("liruihuan")

3.6 设置需要分片的集合

在设置分片集合之前,我们有必要了解一下片键(shard key)的概念。MongoDB是怎么对集合分片的呢?这时候就用到了片键。片键是集合的一个键,MongoDB 根据这个键拆分数据。例如,如果选择基于“name”进行分片,MongoDB 对根据不同名字进行分片:“name1”到“name100”位于第一片,“name101”到“name200”位于第二片,以此类推。

给集合分片,需要用 sh.shardCollection() 方法指定需要分片的集合和片键,下面例子是给 user 集合分片,片键为 name,连上 mongos。

sh.shardCollection("liruihuan.user", { name : 1 } )

注意,如果这个集合包含有数据,在用 shardCollection() 之前,我们必须用 db.collection.createIndex() 方法给片键创建索引。如果这个集合为空,MongoDB 在用 shardCollection() 时会创建索引。

3.7 给 user 集合添加20万条数据

给 user 集合添加20万条数据,看看集合是这么分片的

for(var i = 0; i <200000; i++)
{
db.user.insert({"name":"lrh"+i,"age":18})
}

用 sh.status() 查看分片情况

--- Sharding Status ---
sharding version: {
"_id" : 1,
"minCompatibleVersion" : 5,
"currentVersion" : 6,
"clusterId" : ObjectId("58fcb9e3f6420984b3570e11")
}
shards:
{ "_id" : "shardRep", "host" : "shardRep/218.245.4.12:27017", "state" : 1 }
active mongoses:
"3.4.3" : 1
databases:
{ "_id" : "liruihuan", "primary" : "shardRep", "partitioned" : true }
liruihuan.user
shard key: { "name" : 1 }
unique: false
balancing: true
chunks:
shardRep 3
{ "name" : { "$minKey" : 1 } } -->> { "name" : "liruihuan" } on : shardRep Timestamp(1, 1)
{ "name" : "liruihuan" } -->> { "name" : "lrh7" } on : shardRep Timestamp(1, 2)
{ "name" : "lrh7" } -->> { "name" : { "$maxKey" : 1 } } on : shardRep Timestamp(1, 3)

我们可以看出集合的数据被分到名为 shardRep 副本集的分片上了,我们这里只用了一个分片,大家可以启动多个分片,看看数据是怎么分割的。

业精于勤,荒于嬉;行成于思,毁于随。

如果你觉得这篇文章不错或者对你有所帮助,可以通过右侧【打赏】功能,给予博主一点点鼓励和支持

上一篇:css3选择器笔记


下一篇:Java JMS 程序基础 与 ActiveMQ 安装(一)