详解MongoDB中用sharding将副本集分配至服务器集群的方法
关于副本集
副本集是一种在多台机器同步数据的进程。
副本集体提供了数据冗余，扩展了数据可用性。在多台服务器保存数据可以避免因为一台服务器导致的数据丢失。
也可以从硬件故障或服务中断解脱出来，利用额外的数据副本，可以从一台机器致力于灾难恢复或者备份。
在一些场景，可以使用副本集来扩展读性能。客户端有能力发送读写操作给不同的服务器。
也可以在不同的数据中心获取不同的副本来扩展分布式应用的能力。
mongodb副本集是一组拥有相同数据的mongodb实例，主mongodb接受所有的写操作，所有的其他实例可以接受主实例的操作以保持数据同步。
主实例接受客户可的写操作，副本集只能有一个主实例，因为为了维持数据一致性，只有一个实例可写，主实例的日志保存在oplog。
Client Application Driver
Writes Reads
| |
Primary
|Replication|Replication
Secondary Secondary
二级节点复制主节点的oplog然后在自己的数据副本上执行操作，二级节点是主节点数据的反射，如果主节点不可用，会选举一个新的主节点。默认读操作是在主节点进行的，但是可以指定读取首选项参数来指定读操作到副本节点。
可以添加一个额外的仲裁节点（不拥有被选举权），使副本集节点保持奇数，确保可以选举出票数不同的直接点。仲裁者并不需要专用的硬件设备。
仲裁者节点一直会保存仲裁者身份。
1.异步复制
副本节点同步直接点操作是异步的，然而会导致副本集无法返回最新的数据给客户端程序。
2.自动故障转移
如果主节点10s以上与其他节点失去通信，其他节点将会选举新的节点作为主节点。
拥有大多数选票的副节点会被选举为主节点。
副本集提供了一些选项给应用程序，可以做一个成员位于不同数据中心的副本集。
也可以指定成员不同的优先级来控制选举。
sharding转换一个副本集为分片集群
1. 部署一个测试副本集
创建第一个副本集实例，名称为firstset:
1.1 创建副本集并且插入数据如下:
/data/example/firstset1 /data/example/firstset2 /data/example/firstset3
创建目录:
mkdir -p /data/example/firstset1 /data/example/firstset2 /data/example/firstset3
1.2 在其他终端启动三个mongodb实例，如下：
mongod --dbpath /data/example/firstset1 --port 10001 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset1/firstset1.log --logappend --nojournal --directoryperdb mongod --dbpath /data/example/firstset2 --port 10002 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset2/firstset2.log --logappend --nojournal --directoryperdb mongod --dbpath /data/example/firstset3 --port 10003 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset3/firstset3.log --logappend --nojournal --directoryperdb
--oplog选项强制每个mongodb实例操作日志为700M，不使用该参数则默认为分区空间的5%，限制oplog的大小，可以使每个实例启动的快一点。
1.3 连接一个mongodb实例的shell
mongo mongo01:10001/admin
如果是运行在生产环境下，或者不同主机名或IP的机器上，需要修改mongo01为指定名称。
1.4 在mongo shell上初始化副本集
var config = {
"_id" : "firstset",
"members" : [
{"_id" : 0, "host" : "mongo01:10001"},
{"_id" : 1, "host" : "mongo01:10002"},
{"_id" : 2, "host" : "mongo01:10003"},
]
}
rs.initiate(config);
{
"info" : "Config now saved locally. Should come online in about a minute.",
"ok" : 1
}
或
db.runCommand(
{"replSetInitiate" :
{"_id" : "firstset",
"members" : [
{"_id" : 0, "host" : "mongo01:10001"},
{"_id" : 1, "host" : "mongo01:10002"},
{"_id" : 2, "host" : "mongo01:10003"}
]
}
}
)
1.5 在mongo shell中创建并插入数据：
use mydb
switched to db mydb
animal = ["dog", "tiger", "cat", "lion", "elephant", "bird", "horse", "pig", "rabbit", "cow", "dragon", "snake"];
for(var i=0; i<100000; i++){
name = animal[Math.floor(Math.random()*animal.length)];
user_id = i;
boolean = [true, false][Math.floor(Math.random()*2)];
added_at = new Date();
number = Math.floor(Math.random()*10001);
db.test_collection.save({"name":name, "user_id":user_id, "boolean": boolean, "added_at":added_at, "number":number });
}
上面的操作会向集合test_collection插入100万条数据，根据系统不同，可能会花费几分钟的时间。
脚本会加入如下格式的文档：
2. 部署一个分片设施
创建三个配置服务器来保存集群的元数据。
对于开发或者测试环境下，一个配置服务器足够了，在生产环境下，需要三天配置服务器，因为它们只需要占用很少的资源来保存元数据。
2.1 创建配置服务器的数据文件保存目录：
/data/example/config1 /data/example/config2 /data/example/config3
创建目录:
mkdir -p /data/example/config1 /data/example/config2 /data/example/config3
2.2 在另外的终端下，启动配置服务器：
mongod --configsvr --dbpath /data/example/config1 --port 20001 --fork --logpath /data/example/config1/config1.log --logappend mongod --configsvr --dbpath /data/example/config2 --port 20002 --fork --logpath /data/example/config2/config2.log --logappend mongod --configsvr --dbpath /data/example/config3 --port 20003 --fork --logpath /data/example/config3/config3.log --logappend
2.3 在另外的终端下，启动mongos实例：
mongos --configdb mongo01:20001,mongo01:20002,mongo01:20003 --port 27017 --chunkSize 1 --fork --logpath /data/example/mongos.log --logappend如果使用的是以前创建的表或者测试环境下，可以使用最小的chunksize(1M)，默认chunksize为64M意味着在mongodb自动分片启动前，集群必须拥有64MB的数据文件。
在生产环境下是不能使用很小的分片大小的。
configdb选项指定了配置服务器。mongos实例运行在默认的mongodb27017端口。
2.4 可以在mongos添加第一个分片，在新的终端执行以下命令：
2.4.1 连接mongos实例
mongo mongo01:27017/admin
2.4.2 使用addShard命令添加第一个分片
db.runCommand( { addShard : "firstset/mongo01:10001,mongo01:10002,mongo01:10003" } )
2.4.3 出现以下信息，表示成功：
{ "shardAdded" : "firstset", "ok" : 1 }
3. 部署另一个测试副本集
创建另外一个副本集实例，名称为secondset:
3.1 创建副本集并且插入数据如下:
/data/example/secondset1 /data/example/secondset2 /data/example/secondset3
创建目录:
mkdir -p /data/example/secondset1 /data/example/secondset2 /data/example/secondset3
3.2 在其他终端启动三个mongodb实例，如下：
mongod --dbpath /data/example/secondset1 --port 30001 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset1/secondset1.log --logappend --nojournal --directoryperdb mongod --dbpath /data/example/secondset2 --port 30002 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset2/secondset2.log --logappend --nojournal --directoryperdb mongod --dbpath /data/example/secondset3 --port 30003 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset3/secondset3.log --logappend --nojournal --directoryperdb
3.3 连接一个mongodb实例的shell
mongo mongo01:20001/admin
3.4 在mongo shell上初始化副本集
db.runCommand(
{"replSetInitiate" :
{"_id" : "secondset",
"members" : [
{"_id" : 0, "host" : "mongo01:30001"},
{"_id" : 1, "host" : "mongo01:30002"},
{"_id" : 2, "host" : "mongo01:30003"}
]
}
}
)
3.5 将该副本集加入分片集群
db.runCommand( { addShard : "secondset/mongo01:30001,mongo01:30002,mongo01:30003" } )
返回成功信息：
{ "shardAdded" : "firstset", "ok" : 1 }
3.6 通过运行listShards命令证实分片都添加成功。如下：
db.runCommand({listShards:1})
{
"shards" : [
{
"_id" : "firstset",
"host" : "firstset/mongo01:10001,mongo01:10002,mongo01:10003"
},
{
"_id" : "secondset",
"host" : "secondset/mongo01:30001,mongo01:30002,mongo01:30003"
}
],
"ok" : 1
}
相关文章
这篇文章介绍了MongoDB连接和创建数据库的方法，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-03-03
这篇文章主要介绍了详解MongoDB4.0构建分布式分片群集，详细的介绍了什么是MongoDB分片和具体使用，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2018-08-08
索引是一种特殊的数据结构，存储设置在一个易于遍历形式的数据的一小部分。索引存储一个特定的字段或一组字段的值，在索引中指定的值的字段排列的，对mongoDB索引相关知识感兴趣的朋友跟随小编一起学习下吧2022-03-03
MongoDB是一个是一个基于分布式文件存储的数据库,下面这篇文章主要给大家介绍了关于MongoDB卸载安装的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2023-04-04
本文详细讲解了MongoDB数据库索引的用法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-07-07
mongodb支持在文档中的任何一个字段建立单字段索引,包括文档的顶级字段,针对嵌入式文档建立索引或者针对嵌入式文档的某个字段建立索引,本文给大家介绍Mongodb单字段索引的相关知识,感兴趣的朋友一起看看吧2024-07-07
这篇文章主要给大家介绍了关于大数据环境下mongoDB为何要加索引的相关资料，文中通过示例代码介绍的非常详细，对大家学习或者使用mongoDB具有一定的参考学习价值，需要的朋友们下面来一起学习学习吧2019-05-05
与$pull有所不同,$pull操作通过指定一个查询条件或单个值来删除数组中的元素, 而$pullAll删除所有在指定列表中的数组元素,本文介绍Mongodb UPDATE操作中的$pullAll, 用来从数组中删除多个元素,感兴趣的朋友一起看看吧2024-06-06
这篇文章主要介绍了mongodb禁止外网访问及添加账号的操作方法,需要的朋友可以参考下2017-12-12
在UPDATE中使用$pull操作符,删除数组中的指定元素或删除符合条件的数组元素,本文基于Mongodb的官方文档,介绍使用$pull, 按照指定条件删除数组中的元素,文中通过代码示例介绍的非常详细,需要的朋友可以参考下2024-06-06
最新评论