2019独角兽企业重金招聘Python工程师标准>>>

准备工作

1、  什么是shard

副本集实现了网站的安全备份和故障的无缝转移,但是并不能实现数据的大容量存储,MongoDB实现的是分布式部署,把数据保存到其他机器上。实现这一过程的就是分片。

2、  什么时候需要分片

a)          用光了当前机器的磁盘空间

b)         单个的Mongod已经无法提供你要的写入性能了

c)          需要把大部分数据驻留在内存中籍此来提供更好的性能

3、  分片需要的三个部分

a)          shard服务器(Shard Server)。Shard服务器是存储实际数据的分片,每个Shard可以是一个mongod实例,也可以是一组mongod实例构成的Replica Sets。MongoDB官方建议每个Shard为一组Replica Sets(结合了Master/Slave模式与自动数据容错、自动恢复的综合体,结构如下图)。

b)         配置服务器(Config Server)。它存储了所有Shard节点的配置信息,每个chunk的Shard key范围,chunk在各Shard的分布情况以及集群中所有DB和collection的Shard配置信息。

c)          路由进程(Route Process)。一个前端路由,客户端由此接入,首先询问配置服务器需要到那个Shard上查询或保存记录,然后连接相应Shard执行操作,最后将结果返回客户端。(类似于网络中路由器的功能)

4、  未分片和分片Client反问mongod 的区别如下图。

                       

未分片客户端的连接                                                       分片后客户端的连接

5、  Shard Keys

MongoDB主要根据Shard Keys来划分数据,Shard Keys可以由文档的一个或者多个物理键值组成,对于分片Key的选定直接决定了集群中数据分布是否均衡、集群性能是否合理。

配置命令(参考《MongoDB:The Definiive Guide》,以及官网上的《MongoDB Manual》, http://docs.mongodb.org/manual/MongoDB-Manual.pdf)

一.         整体架构

说明:

1.        由于config servers非常重要,建议使用3个config servers,但是可以只是用一个config servers。

2.        一个较好的Auto Sharding解决方案是将每个一shard(分片)定为一个Replica Sets(复制集)。一个Replica Sets由若干个mongod instance组成,在这个集合中,所有的instance的数据相同,这使得即使有某一台机子当掉了,其它机子还是可以正常运行,而且这部分的控制是由Mongo自动完成的,因而尽可能地减少了因当机而产生的错误及人工处理的部分。而Sharding是可以将庞大的数据库拆分为几个部分分别发放到每一个shard,一来降低了单一一台服务器的压力,同时通过减少潜在的损失比例来提高效率。也就是说一个基于Replica Sets的Auto Sharding结构,可以把一个完整而且庞大的数据库根据个人定制,拆分到若干个服务器集合,每个服务器集合中的服务器群又相互保持数据同步,所以除非一个服务器集合中的所有服务器都当掉了,否则某台或几台的当机对数据库的影响是微忽其微的。

3.     一个完整的Auto Sharding功能的实现需要用到mongod和mongos,其中mongos作为真正的应用接口,数据的输入输出都应经过它。然后还需要一个或多个config server(建议是三个),它是mongod,但它不会用来存储应用程序的数据库,通俗的来说而是存放了这整个结构的配置属性,mongos会从config server中读取配置来进行工作。最后是真正会存储数据的mongod们,它们按组分为若干个Replica Sets,用来存放mongos拆分下来的各个sharding。

4.     Config服务器存储着集群的metadata信息,包括每个服务器,每个shard的基本信息和chunk(后面介绍)信息Config服务器主要存储的是chunk信息。每一个config服务器都复制了完整的chunk信息。

5.     Set up a Sharded Cluster(一开始就允许shard)的步骤。详细命令介绍参考
(http://docs.mongodb.org/manual/administration/sharding/#list-databases-with-sharding-enabled)

a)      Create data directories for each of the three config server instances.

b)      Start the three config server instances.

c)      Start a mongos instance.

d)      Connect to one of the mongos instances.

e)      Add shards to the cluster.

f)       Enable sharding for each database you want to shard.OR Enable sharding on a per-collection basis.

二.         Mongos

说明:

1.     mongos作为真正的应用接口,数据的输入输出都应经过它。

2.     另外,mongos还有平衡shard的功能(后面介绍);

三.         shardKey

说明:

1.     命令:{ shardCollection: "<db>.<collection>", key: { "<shardkey>": 1 } }

2.    MongoDB主要根据Shard Keys来划分数据,Shard Keys可以由文档的一个或者多个物理键值组成,对于分片Key的选定直接决定了集群中数据分布是否均衡、集群性能是否合理。

四.         Chunks

说明:

1.     Chunk是一个来自特殊集合中的一个数据范围,(collection,minKey,maxKey)描叙一个chunk,它介于minKey和maxKey范围之间。例如chunks 的maxsize(默认值是64M)大小是100M,如果一个文件达到或超过这个范围时,会被切分到2个新的chunks中。当一个shard的数据过量时,chunks将会被迁移到其他的shards上。同样,chunks也可以迁移到其他的shards上。

2.     Chunk包括了Shard Key取值在minKey和maxKey之间一组文档集合,但Chunk并不存放实际数据。整个MongoDB的chunk元信息存放在config数据库的chunks Colecttion中。

3.     当Chunk的大小达到maxsizeMongoDB会根据minKey和maxKey的一个中间值将一个Chunk分裂(Split)为两个Chunk,分裂完毕后,MongoDB会根据各个Shard的负载情况,决定是否将新Chunk移动到其他Shard。

4.    常用命令参考
(http://docs.mongodb.org/manual/administration/sharding/#list-databases-with-sharding-enabled)

五.         Balance Shard

说明:

1.      shard don’t a range of chunks but a block of chunks which have a range of data by shardKey.

2.      > db.runCommand( { addshard : "10.0.4.85:27020", allowLocal : 1, maxSize:2 , minKey:1, maxKey:10} ) (网上有人测试出shard1中数据超过10M也没有分片,暂时感觉还有些问题,找了很多资料也没有找到)

六.         Routed Request

说明:

1.     命令到达mongos,mongos判断出了query指向某个shard,将命令直接指向该shard并得到results并返回给用户。

七.         Scatter Gather

说明:

1.     命令到达mongos,比如说查询所有住在CA的说有用户,mongos判断出需要查询所有的shards,便将这个命令分散传达个每个shard,每个shard都得到相关的结果(并按照默认的shardKey进行排序)返回给mongos,mongos将所有shard返回的结果进行merge(也按照shardKey进行排序)返回给用户。

八.         Distributed Merge Sort

说明:

1.     命令到达mongos,比如说查询所有住在CA的说有用户并按照用户名排序,mongos判断出需要查询所有的shards,便将这个命令分散传达个每个shard,每个shard都得到相关的结果并按照用户名排序返回给mongos,mongos将所有shard返回的结果进行merge(按照用户名排序)返回给用户。

九.         操作命令

说明:

1.     当插入一个document时不含有shardKey的话会出现error。(Insert into it the documents which don’t have shardKey, it doesn‘t  work).

十.         查询命令


以上的图片均来源于互联网和视频(http://www.mongodb.org/display/DOCS/Sharding),本人刚刚开始了解MangoDB,有错误的地方希望大家多多指正!

转载于:https://my.oschina.net/liuzeli/blog/90477

MongoDB之Shard初步认识相关推荐

  1. mongodb replicaset shard 集群性能测试

    2019独角兽企业重金招聘Python工程师标准>>> mongodb支持自动分片的功能,并且可以让数据尽可能地均匀分布在各个节点上,本身支持横向扩展. 1,环境搭建 此次性能测试对 ...

  2. mongodb 集群shard_【mongoDB运维篇④】Shard 分片集群

    简述 为何要分片 减少单机请求数,降低单机负载,提高总负载 减少单机的存储空间,提高总存空间. 常见的mongodb sharding 服务器架构 要构建一个 MongoDB Sharding Clu ...

  3. 实例说明MongoDB存储的行情数据如何选择合适的Shard Key

    概述 当利用MongoDB的shard cluster技术做数据库扩展时,一个至关重要的点是要选择一个合适的shard key(片键),它是用来决定将数据在分片服务器上分配的策略.一个适用的shard ...

  4. mongodb 集群shard_【mongoDB运维篇④】Shard分片集群

    ## 简述 ### 为何要分片 1. 减少单机请求数,降低单机负载,提高总负载 2. 减少单机的存储空间,提高总存空间. ![此处输入图片的描述][1] ### **常见的mongodb shardi ...

  5. MongoDB(4.0)分片——大数据的处理之道

    什么是分片 高数据量和吞吐量的数据库应用会对单机的性能造成较大压力,大的查询量会将单机的CPU耗尽,大的数据量对单机的存储压力较大,最终会耗尽系统的内存而将压力转移到磁盘IO上. MongoDB分片是 ...

  6. mongodb windwos 安装(转)

    原文 1: 下载http://www.mongodb.org/downloads mongodb win32最新版本 2:建立一个DB(数据库文件)文件夹 我是放到D盘,路径d:\db  3. 解压m ...

  7. 总结Hbase 与 MongoDB

    当SQL满足不了你的需求或者SQL 已经不是必须的或者最佳的选择时,就是你考虑这类NoSQL 的时候了. 当你的内存大于你的数据时,schema也不是太确定时,mongodb在这里静静地等待My SQ ...

  8. 搭建mongodb分片

    搭建mongodb分片 http://gong1208.iteye.com/blog/1622078 Sharding分片概念 这是一种将海量的数据水平扩展的数据库集群系统,数据分表存储在shardi ...

  9. Mongodb 分片与副本集

    测试搭建 192.168.3.110 mongos 30000,30001,30002 config 40000,40001,40002 shard1 50001,50002,50003 shard2 ...

最新文章

  1. windows平台HTTP代理server搭建(CCproxy)
  2. Exchange2007中创建收件人对象、通讯组和地址列表和客户端访问
  3. 2019 CCPC wannfly winter camp Day 5
  4. 42:换汽水瓶ExchangeBottle
  5. 使用asp.net中的跟踪功能
  6. JavaScript函数式编程学习 1
  7. 关于 Eureka 2.x,别再人云亦云了!
  8. 对DSP的基本了解(一)--DSP是什么?
  9. QTTabBar 安装记录(Win10 enable .NET)
  10. WPF定制实现自己的分页控件并配合DataGrid使用
  11. 记录一次使用LKAdoc时出现的很low很low很low的问题
  12. 记录对接京东宙斯API -- 同步订单信息到自身系统
  13. Kafka Consumer 消费逻辑
  14. QAOA如何在NISQ处理器中展示应用级量子优势?
  15. Oracle-SQL语句的逻辑读怎么计算
  16. 计算机科学引论精编版,2021计算机科学引论(英文精编版)
  17. VR实时语音,带着最好的武器去战斗
  18. VD500潮湿压缩空气流量计0690 5001_A1_B1_C1_D1_E1_F1_G1_K1
  19. arduino+A4889+步进电机
  20. 马云:物联网和大数据的结合才是未来

热门文章

  1. 俄罗斯网络间谍被指攻击斯洛伐克政府长达数月
  2. 详细分析开源软件 ExifTool 的任意代码执行漏洞 (CVE-2021-22204)
  3. 谷歌 Chrome 同步功能可滥用于 C2 通信及数据提取
  4. CISA:很多受害者和 SolarWinds 之间并不直接相关
  5. 英国国家网络安全中心:速修复严重的 MobileIron RCE 漏洞 (CVE-2020-15505)
  6. 详述欺骗性断言如何引发严重的 Windows 内核漏洞 (CVE-2020-0792)
  7. 思科研究称80%的指纹认证机制均可遭绕过
  8. 手把手教你搭建Jenkins+Jmeter+Ant自动化集成环境
  9. 俄罗斯:国家机构今年已遭1000多万起网络攻击
  10. 如何使keystone更有效率