java hash 分库分表_分库分表方案
摘自:Java技术栈
一、数据库瓶颈
不管是IO瓶颈,还是CPU瓶颈,最终都会导致数据库的活跃连接数增加,进而逼近甚至达到数据库可承载活跃连接数的阈值。
在业务Service来看就是,可用数据库连接少甚至无连接可用。接下来就可以想象了吧(并发量、吞吐量、崩溃)。
1、IO瓶颈
第一种:磁盘读IO瓶颈,热点数据太多,数据库缓存放不下,每次查询时会产生大量的IO,降低查询速度 -> 分库和垂直分表。
第二种:网络IO瓶颈,请求的数据太多,网络带宽不够 -> 分库。
2、CPU瓶颈
第一种:SQL问题,如SQL中包含join,group by,order by,非索引字段条件查询等,增加CPU运算的操作 -> SQL优化,建立合适的索引,在业务Service层进行业务计算。
第二种:单表数据量太大,查询时扫描的行太多,SQL效率低,CPU率先出现瓶颈 -> 水平分表。
二、分库分表
1、水平分库
1.概念:以字段为依据,按照一定策略(hash、range等),将一个库中的数据拆分到多个库中。
2.结果:
每个库的结构都一样;
每个库的数据都不一样,没有交集;
所有库的并集是全量数据;
3.场景:系统绝对并发量上来了,分表难以根本上解决问题,并且还没有明显的业务归属来垂直分库。
4.分析:库多了,io和cpu的压力自然可以成倍缓解。
2、水平分表
1.概念:以字段为依据,按照一定策略(hash、range等),将一个表中的数据拆分到多个表中。
2.结果:
每个表的结构都一样
每个表的数据都不一样,没有交集;
所有表的并集是全量数据;
3.场景:系统绝对并发量并没有上来,只是单表的数据量太多,影响了SQL效率,加重了CPU负担,以至于成为瓶颈。推荐阅读:MySQL全面优化,速度飞起来。
4.分析:表的数据量少了,单次SQL执行效率高,自然减轻了CPU的负担。
3、垂直分库
1.概念:以表为依据,按照业务归属不同,将不同的表拆分到不同的库中。
2.结果:
每个库的结构都不一样;
每个库的数据也不一样,没有交集;
所有库的并集是全量数据;
3.场景:系统绝对并发量上来了,并且可以抽象出单独的业务模块。4.分析:到这一步,基本上就可以服务化了。
例如,随着业务的发展一些公用的配置表、字典表等越来越多,这时可以将这些表拆到单独的库中,甚至可以服务化。再有,随着业务的发展孵化出了一套业务模式,这时可以将相关的表拆到单独的库中,甚至可以服务化。
4、垂直分表
1.概念:以字段为依据,按照字段的活跃性,将表中字段拆到不同的表(主表和扩展表)中。
2.结果:
每个表的结构都不一样;
每个表的数据也不一样,一般来说,每个表的字段至少有一列交集,一般是主键,用于关联数据;
所有表的并集是全量数据;
3.场景:系统绝对并发量并没有上来,表的记录并不多,但是字段多,并且热点数据和非热点数据在一起,单行数据所需的存储空间较大。以至于数据库缓存的数据行减少,查询时会去读磁盘数据产生大量的随机读IO,产生IO瓶颈。
4.分析:可以用列表页和详情页来帮助理解。垂直分表的拆分原则是将热点数据(可能会冗余经常一起查询的数据)放在一起作为主表,非热点数据放在一起作为扩展表。
这样更多的热点数据就能被缓存下来,进而减少了随机读IO。拆了之后,要想获得全部数据就需要关联两个表来取数据。但记住,千万别用join,因为join不仅会增加CPU负担并且会讲两个表耦合在一起(必须在一个数据库实例上)。关联数据,应该在业务Service层做文章,分别获取主表和扩展表数据然后用关联字段关联得到全部数据。
三、分库分表工具
sharding-sphere:jar,前身是sharding-jdbc;
TDDL:jar,Taobao Distribute Data Layer;
Mycat:中间件。
注:工具的利弊,请自行调研,官网和社区优先。
四、分库分表步骤
根据容量(当前容量和增长量)评估分库或分表个数 -> 选key(均匀)-> 分表规则(hash或range等)-> 执行(一般双写)-> 扩容问题(尽量减少数据的移动)。
五、分库分表问题
1、非partition key的查询问题(水平分库分表,拆分策略为常用的hash法)
端上除了partition key只有一个非partition key作为条件查询
映射法
基因法
注:写入时,基因法生成userid,如图。关于xbit基因,例如要分8张表,23=8,故x取3,即3bit基因。根据userid查询时可直接取模路由到对应的分库或分表。数据库怎么分库分表,垂直?水平?这篇也可以看下。
根据username查询时,先通过usernamecode生成函数生成username_code再对其取模路由到对应的分库或分表。id生成常用snowflake算法。
端上除了partition key不止一个非partition key作为条件查询
映射法
冗余法
注:按照orderid或buyerid查询时路由到dbobuyer库中,按照sellerid查询时路由到dbo_seller库中。感觉有点本末倒置!有其他好的办法吗?改变技术栈呢?
后台除了partition key还有各种非partition key组合条件查询
NoSQL法
冗余法
2、非partition key跨库跨表分页查询问题(水平分库分表,拆分策略为常用的hash法)
注:用NoSQL法解决(ES等)。
3、扩容问题(水平分库分表,拆分策略为常用的hash法)
1.水平扩容库(升级从库法)
注:扩容是成倍的。
2.水平扩容表(双写迁移法)
第一步:(同步双写)应用配置双写,部署;第二步:(同步双写)将老库中的老数据复制到新库中;第三步:(同步双写)以老库为准校对新库中的老数据;第四步:(同步双写)应用去掉双写,部署;
注:双写是通用方案。
六、分库分表总结
分库分表,首先得知道瓶颈在哪里,然后才能合理地拆分(分库还是分表?水平还是垂直?分几个?)。且不可为了分库分表而拆分。
选key很重要,既要考虑到拆分均匀,也要考虑到非partition key的查询。
只要能满足需求,拆分规则越简单越好。
java hash 分库分表_分库分表方案相关推荐
- thinkphp mysql分表_数据库分表和分库的原理及基于thinkPHP的实现方法
为什么要分表,分库: 当我们的数据表数据量,访问量很大,或者是使用频繁的时候,一个数据表已经不能承受如此大的数据访问和存储,所以,为了减轻数据库的负担,加快数据的存储,就需要将一张表分成多张,及将一类 ...
- java 跳表_数据结构跳表学习并用Java实现
前面学习很多类的源码过程中,底层基本都是数组和链表,今天学习第三种结构跳表(SkipList). 跳表解决的问题 一个有序的数组如果我们要判断一个数据是否存在可以通过二分查找法非常快速的判断出来,但是 ...
- mysql 根据分数分等级_数分面试-SQL篇
前言 文中部分SQL,可能考虑不全面,欢迎大家指正 文章结构: 1.SQL中的进阶函数-窗口函数 2.拼多多面试题 case专题-商品订单数据 case专题-活动运营数据 case专题-用户行为路径分 ...
- 虚拟桌面分屏_无需分屏软件!让一台主机为两台显示器分屏工作的方法
临近春节,家人聚在一起本来是其乐融融,不过,常常因为争抢使用一些东西而闹出矛盾,比如说:为了抢用电脑,大人与小孩常常会有吵起来.为了社会和谐,小编今天就跟大家分享一下一台主机让两个显示器共用的方法,这 ...
- ios分屏_苹果分屏功能怎么用?教你一键开启iPad分屏
苹果的分屏功能怎么用?很多苹果手机用户都对分屏的功能颇感兴趣,试问谁不想一边看剧一边还能刷微信回消息呢? 遗憾的是,现在iPhone的用户还只能继续对安卓手机羡慕下去,当前iOS系统并不支持直接分屏, ...
- python决策树分箱_快速分箱方法
python 分箱的一种方法 2018.08.02 R语言中有smbining可以进行最优分箱,python中分箱如果既要考虑箱体个数,分箱后信息量大小,也要考虑单调性等其他因素. 这里给出一种简单的 ...
- 除留余数法构造哈希表_哈希表算法原理
基本概念 哈希表(Hash Table)是一种根据关键字直接访问内存存储位置的数据结构.通过哈希表,数据元素的存放位置和数据元素的关键字之间建立起某种对应关系,建立这种对应关系的函数称为哈希函数. 哈 ...
- python 哈希表_哈希表哪家强?编程语言找你来帮忙!
点击关注上方"五分钟学算法", 设为"置顶或星标",第一时间送达干货. 转自编程技术宇宙 哈希表华山论剑 比特宇宙编程语言联合委员会准备举办一次大会,主题为哈希 ...
- 数据透视表和数据交叉表_数据透视表的数据提取
数据透视表和数据交叉表 Consider the data of healthcare drugs as provided in the excel sheet. The concept of piv ...
最新文章
- 《精通Nginx》——2.3 使用include文件
- xcode的bundle identifier修改
- C++设计模式-迭代器模式
- 相干光通信系统的调制与解调
- python解压缩gz文件_使用python解压缩.gz文件的一部分
- c 语言随机验证码原理,用C生成随机中文汉字验证码的基本原理及代码.doc
- C# Sqlite For WP7
- 随便说说字符集和编码
- 软件工程 个人学习笔记(第二章)
- 注册石墨文档无法连接服务器,石墨文档没有访问权限是怎么回事?权限解决方法看这里!...
- Robocup 仿真2D 学习笔记(三)最初的改进1
- jQuery取id的值的方法
- 彻底解决Word中子标题变黑块问题
- 修改谷歌和火狐浏览器滚动条的样式
- swift代码转oc代码_什么是不安全的Swift代码?
- 英特尔RealSense激光雷达摄像头L515拆解分析
- iwatch 1234 代的区别
- android 随音乐旋律,Deemo - 叩击心灵的旋律 - Android 应用 - 音乐游戏 - 【最美应用】...
- 重疾新规:银保监会已出通知!错过这一个月,或再等5年!
- 数据中台-实施篇:数据接入相关规范
热门文章
- 【数据库】数据库基础理论
- 表格、表格CSS属性及HTML属性、表单元素、type类型、内联块的对齐方式
- win7安装.net framework4.7.2
- 本弗莱数据可视化的生产流程图_工业互联网 | 3D组态|图扑软件|数据可视化|blog...
- 2019款车什么k是代表一几年,2019年车架号对照表。车架号的第十位是“k”
- 基于Go语言Revel+Layui实现的毕业设计神器
- vivo上升势头放缓,性价比策略效果有所下降
- 怎样才能画好人物衣服的皱褶?
- Latex 删除线 下划线 波浪线 文字颜色 下划引用编号; Latex 对图像排版, 去除subfigure中的(a) 等
- pushd %-dp0_PUSHD提醒-它自动映射网络驱动器