数据库软件架构,到底要设计些什么?
数据库软件架构,到底要设计些什么?
原创作者: 58沈剑 来自公众号:架构师之路
一、基本概念
概念一:单库
概念二:分片
分片解决“数据量太大”这一问题,也就是通常说的“水平切分”。
一旦引入分片,势必面临“数据路由”的新问题,数据到底要访问哪个库。路由规则通常有3种方法:
(1)范围:range
优点:简单,容易扩展。
缺点:各库压力不均(新号段更活跃)。
(2)哈希:hash
优点:简单,数据均衡,负载均匀。
缺点:迁移麻烦(2库扩3库数据要迁移)。
(3)统一路由服务:router-config-server
优点:灵活性强,业务与路由算法解耦。
缺点:每次访问数据库前多一次查询。
大部分互联网公司采用的方案二:哈希路由。
概念三:分组
分组解决“可用性,性能提升”这一问题,分组通常通过主从复制的方式实现。
互联网公司数据库实际软件架构是“既分片,又分组”:
数据库软件架构,究竟设计些什么呢,至少要考虑以下四点:
如何保证数据可用性
如何提高数据库读性能(大部分应用读多写少,读会先成为瓶颈)
如何保证一致性
如何提高扩展性
二、如何保证数据的可用性?
解决可用性问题的思路是:冗余。
如何保证站点的可用性?冗余站点。
如何保证服务的可用性?冗余服务。
如何保证数据的可用性?冗余数据。
数据的冗余,会带来一个副作用:一致性问题。
如何保证数据库“读”高可用?
冗余读库。
冗余读库带来什么副作用?
读写有延时,数据可能不一致。
上图是很多互联网公司mysql的架构,写仍然是单点,不能保证写高可用。
如何保证数据库“写”高可用?
冗余写库。
采用双主互备的方式,可以冗余写库。
冗余写库带来什么副作用?
双写同步,数据可能冲突(例如“自增id”同步冲突)。
如何解决同步冲突,有两种常见解决方案:
(1)两个写库使用不同的初始值,相同的步长来增加id:1写库的id为0,2,4,6...;2写库的id为1,3,5,7…;
(2)不使用数据的id,业务层自己生成唯一的id,保证数据不冲突;
阿里云的RDS服务号称写高可用,是如何实现的呢?
他们采用的就是类似于“双主同步”的方式(不再有从库了)。
仍是双主,但只有一个主提供读写服务,另一个主是“shadow-master”,只用来保证高可用,平时不提供服务。
master挂了,shadow-master顶上,虚IP漂移,对业务层透明,不需要人工介入。
这种方式的好处:
(1)读写没有延时,无一致性问题;
(2)读写高可用;
不足是:
(1)不能通过加从库的方式扩展读性能;
(2)资源利用率为50%,一台冗余主没有提供服务;
画外音:所以,高可用RDS还挺贵的。
三、如何扩展读性能?
提高读性能的方式大致有三种,第一种是增加索引。
这种方式不展开,要提到的一点是,不同的库可以建立不同的索引。
如上图:
(1)写库不建立索引;
(2)线上读库建立线上访问索引,例如uid;
(3)线下读库建立线下访问索引,例如time;
第二种扩充读性能的方式是,增加从库。
这种方法大家用的比较多,存在两个缺点:
(1)从库越多,同步越慢;
(2)同步越慢,数据不一致窗口越大;
第三种增加系统读性能的方式是,增加缓存。
常见的缓存架构如下:
(1)上游是业务应用;
(2)下游是主库,从库(读写分离),缓存;
如果系统架构实施了服务化:
(1)上游是业务应用;
(2)中间是服务;
(3)下游是主库,从库,缓存;
业务层不直接面向db和cache,服务层屏蔽了底层db、cache的复杂性。
不管采用主从的方式扩展读性能,还是缓存的方式扩展读性能,数据都要复制多份(主+从,db+cache),一定会引发一致性问题。
四、如何保证一致性?
主从数据库的一致性,通常有两种解决方案:
(1)中间件
如果某一个key有写操作,在不一致时间窗口内,中间件会将这个key的读操作也路由到主库上。
(2)强制读主
“双主高可用”的架构,主从一致性的问题能够大大缓解。
第二类不一致,是db与缓存间的不一致。
这一类不一致,《缓存架构,一篇足够?》里有非常详细的叙述,本文不再展开。
另外建议,所有允许cache miss的业务场景,缓存中的KEY都设置一个超时时间,这样即使出现不一致,有机会得到自修复。
五、如何保障数据库的扩展性?
秒级成倍数据库扩容:
《亿级数据DB秒级平滑扩容》
如果不是成倍扩容:
《100亿数据平滑数据迁移,不影响服务》
也可能,是要对字段进行扩展:
《1万属性,100亿数据,架构设计?》
这些方案,都有相关文章展开写过,本文不再赘述。
数据库软件架构,到底要设计些什么?
可用性
读性能
一致性
扩展性
希望对大家系统性理解数据库软件架构有帮助。
数据库软件架构,到底要设计些什么?相关推荐
- 58同城数据库软件架构设计与实践
转载自 http://mp.weixin.qq.com/s?__biz=MjM5ODYxMDA5OQ==&mid=400465735&idx=1&sn=8d7067de4cc8 ...
- oracle数据库运维一般做什么,数据库运维都做些什么呢?
本篇文章讲述如何大家轻松认知到数据库运维都做些什么,其中有许多小细节,所以请大家仔细阅读哦~ 一. 数据库生命周期 结合软件生命周期.项目的开展,数据库的生命周期大致可分为这么几个阶段. 1. 规划计 ...
- 云数据库产品及架构设计背后的考量
摘要:在阿里云数据库技术峰会上,阿里云数据库高级产品专家萧少聪(铁庵)介绍了全体系阿里云数据库产品并对于阿里云数据库产品的实现架构进行了分享,帮助大家了解了阿里云全数据库产品体系能解决哪些实用场景的问 ...
- 计算机网络到底讲了些什么
小智:大鹏哥,我最近看了下计算机网络,把书上的内容都过了一遍,可是感觉还是串不起来,不知道计算机网络到底讲了些什么内容,也不知道重点在哪里,你能不能给我梳理梳理呀! 计算机为什么要联网 大鹏:行,那咱 ...
- mysql数据库中到底能建多少张表?(单实例下单个库)
单实例mysql数据库中到底能建多少张表? 业务两个同学今天就这个问题过来探讨,他们的诉求是: 1. 一个用户的表要全部放到一个数据库中. 2. 预计1000个用户每个用户初步规划1000张表. 这1 ...
- 【zhailu】国外产品经理到底在做些什么?【转载内容】
产品经理在国内可以算是比较新兴的行业.起步晚.环境不同,自然有所需.有所缺. 一开始接触,就感觉,这是要把product从无到有培育起来,--这个product的PM似乎与project的PM雷同只是 ...
- 代码大全2札记:软件架构中的设计
前言:软件架构中的设计一章,主要的point有软件的首要技术使命就是管理复杂度.减少在同一时间锁关注的本质性复杂量.设计是一种启发式过程.好的设计要有迭代.信息隐藏. 设计中的挑战 设计是一个险恶的问 ...
- 「01」机器学习,到底在学些什么?
这是参加原力计划单独投稿的,是我专栏文章的part 2 2. 机器学习,到底在学些什么? 2.1 什么是学习? 根据定义,学习是从有限的例子中,找出问题和答案之间规律的一个过程,而所找出 ...
- 【说透中台】03 | 中台定义:当我们谈中台时到底在谈些什么?
前面两讲,我带你从时间维度重新走了一遍中台的发展历程,又在空间维度为你介绍了目前市面上出现过的各类中台. 估计你现在一定被这么多种类的中台搞的有点晕头转向了,这些中台都称的上是中台么?感觉和之前一直在 ...
最新文章
- 人工智能创业指南:AI 产品未来的发展模式及策略
- 用数学方式打开Facebook新Logo,真的和视频号Logo来自同一方程
- i18n and L10n
- c++ map中用char数组_C开发实战-指针和字符串
- java 集合读写同步_JAVA多线程学习十六 - 同步集合类的应用
- python中单例模式是什么_python中的单例模式
- java 投票算法_摩尔投票算法 - woshixin的个人空间 - OSCHINA - 中文开源技术交流社区...
- 猴子选大王 (20 分)
- 18号是什么php,19年1月18号CSS浮动float
- linux找回删除的文件6,在Centos6/RHEL6上恢复ext4文件系统下误删除的文件
- JavaScript文档对象模型概述(1)
- Codeforces Edu Round 68 (Rated for Div. 2)
- python爬取酷狗音乐付费音乐包_一篇文章教会你使用Python网络爬虫下载酷狗音乐...
- 史上最全的工控类软件链接 快收藏备用吧
- 视频加水印的软件有哪些?这几款软件可以无痕去水印
- 超级压缩,将3D压缩成一种图片
- opencv读取文件夹下的所有图片
- CSS复合选择器:后代选择器
- GBase 8a管理集群gcware的日志-vote leader、flower、candidate部分
- 终于等到了!十位Java架构师整理的“阿里P7”养成计划
热门文章
- 【一天的作息时间】.....程序员们,好好看看
- 解决压缩包跨平台解压缩的中文乱码问题
- Magento 显示下拉货币 How to add Currency selector to Magento’s header
- Flex读取xml文件
- 【服务器】挖矿病毒 kdevtmpfsi(一针见效)
- Idea利用maven打包spring boot项目
- Kubernetes-标签和注解(二十二)
- 案例 员工信息维护系统 c# 1613925570
- fastdfs-配置存储服务器storage
- linux-facl权限入门-设置与查看facl权限