mysql百万级性能瓶颈-数据库选型
项目中使用了mysql数据库,但数据量增长太快,不久到了百万级,很快又到表到了千万级,尝试了各种优化方式,最终效果仍难达到秒级响应,那么引发了我关于数据库选型到一些思考。
1、mysql的单表性能瓶颈究竟是多少?
曾经在中国互联网技术圈广为流传着这么一个说法:MySQL 单表数据量大于 2000 万行,性能会明显下降。事实上,这个传闻据说最早起源于百度。具体情况大概是这样的,当年的 DBA 测试 MySQL性能时发现,当单表的量在 2000 万行量级的时候,SQL 操作的性能急剧下降,因此,结论由此而来。然后又据说百度的工程师流动到业界的其它公司,也带去了这个信息,所以,就在业界流传开这么一个说法。
再后来,阿里巴巴《Java 开发手册》提出单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。对此,有阿里的黄金铁律支撑,所以,很多人设计大数据存储时,多会以此为标准,进行分表操作。
那么这个数值多少才合适呢?为什么不是 300 万行,或者是 800 万行,而是 500 万行?也许你会说这个可能就是阿里的最佳实战的数值吧?那么,问题又来了,这个数值是如何评估出来的呢?
事实上,这个数值和实际记录的条数无关,而与 MySQL 的配置以及机器的硬件有关。因为,MySQL 为了提高性能,会将表的索引装载到内存中。InnoDB buffer size 足够的情况下,其能完成全加载进内存,查询不会有问题。但是,当单表数据库到达某个量级的上限时,导致内存无法存储其索引,使得之后的 SQL 查询会产生磁盘 IO,从而导致性能下降。当然,这个还有具体的表结构的设计有关,最终导致的问题都是内存限制。这里,增加硬件配置,可能会带来立竿见影的性能提升。
对此,阿里巴巴《Java 开发手册》补充到:如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表。那么,回到一开始的问题,你觉得这个数值多少才合适呢?我的建议是,根据自身的机器的情况综合评估,如果心里没有标准,那么暂时以 500 万行作为一个统一的标准,相对而言算是一个比较折中的数值。
上面这段经验之谈择自互联网,但是我自己试了一下在innodb的情况下,mysql单表在800w数据的情况下count需要10s+,这肯定是一个不能接受的数字,那用MyISAM引擎呢,count会快很多,但可惜的是对于数据完整性以及事务的支持不如人意。
MyISAM速度可能超快,占用存储空间也小,但是程序要求事务支持,故InnoDB是必须的,故该方案无法执行,放弃!
那么分区分表呢?关于优化方案建议看看下面的文章,或者我之前的文章也有很多描述
https://www.jianshu.com/p/e7b4b5ee8031
我最终选择此文中的方案三,使用pgsql来代替mysql,百万级的数据count,pgsql只需要0.1s。
那么pgsql对比mysql来讲有哪些优势呢?
原博文:https://www.enterprisedb.com/blog/postgresql-vs-mysql-360-degree-comparison-syntax-performance-scalability-and-features
中文版:http://blog.itpub.net/31493717/viewspace-2673939/
未完待续。。。
mysql百万级性能瓶颈-数据库选型相关推荐
- MySQL百万级/千万级数据存储解决方案
MySQL 百万级/千万级数据存储解决方案 百万级.千万级数据处理,个人认为核心关键在于数据存储方案设计,存储方案设计的是否合理,直接影响到数据CRUD操作.总体设计可以考虑一下三个方面进行设计考虑: ...
- MYSQL百万级数据,如何优化
MYSQL百万级数据,如何优化 首先,数据量大的时候,应尽量避免全表扫描,应考虑在 where 及 order by 涉及的列上建立索引,建索引可以大大加快数据的检索速度.但是,有些情况索引是不会起效 ...
- 百万级深空天体数据库获取
到https://github.com/Stellarium/stellarium-data 下载扩展版catalog.dat,或者使用标准版也行 解码工具: https://github.com/t ...
- MySql 百万级数量查询优化总结
1.前言 最近所在项目接触到了百万级人口数据的功能开发,就这次开发也就准备记录下MySql的百万级别数量查询的设计和优化方案,技术能力受限,分享出来和大家一起讨论讨论. 2.数据准备 网上也有很多快速 ...
- mysql 百万级数据库优化方案【转】
一.百万级数据库优化方案 1.对查询进行优化,要尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引. 2.应尽量避免在 where 子句中对字段进行 null 值判断 ...
- MySQL 百万级/千万级表 总记录数查询
业务背景:基于 InnoDB 存储引擎的表,在数据量达到百万级之后,用 count 函数查询表记录总数会变得很慢,会导致服务请求超时.针对这种情况总结下我所想到的解决办法. 实际业务场景: 表名 表名 ...
- MySQL百万级、千万级数据多表关联SQL语句调优
本文不涉及复杂的底层数据结构,通过explain解释SQL,并根据可能出现的情况,来做具体的优化,使百万级.千万级数据表关联查询第一页结果能在2秒内完成(真实业务告警系统优化结果). 希望读者能够理解 ...
- php mysql百万级数据_PHP+MySQL百万级数据插入的优化
插入分析 MySQL中插入一个记录需要的时间由下列因素组成,其中的数字表示大约比例: 连接:(3) 发送查询给服务器:(2) 分析查询:(2) 插入记录:(1x记录大小) 插入索引:(1x索引) 关闭 ...
- mysql百万级数据测试_百万级数据mysql测试环境介绍
mysql 作为一款非常优秀的免费数据库被广泛的使用,平时我们开发的项目数据过百万的时候不多.最近花了大量的时间来深入的研究mysql百万级数据情况下的优化. 遇到了很多问题并解决了他们,特此分享给大 ...
最新文章
- 图解 Serverless!秒懂!
- C Implement a string class with basic functionality
- js 将图片置灰_JS 上传一张图片让其部分变灰色
- 使用Spring Data MongoDB和Spring Boot进行数据聚合
- 口述完SpringMVC执行流程,面试官就让同事回家等消息了
- leetcode141 环形链表
- python 跳过计算错误_在python中计算分数时如何跳过被0除的错误?
- 基于阿里云实现游戏数据运营(附Demo)
- Google分析language垃圾信息
- 存储过程中的事务实现
- 1.12 Linux查看用户信息
- python绘制立体扇形_你不知道的4种方法:python方法绘制扇形
- osql 登陆mysql_命令行登录mysql报Segmentation fault故障解决
- iOS开发基础-序列帧动画之Tom猫
- PS学习(一)-改变logo颜色
- 从流水线工人,到谷歌上班的程序媛,一位湖南娄底妹子的励志故事...
- 北京大额股票配资 北京股票金融配资
- 宠物狗大学生网页设计模板 静态HTML动物保护学生网页作业成品 DIV CSS动物主题静态网页
- 身体检查 生化全套 血常规 微量元素
- PCB电路板原理图中VCC、VDD、VEE、VSS、VBAT各表示什么意思?
热门文章
- 最常见的HTTP错误
- python程序入门设计_程序设计入门—Python
- MySQL与oracle报错显示_Oracle中判断表是否存在再删除表避免报错与MySql和SqlServer的不同...
- build 之前执行task_一次NPM前端项目的CI-Build速度优化
- MySQL超详细安装.zip【.zip和.msi安装包的区别及详细安装】和可视化软件SQLyog安装教程
- php excel 单元格类型,设置20个单元格类型后,PhpExcel停止工作
- c语言程序中unit怎么定义,c ++中的一个定义规则(One definition rule in c++)
- java模拟浏览器不关闭会话_JSP实现浏览器关闭cookies情况下的会话管理
- esp32 rtc 时钟设置不对_STM32入门系列-STM32时钟系统,STM32时钟树
- 【机器学习算法专题(蓄力计划)】二十、实操代码MNIST 数据集