原文链接:https://segmentfault.com/a/1190000013672421

一、什么影响了数据库查询速度

1.1 影响数据库查询速度的四个因素    

1.2 风险分析

QPS：Queries Per Second意思是“每秒查询率”，是一台服务器每秒能够相应的查询次数，是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。

TPS：是TransactionsPerSecond的缩写，也就是事务数/秒。它是软件测试结果的测量单位。客户机在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。

Tips：最好不要在主库上数据库备份，大型活动前取消这样的计划。

  1. 效率低下的sql：超高的QPS与TPS。
  2. 大量的并发：数据连接数被占满（max_connection默认100，一般把连接数设置得大一些）。
    并发量:同一时刻数据库服务器处理的请求数量
  3. 超高的CPU使用率：CPU资源耗尽出现宕机。

  4. 磁盘IO：磁盘IO性能突然下降、大量消耗磁盘性能的计划任务。解决：更快磁盘设备、调整计划任务、做好磁盘维护。

1.3 网卡流量：如何避免无法连接数据库的情况

  1. 减少从服务器的数量（从服务器会从主服务器复制日志）
  2. 进行分级缓存（避免前端大量缓存失效）
  3. 避免使用select * 进行查询
  4. 分离业务网络和服务器网络

1.4 大表带来的问题（重要）

1.4.1 大表的特点

  1. 记录行数巨大，单表超千万
  2. 表数据文件巨大，超过10个G

1.4.2 大表的危害

1.慢查询：很难在短时间内过滤出需要的数据
    查询字区分度低 -> 要在大数据量的表中筛选出来其中一部分数据会产生大量的磁盘io -> 降低磁盘效率

2.对DDL影响：

建立索引需要很长时间：

  • MySQL -v<5.5 建立索引会锁表
  • MySQL -v>=5.5 建立索引会造成主从延迟（mysql建立索引，先在组上执行，再在库上执行）

修改表结构需要长时间的锁表：会造成长时间的主从延迟('480秒延迟')

1.4.3 如何处理数据库上的大表

分库分表把一张大表分成多个小表

难点：

  1. 分表主键的选择
  2. 分表后跨分区数据的查询和统计

1.5 大事务带来的问题（重要）

1.5.1 什么是事务

1.5.2事务的ACID属性

1、原子性（atomicity)：全部成功，全部回滚失败。银行存取款。

2、一致性（consistent)：银行转账的总金额不变。

3、隔离性（isolation)：

隔离性等级：

  • 未提交读(READ UNCOMMITED) 脏读,两个事务之间互相可见；
  • 已提交读(READ COMMITED)符合隔离性的基本概念,一个事务进行时，其它已提交的事物对于该事务是可见的，即可以获取其它事务提交的数据。
  • 可重复读(REPEATABLE READ) InnoDB的默认隔离等级。事务进行时，其它所有事务对其不可见，即多次执行读，得到的结果是一样的！
  • 可串行化（SERIALIZABLE） 在读取的每一行数据上都加锁，会造成大量的锁超时和锁征用，严格数据一致性且没有并发是可使用。

查看系统的事务隔离级别：show variables like '%iso%';
    开启一个新事务：begin;
    提交一个事务：commit;
    修改事物的隔离级别：set session tx_isolation='read-committed';

4、持久性(DURABILITY)：从数据库的角度的持久性，磁盘损坏就不行了

redo log机制保证事务更新的一致性和持久性

1.5.3 大事务

运行时间长，操作数据比较多的事务；

风险：锁定数据太多，回滚时间长，执行时间长。

  1. 锁定太多数据，造成大量阻塞和锁超时；
  2. 回滚时所需时间比较长，且数据仍然会处于锁定；
  3. 如果执行时间长，将造成主从延迟，因为只有当主服务器全部执行完写入日志时，从服务器才会开始进行同步，造成延迟。

解决思路：

  1. 避免一次处理太多数据，可以分批次处理；
  2. 移出不必要的SELECT操作，保证事务中只有必要的写操作。

二、什么影响了MySQL性能（非常重要）

2.1 影响性能的几个方面

  1. 服务器硬件。
  2. 服务器系统（系统参数优化）。
  3. 存储引擎。 
    MyISAM： 不支持事务，表级锁。
    InnoDB: 支持事务，支持行级锁，事务ACID。
  4. 数据库参数配置。
  5. 数据库结构设计和SQL语句。（重点优化）

2.2 MySQL体系结构

分三层：客户端->服务层->存储引擎

  1. MySQL是插件式的存储引擎，其中存储引擎分很多种。只要实现符合mysql存储引擎的接口，可以开发自己的存储引擎!
  2. 所有跨存储引擎的功能都是在服务层实现的。
  3. MySQL的存储引擎是针对表的，不是针对库的。也就是说在一个数据库中可以使用不同的存储引擎。但是不建议这样做。

2.3 InnoDB存储引擎

MySQL5.5及之后版本默认的存储引擎：InnoDB。

2.3.1 InnoDB使用表空间进行数据存储。

show variables like 'innodb_file_per_table

如果innodb_file_per_table 为 ON 将建立独立的表空间，文件为tablename.ibd；

如果innodb_file_per_table 为 OFF 将数据存储到系统的共享表空间，文件为ibdataX（X为从1开始的整数）；

.frm ：是服务器层面产生的文件，类似服务器层的数据字典，记录表结构。

2.3.2 (MySQL5.5默认)系统表空间与(MySQL5.6及以后默认)独立表空间

1.1 系统表空间无法简单的收缩文件大小，造成空间浪费，并会产生大量的磁盘碎片。

1.2 独立表空间可以通过optimeze table 收缩系统文件，不需要重启服务器也不会影响对表的正常访问。

2.1 如果对多个表进行刷新时，实际上是顺序进行的，会产生IO瓶颈。

2.2 独立表空间可以同时向多个文件刷新数据。

强烈建立对Innodb 使用独立表空间，优化什么的更方便，可控。

2.3.3 系统表空间的表转移到独立表空间中的方法

1、使用mysqldump 导出所有数据库数据（存储过程、触发器、计划任务一起都要导出 ）可以在从服务器上操作。

2、停止MYsql 服务器，修改参数（my.cnf加入innodb_file_per_table），并删除Inoodb相关文件（可以重建Data目录）。

3、重启MYSQL，并重建Innodb系统表空间。

4、 重新导入数据。

或者 Alter table 同样可以的转移，但是无法回收系统表空间中占用的空间。

2.4 InnoDB存储引擎的特性

2.4.1 特性一：事务性存储引擎及两个特殊日志类型：Redo Log 和 Undo Log

  1. Innodb 是一种事务性存储引擎。
  2. 完全支持事务的ACID特性。
  3. 支持事务所需要的两个特殊日志类型：Redo Log 和Undo Log

Redo Log：实现事务的持久性(已提交的事务)。
    Undo Log：未提交的事务，独立于表空间，需要随机访问，可以存储在高性能io设备上。

Undo日志记录某数据被修改前的值，可以用来在事务失败时进行rollback；Redo日志记录某数据块被修改后的值，可以用来恢复未写入data file的已成功事务更新的数据。

2.4.2 特性二：支持行级锁

  1. InnoDB支持行级锁。
  2. 行级锁可以最大程度地支持并发。
  3. 行级锁是由存储引擎层实现的。

2.5 什么是锁

2.5.1 锁

2.5.2 锁类型

2.5.3 锁的粒度

MySQL的事务支持不是绑定在MySQL服务器本身，而是与存储引擎相关

将table_name加表级锁命令：lock table table_name write; 写锁会阻塞其它用户对该表的‘读写’操作，直到写锁被释放：unlock tables；

  1. 锁的开销越大，粒度越小，并发度越高。
  2. 表级锁通常是在服务器层实现的。
  3. 行级锁是存储引擎层实现的。innodb的锁机制，服务器层是不知道的

2.5.4 阻塞和死锁

（1）阻塞是由于资源不足引起的排队等待现象。
    （2）死锁是由于两个对象在拥有一份资源的情况下申请另一份资源，而另一份资源恰好又是这两对象正持有的，导致两对象无法完成操作，且所持资源无法释放。

2.6 如何选择正确的存储引擎

参考条件：

  1. 事务
  2. 备份(Innobd免费在线备份)
  3. 崩溃恢复
  4. 存储引擎的特有特性

总结:Innodb大法好。
    注意:尽量别使用混合存储引擎，比如回滚会出问题在线热备问题。

2.7 配置参数

2.7.1 内存配置相关参数

确定可以使用的内存上限。

内存的使用上限不能超过物理内存，否则容易造成内存溢出；（对于32位操作系统，MySQL只能试用3G以下的内存。）

确定MySQL的每个连接单独使用的内存。

sort_buffer_size #定义了每个线程排序缓存区的大小，MySQL在有查询、需要做排序操作时才会为每个缓冲区分配内存（直接分配该参数的全部内存）；
join_buffer_size #定义了每个线程所使用的连接缓冲区的大小，如果一个查询关联了多张表，MySQL会为每张表分配一个连接缓冲，导致一个查询产生了多个连接缓冲；
read_buffer_size #定义了当对一张MyISAM进行全表扫描时所分配读缓冲池大小，MySQL有查询需要时会为其分配内存，其必须是4k的倍数；
read_rnd_buffer_size #索引缓冲区大小，MySQL有查询需要时会为其分配内存，只会分配需要的大小。

注意：以上四个参数是为一个线程分配的，如果有100个连接，那么需要×100。

MySQL数据库实例：

　①MySQL是单进程多线程（而oracle是多进程），也就是说MySQL实例在系统上表现就是一个服务进程，即进程；

　②MySQL实例是线程和内存组成，实例才是真正用于操作数据库文件的；

一般情况下一个实例操作一个或多个数据库；集群情况下多个实例操作一个或多个数据库。

如何为缓存池分配内存：
    Innodb_buffer_pool_size，定义了Innodb所使用缓存池的大小，对其性能十分重要，必须足够大，但是过大时，使得Innodb 关闭时候需要更多时间把脏页从缓冲池中刷新到磁盘中；

总内存-（每个线程所需要的内存*连接数）-系统保留内存

key_buffer_size，定义了MyISAM所使用的缓存池的大小，由于数据是依赖存储操作系统缓存的，所以要为操作系统预留更大的内存空间；

select sum(index_length) from information_schema.talbes where engine='myisam'

注意：即使开发使用的表全部是Innodb表，也要为MyISAM预留内存，因为MySQL系统使用的表仍然是MyISAM表。

max_connections 控制允许的最大连接数， 一般2000更大。
    不要使用外键约束保证数据的完整性。

2.8 性能优化顺序

从上到下：

MYSQL性能管理及架构设计(一)相关推荐

  1. MySQL性能管理及架构设计（二）：数据库结构优化、高可用架构设计、数据库索引优化...

    一.数据库结构优化(非常重要) 1.1 数据库结构优化目的 1.减少数据冗余:(数据冗余是指在数据库中存在相同的数据,或者某些数据可以由其他数据计算得到),注意,尽量减少不代表完全避免数据冗余: 2. ...

  2. MySQL性能管理及架构设计（一）：什么影响了数据库查询速度、什么影响了MySQL性能...

    一.什么影响了数据库查询速度 1.1 影响数据库查询速度的四个因素 1.2 风险分析 QPS:Queries Per Second意思是"每秒查询率",是一台服务器每秒能够相应的查 ...

  3. 唐成勇 - MySQL性能管理及架构设计

    MySQL性能管理及架构设计(一):什么影响了数据库查询速度.什么影响了MySQL性能 MySQL性能管理及架构设计(二):数据库结构优化.高可用架构设计.数据库索引优化 MySQL性能管理及架构设计 ...

  4. MySQL性能管理及架构设计（三）：SQL查询优化、分库分表 - 完结篇

    上一篇:MySQL性能管理及架构设计(二):数据库结构优化.高可用架构设计.数据库索引优化 一.SQL查询优化(重要) 1.1 获取有性能问题SQL的三种方式 通过用户反馈获取存在性能问题的SQL: ...

  5. mysql性能视频教程_[视频教程] MySQL性能管理及架构设计 (完整版)

    第1章 实例和故事 决定电商11大促成败的各个关键因素. 1-1 什么决定了电商双11大促的成败 1-2 在双11大促中的数据库服务器 1-3 在大促中什么影响了数据库性能 1-4 大表带来的问题 1 ...

  6. mysql分库分表优化性能,MySQL性能管理及架构设计（三）：SQL查询优化、分库分表 - 完结篇...

    一.SQL查询优化(重要) 1.1 获取有性能问题SQL的三种方式 通过用户反馈获取存在性能问题的SQL: 通过慢查日志获取存在性能问题的SQL: 实时获取存在性能问题的SQL: 1.1.2 慢查日志 ...

  7. ef mysql 优化_MySQL性能管理及架构设计（二）：数据库结构优化、高可用架构设计、数据库索引优化...

    一.数据库结构优化(非常重要) 1.1 数据库结构优化目的 1.减少数据冗余:(数据冗余是指在数据库中存在相同的数据,或者某些数据可以由其他数据计算得到),注意,尽量减少不代表完全避免数据冗余: 2. ...

  8. mysql 查看表v空间自增涨_MySQL性能管理及架构设计（一）：什么影响了数据库查询速度、什么影响了MySQL性能

    一.什么影响了数据库查询速度 1.1 影响数据库查询速度的四个因素 1.2 风险分析 QPS:Queries Per Second意思是"每秒查询率",是一台服务器每秒能够相应的查 ...

  9. mysql性能视频教程_MySQL性能管理及架构设计视频教程

    最新MySQL性能管理及架构设计视频教程 课程介绍: 数据库优化是系统工程,性能的提升靠整体.本课程将面面俱到的讲解提升数据库性能的各种因素,让你在最短的时间从小白到资深,将数据库整体架构了然于胸 . ...

最新文章

  1. 2018年，这些信息通信技术将大红大紫
  2. CompletableFuture CompletableFuture.supplyAsync 异常处理
  3. Python3 pip安装包时报错 error: Microsoft Visual C++ 14.0 is required.解决办法
  4. 板邓：wordpress循环输出分类信息函数get_categories（）
  5. K2新网站（官网和BPM社区）正式上线了
  6. 使用solrj和EasyNet.Solr进行原子更新
  7. go 模板(template)的常用基本语法
  8. 了解一点儿JavaConfig
  9. 洛谷P3952 时间复杂度
  10. matlab中进行多行注释
  11. 【UE4】多视角相机捕获图像如何同屏拼接在一起
  12. 【转载】springboot集成SMS发送短信
  13. 车载视频监控怎么安装？《M51H车载及摄像机安装指导》
  14. python 程序员待遇_python程序员待遇如何
  15. 基于深度学习和自闭症脑成像数据库（ABIDE）识别自闭症谱系障碍
  16. 小冰的忍者团队，她在日本开启了怎样一种商业模式？
  17. JSF——JSF 标签
  18. 【C语言学习笔记】SWAP函数详解
  19. Warning: L6305W: Image does not have an entry point. (Not specified or not set due to multi
  20. 语音编程之Speech SDK概述

热门文章

  1. 计算机网络规范的应用,计算机网络技术及其应用
  2. python sql注入脚本_python打造一个分析网站SQL注入的脚本
  3. mysql创建库和表确保utf8_mysql创建utf8数据库
  4. java异常什么时候抛出异常,java - 什么时候应该抛出IllegalArgumentException？
  5. Mongo服务器二进制文件修复,Mongodb-File-Server
  6. 基于用户的协同过滤（余弦相似度）
  7. 二、CSS知识总结（上篇）
  8. Matlab中plot函数及legend函数详解
  9. ACL 2020 | 多跳问答的基于对齐的无监督迭代解释检索方法
  10. AAAI 2020 开源论文 | 用于深度立体匹配的自适应单峰匹配代价体滤波