MySQL 表分区详解MyiSam引擎和InnoDb 区别(实测)

一、什么是表分区
通俗地讲表分区是将一大表,根据条件分割成若干个小表。mysql5.1开始支持数据表分区了。
如:某用户表的记录超过了1000万条,那么就可以根据入库日期将表分区,也可以根据所在地将表分区。当然也可根据其他的条件分区。

二、为什么要对表进行分区
为了改善大型表以及具有各种访问模式的表的可伸缩性,可管理性和提高数据库效率。
分区的一些优点包括:
      1)、与单个磁盘或文件系统分区相比,可以存储更多的数据。
      2)、对于那些已经失去保存意义的数据,通常可以通过删除与那些数据有关的分区,很容易地删除那些数据。相反地,在某些情况下,添加新数据的过程又可以通过为那些新数据专门增加一个新的分区,来很方便地实现。通常和分区有关的其他优点包括下面列出的这些。MySQL分区中的这些功能目前还没有实现,但是在我们的优先级列表中,具有高的优先级;我们希望在5.1的生产版本中,能包括这些功能。
      3)、一些查询可以得到极大的优化,这主要是借助于满足一个给定WHERE语句的数据可以只保存在一个或多个分区内,这样在查找时就不用查找其他剩余的分区。因为分区可以在创建了分区表后进行修改,所以在第一次配置分区方案时还不曾这么做时,可以重新组织数据,来提高那些常用查询的效率。
      4)、涉及到例如SUM()和COUNT()这样聚合函数的查询,可以很容易地进行并行处理。这种查询的一个简单例子如 “SELECT salesperson_id, COUNT (orders) as order_total FROM sales GROUP BY salesperson_id;”。通过“并行”,这意味着该查询可以在每个分区上同时进行,最终结果只需通过总计所有分区得到的结果。
      5)、通过跨多个磁盘来分散数据查询,来获得更大的查询吞吐量。

三、分区类型
 
· RANGE分区:基于属于一个给定连续区间的列值,把多行分配给分区。 
· LIST分区:类似于按RANGE分区,区别在于LIST分区是基于列值匹配一个离散值集合中的某个值来进行选择。 
· HASH分区:基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算。这个函数可以包含MySQL 中有效的、产生非负整数值的任何表达式。
· KEY分区:类似于按HASH分区,区别在于KEY分区只支持计算一列或多列,且MySQL 服务器提供其自身的哈希函数。必须有一列或多列包含整数值。

1.RANGE分区

基于属于一个给定连续区间的列值,把多行分配给分区。这些区间要连续且不能相互重叠,使用VALUES LESS THAN操作符来进行定义。以下是实例。

2.LIST分区

类似于按RANGE分区,区别在于LIST分区是基于列值匹配一个离散值集合中的某个值来进行选择。
      LIST分区通过使用“PARTITION BY LIST(expr)”来实现,其中“expr” 是某列值或一个基于某个列值、并返回一个整数值的表达式,然后通过“VALUES IN (value_list)”的方式来定义每个分区,其中“value_list”是一个通过逗号分隔的整数列表。

3.HASH分区

基于用户定义的表达式的返回值来进行选择的分区,该表达式使用将要插入到表中的这些行的列值进行计算。这个函数可以包含MySQL 中有效的、产生非负整数值的任何表达式。
      要使用HASH分区来分割一个表,要在CREATE TABLE 语句上添加一个“PARTITION BY HASH (expr)”子句,其中“expr”是一个返回一个整数的表达式。它可以仅仅是字段类型为MySQL 整型的一列的名字。此外,你很可能需要在后面再添加一个“PARTITIONS num”子句,其中num 是一个非负的整数,它表示表将要被分割成分区的数量。

4.KSY分区

类似于按HASH分区,区别在于KEY分区只支持计算一列或多列,且MySQL 服务器提供其自身的哈希函数。必须有一列或多列包含整数值。

不同的表分区对比如下

下面来操作MySQL表分实例操作主要讲解 Range分区技术

  注意为了查看方便我这边对mysql操作都是用客户端工具Navicat For Mysql 进行连接操作。

1.创建分区表,按日期和年份拆分 使用的是 myisam 引擎

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
-- 创建表分区,按日期的年份拆分
create table part_tab(c1 int default null,c2 varchar(30) default null,c3 date default null) engine=myisam
PARTITION by range(year(c3))(
PARTITION p0 values less than(2007),
PARTITION p1 values less than(2008),
PARTITION p2 values less than(2009),
PARTITION p3 values less than(2010),
PARTITION p4 values less than(2011),
PARTITION p5 values less than(2012),
PARTITION p6 values less than(2013),
PARTITION p7 values less than(2014),
PARTITION p8 values less than(2015),
PARTITION p9 values less than(2016),
PARTITION p10 values less than MAXVALUE);
-- 最后一行 ,考虑可能 最大值 默认分区

2.创建未分区表,主要用于作对比表字段和结构和分区表一模一样。

1
create table no_part_tab(c1 int default null,c2 varchar(30) default null,c3 date default null) engine=myisam;

3.创建测试数据这里使用存储过程快速创建100万行数据测试数据越多越方便查看,这里只测试100万行根据个人需求插入,因只是用日期分区,其他列不住细节深究。只关注日期列。

1
2
3
4
5
6
7
8
9
10
create PROCEDURE load_part_tab()
    begin
    declare i int default 0;
  while i<1000000
  do
   insert into part_tab values(i,'test data part',
   adddate('2007-01-01',(rand(i)*36520) mod 3652));
  set i=i+1;
  end while;
  end;

4.执行存储过程插入数据

1
call load_part_tab();

5.进入查看我们刚才的分区表,数据库安装都是常规的路径,测试数据名称为test

1
2
[root@localhost /]# cd usr/local/mysql/data/test
[root@localhost test]# ls

显示如上信息说明已经创建完成。

6.复制数据到未分区表no_part_tab

1
insert into no_part_tab select *from part_tab;

7.测试SQL 的性能分别查询1年的数据。

7.1)分区表的性能

7.2)未分区表的性能

查询时间非常明显的区别,注意数据量越大越明显。

8.为何会分区会有如此大的区别我们通过查询计划分析。

8.1)分区的查询计划影响的行数是:99813

8.2)未分区查询计划影响的行数是:1000000

很明显查询条件的数据是在p1分区 所以查询的只会查询这分区,查询效果就显而易见。

9.增加未索引字段查询

1
select from part_tab where c3>date'2007-01-01' and c3<date'2017-12-31' and c2='mysql';

查看执行时间2.55s  

1
select from no_part_tab where c3>date'2007-01-01' and c3<date'2017-12-31' and c2='mysql';

查看执行时间11.16s 

对比时间差距还是很大的具体查询时间根据个人计算机性能已经数据大小进行测试,数据量越大越明显。

四.innodb表分区

在innodb数据库引擎中要把分区技术做成功必须设置表为独立表空间特别注意这点。 

1.什么是共享表空间和独立表空间
贡献表空间已经独立表空间都是针对数据的存储方式而言的。
贡献表空间:某一个数据库的所有的表数据,索引文件全部放在一个文件中,默认这个共享表空间的文件路径在data目录下。默认的文件名为ibdata1初始大小为10M。
独占表空间:每个表都将会生成意独立文件方式来进行存储,每个表都有一个.frm表描述,还有一个.dbd文件.其中这个文件包括了单独一个表数据内容以及索引内容,默认情况下它的存储位置也是在表的位置之中。

2.共享表空间:
优点:
可以放表空间分成多文件存放各个磁盘上(表空间文件大小不受表大小的限制,如一个表可以分布在不同的文件上)。
数据和文件放一起方便管理。
缺点:
所有的数据和索引存放到一个文件中讲有一个很大的文件,虽然可以把一个大文件分成多个小文件,但是多个表及索引在表空间中混合存储,这样对于一个表做了大量删除操作后表空间中将会有大量的空隙,特别是对于统计分析,日志系统这类应用最不合适用共享表空间。

3.实际操作

开启innodb数据库引擎独立表空间。

编辑my.cnf 增加innodb_file_per_table=1

1
[root@localhost test]# vi /etc/my.cnf

  

只有设置了innodb 引擎的独立表空间才能做成功表分区,特别注意。【win下无需设置】

MySQL 表分区详解MyiSam引擎和InnoDb 区别(实测)相关推荐

  1. mysql 社区版 innodb_MySQL 表分区详解MyiSam引擎和InnoDb 区别(实测)

    MySQL 表分区详解MyiSam引擎和InnoDb 区别(实测) / --------------------         写在最前面            ------------------ ...

  2. mysql myisam表分区_MySQL 表分区详解MyiSam引擎和InnoDb 区别(实测)

    一.什么是表分区 通俗地讲表分区是将一大表,根据条件分割成若干个小表.mysql5.1开始支持数据表分区了. 如:某用户表的记录超过了1000万条,那么就可以根据入库日期将表分区,也可以根据所在地将表 ...

  3. MySQL表分区详解

    什么表分区 mysql数据库中的数据是以文件的形势存在磁盘上的,默认放在/mysql/data下面(可以通过my.cnf 中的datadir来查看),一张表主要对应着三个文件,一个是frm存放表结构的 ...

  4. Oracle 表分区详解(partition table)

    文章目录 1 概述 1.1 思维导图 2 分类 2.1 传统表分区 2.1.1 范围分区 range 2.1.2 列表分区 list 2.1.3 哈希分区 hash 2.1.4 复合分区 range ...

  5. mysql 主表存hash和子表的名字_【mysql】mysql分表和表分区详解

    为什么要分表和分区? 日常开发中我们经常会遇到大表的情况,所谓的大表是指存储了百万级乃至千万级条记录的表.这样的表过于庞大,导致数据库在查询和插入的时候耗时太长,性能低下,如果涉及联合查询的情况,性能 ...

  6. mysql 分表规则获取表名_mysql分表和表分区详解

    为什么要分表和分区? 日常开发中我们经常会遇到大表的情况,所谓的大表是指存储了百万级乃至千万级条记录的表.这样的表过于庞大,导致数据库在查询和插入的时候耗时太长,性能低下,如果涉及联合查询的情况,性能 ...

  7. MySQL的表分区详解_MySQL的表分区详解

    一.什么是表分区 通俗地讲表分区是将一大表,根据条件分割成若干个小表.mysql5.1开始支持数据表分区了. 如:某用户表的记录超过了600万条,那么就可以根据入库日期将表分区,也可以根据所在地将表分 ...

  8. mysql实现表分区不同的磁盘_SQLServer表分区详解_MySQL

    分区请三思: 1.虽然分区可以带来众多的好处,但是同时也增加了实现对象的管理费用和复杂性.因此在进行分区之前要首先仔细的考虑以确定是否应为对象进行分区. 2.在确定了为对象进行分区后,下一步就要确定分 ...

  9. MySQL表空间详解

    1 表空间总览 2 页面结构 其中页面的通用部分有:File Header和 File Trailer. 2.1 File Header组成 check sum:校验和 page offset:页号 ...

最新文章

  1. 防止IIS文件被下载方法
  2. 皮一皮:35岁后你做什么?
  3. Unsupported ONNX opset version: 11
  4. .Android项目导入时,出现的Could not write file 。。。。。。.classpath错误解决办法
  5. spring boot 会默认加载DataSourceAutoConfiguration这个类
  6. 印象笔记 还回快捷_模块化编辑器、OCR、素材库...一大波新功能来袭丨印象笔记7周年现场实况...
  7. qml学习文档-转载
  8. (王道408考研数据结构)第五章树-第四节1:二叉树排序树(BST)及其操作
  9. SpringMVC 登录验证实例
  10. frp ---- golang编写的内网穿透工具简介
  11. eclipse中,jdk7和jdk8并存开发的实现方式
  12. 金融科技大数据产品推荐:日志易—机器数据实时搜索分析引擎
  13. ArduinoUNO实战-第四章-按键控制led
  14. 面试官问:你的缺点是什么,这么回答漂亮!(真实案例)
  15. Html5用Canvas制作绘图板最终
  16. Stripe 银行卡支付功能初步指南(Java)
  17. springboot学校快递站点管理系统的设计与实现毕业设计源码111544
  18. js实现图片裁剪功能
  19. 大数据杂谈篇:认识大数据生态(个人心得分享)
  20. iTools安装软件

热门文章

  1. ubuntu 14.04安装mysql server mysql client
  2. rabbitmq 集群搭建
  3. 汇编中的DW:DW 定义一个字
  4. [SinGuLaRiTy] 复习模板-搜索
  5. zabbix自动发现
  6. [svn] linux 下svn服务器的搭建
  7. go语言socket通信初试
  8. WinRAR最新版V3.93 破解方法
  9. Struts2 Result详解
  10. web标准---html、css、js分离