一、order by的原理

1、利用索引的有序性获取有序数据

当查询语句的 order BY 条件和查询的执行计划中所利用的 Index 的索引键(或前面几个索引键)完全一致,且索引访问方式为 range,ref 或者 index 的时候,MySQL 可以利用索引顺序而直接取得已经排好序的数据。这种方式的 order BY 基本上可以说是最优的排序方式了,因为 MySQL 不需要进行实际的排序操作,需要注意的是使用索引排序也有很多限制。

当对连接操作进行排序时,如果ORDER BY仅仅引用第一个表的列,MySQL对该表进行filesort操作,然后进行连接处理,此时,EXPLAIN输出“Using filesort”;否则,MySQL必须将查询的结果集生成一个临时表,在连接完成之后进行filesort操作,此时,EXPLAIN输出“Using temporary;Using filesort”。

注意:MySQL在查询时最多只能使用一个索引。因此,如果WHERE条件已经占用了索引,那么在排序中就不使用索引了

mysql> show create table test \G

*************************** 1. row ***************************

Table: test

Create Table: CREATE TABLE `test` (

`id` int(11) NOT NULL AUTO_INCREMENT,

`addtime` datetime NOT NULL DEFAULT '0000-00-00 00:00:00',

`a` int(11) unsigned NOT NULL,

`b` int(11) unsigned NOT NULL,

`c` int(11) unsigned NOT NULL,

`data` varchar(20) NOT NULL,

PRIMARY KEY (`id`),

UNIQUE KEY `u` (`addtime`,`a`,`b`),

KEY `a` (`a`),

KEY `b` (`b`),

KEY `c` (`c`)

) ENGINE=InnoDB AUTO_INCREMENT=22 DEFAULT CHARSET=utf8

执行查询1

mysql> explain select * from test where addtime='2015-10-13 15:38:32' order by a , b ;

+----+-------------+-------+------+---------------+------+---------+-------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+-------+------+---------------+------+---------+-------+------+-------------+

| 1 | SIMPLE | test | ref | u | u | 8 | const | 4 | Using where |

+----+-------------+-------+------+---------------+------+---------+-------+------+-------------+

执行查询2

mysql> explain select * from test where addtime='2015-10-13 15:38:32' order by a , b ,c;

+----+-------------+-------+------+---------------+------+---------+-------+------+-----------------------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+-------+------+---------------+------+---------+-------+------+-----------------------------+

| 1 | SIMPLE | test | ref | u | u | 8 | const | 4 | Using where; Using filesort |

+----+-------------+-------+------+---------------+------+---------+-------+------+-----------------------------+

使用filesort的情况

a、where语句与order by语句,使用了不同的索引

b、 检查的行数过多,且没有使用覆盖索引

c、对索引列同时使用了ASC和DESC

d、where语句或者ORDER BY语句中索引列使用了表达式,包括函数表达式

e、where 语句与ORDER BY语句组合满足最左前缀,但where语句中使用了条件查询

f、 当使用left join,使用右边的表字段排序

2 利用内存/磁盘文件排序获取结果

由于没有可以利用的有序索引取得有序的数据,MySQL需要通过相应的排序算法,将取得的数据在sort_buffer_size系统变量所设置大小的排序区进行排序,这个排序区是每个Thread 独享的,所以说可能在同一时刻在 MySQL 中可能存在多个 sort buffer 内存区域

MySQL中filesort 的实现算法有两种:

1) 双路排序: 是首先根据相应的条件取出相应的排序字段和可以直接定位行数据的行指针信息,然后在sort buffer 中进行排序(but this will be essentially hit the table in random order and is not very fast)。

2) 单路排序:是一次性取出满足条件行的所有字段,然后在sort buffer中进行排序。

在 MySQL4.1 版本之前只有第一种排序算法,第二种算法是从MySQL4.1开始的改进算法,主要目的是为了减少第一次算法中需要两次访问表数据的IO操作,将两次变成了一次,但相应也会耗用更多的 sort buffer 空间。典型的以空间换时间的优化方式。当然,MySQL4.1开始的以后所有版本同时也支持第一种算法

MySQL主要通过比较系统参数 max_length_for_sort_data的大小和Query语句所取出的字段类型大小总和来判定需要使用哪一种排序算法。如果max_length_for_sort_data更大,则使用第二种优化后的算法,反之使用第一种算法。所以如果希望 order BY 操作的效率尽可能的高,需要注意max_length_for_sort_data参数的设置。

3、使用Using temporary 临时表来filesort

如果order by的子句只引用了联接中的第一个表,MySQL会先对第一个表进行排序,然后进行联接,expain中的Extra会出现Using Filesort

否则MySQL先把结果保存到临时表(Temporary Table),然后再对临时表的数据进行排序,此时expain中的Extra的显示Using temporary Using Filesort

4、Join排序

mysql中有三种方式

1)、Use index-based access method that produces ordered output  -》 null

2)、Use filesort() on 1st non-constant table -》 “Using filesort” in the first row

3)、Put join result into a temporary table and use filesort() on it   -》  “Using temporary; Using filesort” in the first row

摘自原文

The truth is, filesort is badly named. Anytime a sort can’t be performed from an index, it’s a filesort. It has nothing to do with files. Filesort should be called “sort.” It is quicksort at heart.

If the sort is bigger than the sort buffer, it is performed a bit at a time, and then the chunks are merge-sorted to produce the final sorted output. There is a lot more to it than this. I refer you to Sergey Petrunia’s article on How MySQL executes ORDER BY. You can also read about it in our book, but if you read Sergey’s article you won’t need to.

这里有一个误区,容易望文生义,Explain 命令输出信息中的 filesort 到底是什么意思呢?其实很简单,就是告诉你 MySQL 需要进行实际的排序操作而不能通过索引获得已排序数据

1)、filesort(其实就是排序) 可不一定会产生临时表

2)、filesort 与临时表数据写入磁盘是没有任何直接联系的

二 、优化order by

当无法避免排序操作时,又该如何来优化呢?很显然,优先选择第一种using index 的排序方式,在第一种方式无法满足的情况下,尽可能让 MySQL 选择使用第二种单路算法来进行排序。这样可以减少大量的随机IO操作,很大幅度地提高排序工作的效率。

1、加大 max_length_for_sort_data 参数的设置

在 MySQL 中,决定使用老式排序算法还是改进版排序算法是通过参数 max_length_for_ sort_data 来决定的。当所有返回字段的最大长度小于这个参数值时,MySQL 就会选择改进后的排序算法,反之,则选择老式的算法。所以,如果有充足的内存让MySQL 存放须要返回的非排序字段,就可以加大这个参数的值来让 MySQL 选择使用改进版的排序算法。

2、去掉不必要的返回字段

当内存不是很充裕时,不能简单地通过强行加大上面的参数来强迫 MySQL 去使用改进版的排序算法,否则可能会造成 MySQL 不得不将数据分成很多段,然后进行排序,这样可能会得不偿失。此时就须要去掉不必要的返回字段,让返回结果长度适应 max_length_for_sort_data 参数的限制。

3 增大 sort_buffer_size 参数设置

这个值如果过小的话,再加上你一次返回的条数过多,那么很可能就会分很多次进行排序,然后最后将每次的排序结果再串联起来,这样就会更慢,增大 sort_buffer_size 并不是为了让 MySQL选择改进版的排序算法,而是为了让MySQL尽量减少在排序过程中对须要排序的数据进行分段,因为分段会造成 MySQL 不得不使用临时表来进行交换排序。

但是这个值不是越大越好:

1 Sort_Buffer_Size 是一个connection级参数,在每个connection第一次需要使用这个buffer的时候,一次性分配设置的内存。

2 Sort_Buffer_Size 并不是越大越好,由于是connection级的参数,过大的设置+高并发可能会耗尽系统内存资源。

3 据说Sort_Buffer_Size 超过2M的时候,就会使用mmap() 而不是 malloc() 来进行内存分配,导致效率降低。

参考文章:

https://www.percona.com/blog/2009/03/05/what-does-using-filesort-mean-in-mysql/

http://s.petrunia.net/blog/?p=24

mysql的order by_mysql中的order by相关推荐

  1. mysql union order by_MySQL order by 在 union 中使用实例分析

    下面是用于例子测试的两张原始数据表: article 文章表: aid title content 1 文章1 文章1正文内容... 2 文章2 文章2正文内容... 3 文章3 文章3正文内容... ...

  2. mysql join order by_MySQL 14 慢查询优化join、order by、group by

    1.慢查询的优化思路 1.1优化更需要优化的SQL 优化SQL是有成本的 高并发低消耗的比低并发高消耗影响更大 优化示例 并发形式 优化前 假设优化后 高并发低消耗 每小时10000次,每次20个IO ...

  3. mysql limit asc_MySql sql优化之order by desc/asc limit M-阿里云开发者社区

    Order by desc/asc limit M是我在mysql sql优化中经常遇到的一种场景,其优化原理也非常的简单,就是利用索引的有序性,优化器沿着索引的顺序扫描,在扫描到符合条件的M行数据后 ...

  4. redis中的order set 有序集合

    redis中的order set 有序集合 命令 1 zadd key score1 value1 score2 value2 .. 添加元素 127.0.0.1:6379> zadd user ...

  5. Apache中的Order Allow,Deny用法详解

    本文讲述了Apache中的Order Allow,Deny用法.分享给大家供大家参考,具体如下: Allow和Deny可以用于apache的conf文件或者.htaccess文件中(配合Directo ...

  6. css 相同的css属性_CSS中的order属性

    css 相同的css属性 CSS | 订单属性 (CSS | order Property) Introduction: 介绍: Web development is an ever-growing ...

  7. 一篇文章彻底掌握 hive 中的 ORDER/SORT/CLUSTER/DISTRIBUTE BY 和 BUCKET 桶表

    大家好,我是明哥! 本片文章,我们来总结下,HIVE 中的 order/sort/cluster/distribute by 和 BUCKET 桶表 1 ORDER BY ORDER BY 会对 SQ ...

  8. sql注入中的order by

    联合查询中的 order by ,相必于大家都不会陌生.ORDER BY 语句用于根据指定的列对结果集进行排序.如有一个表Orders如下 1. 按照字母的顺序显示公司名称 SELECT Compan ...

  9. 原来order by 中也可以使用子查询

    很久没写过博客了,有点惭愧,水平有限,写不出好东西来,加上人也懒. 干开发很多年,今天突然知道点小技巧,对于高手来说,也许是很小儿科的一个东西.虽然有点汗......但是还是决定写出来记录一下,对自己 ...

最新文章

  1. 准确度判断 语义分割_Mask R-CNN(目标检测语义分割)测试
  2. 智能POS常见问题整理
  3. Python分布式爬虫-elasticsearch搭建搜索引擎
  4. IOS 程序内调用本地打电话功能-make a phone call
  5. linux安装autossh详细教程,在Linux下安装autossh的教程
  6. voc_eval.py:41: RuntimeWarning: invalid value encountered in greater_equal if np.sum(rec = t) ==
  7. win8计算机可用内存不足,Win8.1玩游戏提示计算机内存不足,Win8.1内存不足怎么办?...
  8. 要毕业了,我应该做点啥?
  9. docker 容器数据卷
  10. C++STL笔记(六):list详解
  11. Centos删除virbr0网卡
  12. CCS软件报错“unresolved symbol remain”
  13. 系统集成项目管理工程师各种口诀技巧分享(1)
  14. [转] 浅谈视频基础知识、视频编码、压制
  15. UNITY中帧动画的制作
  16. 设计模式-单例模式(Singleton)
  17. 揭秘:全球第一张云安全国际认证金牌得主
  18. Win10极简fliqlo时钟屏保(附下载链和安装教程)
  19. 智能家居系统各个硬件模块功能代码实现
  20. 认识自我,还需吾日三省吾身

热门文章

  1. 307页118万字智慧三甲医院弱电系统设计方案完整版
  2. newstarctf web week5
  3. WAVECOM W74PC音频信号接收处理板卡
  4. 关于虚拟机VMware中Ubuntu识别U盘报错
  5. 在线普通法测试软件,大话西游2:普通法宝宝伤害实测!1000灵的铁扇能秒多少...
  6. 英译汉翻译器大显神通,学习微积分不犯愁
  7. HTML实现课表(表格运用)
  8. 机器学习因子库及特征表达式,创业板布林带突破策略,年化13.3%(附代码)
  9. 实战游戏项目管理2-计划篇
  10. “互联网+”加速推进农业生产发展