你知道group by的工作原理和优化思路吗?
前言
日常开发中,我们经常会使用到group by
。亲爱的小伙伴,你是否知道group by
的工作原理呢?group by
和having
有什么区别呢?group by
的优化思路是怎样的呢?使用group by
有哪些需要注意的问题呢?本文将跟大家一起来学习,攻克group by
~
使用group by的简单例子
group by 工作原理
group by + where 和 having的区别
group by 优化思路
group by 使用注意点
一个生产慢SQL如何优化
1. 使用group by的简单例子
group by
一般用于分组统计,它表达的逻辑就是根据一定的规则,进行分组
。我们先从一个简单的例子,一起来复习一下哈。
假设用一张员工表,表结构如下:
CREATE TABLE `staff` (`id` bigint(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',`id_card` varchar(20) NOT NULL COMMENT '身份证号码',`name` varchar(64) NOT NULL COMMENT '姓名',`age` int(4) NOT NULL COMMENT '年龄',`city` varchar(64) NOT NULL COMMENT '城市',PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=15 DEFAULT CHARSET=utf8 COMMENT='员工表';
表存量的数据如下:
我们现在有这么一个需求:统计每个城市的员工数量。对应的 SQL 语句就可以这么写:
select city ,count(*) as num from staff group by city;
执行结果如下:
这条SQL语句的逻辑很清楚啦,但是它的底层执行流程是怎样的呢?
2. group by 原理分析
2.1 explain 分析
我们先用explain
查看一下执行计划
explain select city ,count(*) as num from staff group by city;
Extra 这个字段的
Using temporary
表示在执行分组的时候使用了临时表Extra 这个字段的
Using filesort
表示使用了排序
group by
怎么就使用到临时表和排序
了呢?我们来看下这个SQL的执行流程
2.2 group by 的简单执行流程
explain select city ,count(*) as num from staff group by city;
我们一起来看下这个SQL的执行流程哈
创建内存临时表,表里有两个字段
city
和num
;全表扫描
staff
的记录,依次取出city = 'X'的记录。
判断临时表中是否有为 city='X'的行,没有就插入一个记录 (X,1);
如果临时表中有city='X'的行的行,就将x 这一行的num值加 1;
遍历完成后,再根据字段
city
做排序,得到结果集返回给客户端。
这个流程的执行图如下:
临时表的排序是怎样的呢?
就是把需要排序的字段,放到sort buffer,排完就返回。在这里注意一点哈,排序分全字段排序和rowid排序
如果是
全字段排序
,需要查询返回的字段,都放入sort buffer
,根据排序字段排完,直接返回如果是
rowid排序
,只是需要排序的字段放入sort buffer
,然后多一次回表操作,再返回。怎么确定走的是全字段排序还是rowid 排序排序呢?由一个数据库参数控制的,
max_length_for_sort_data
对排序有兴趣深入了解的小伙伴,可以看我这篇文章哈。
看一遍就理解:order by详解
3. where 和 having的区别
group by + where 的执行流程
group by + having 的执行流程
同时有where、group by 、having的执行顺序
3.1 group by + where 的执行流程
有些小伙伴觉得上一小节的SQL太简单啦,如果加了where条件之后,并且where条件列加了索引呢,执行流程是怎样?
好的,我们给它加个条件,并且加个idx_age
的索引,如下:
select city ,count(*) as num from staff where age> 30 group by city;
//加索引
alter table staff add index idx_age (age);
再来expain分析一下:
explain select city ,count(*) as num from staff where age> 30 group by city;
从explain 执行计划结果,可以发现查询条件命中了idx_age
的索引,并且使用了临时表和排序
Using index condition:表示索引下推优化,根据索引尽可能的过滤数据,然后再返回给服务器层根据where其他条件进行过滤。这里单个索引为什么会出现索引下推呢?explain出现并不代表一定是使用了索引下推,只是代表可以使用,但是不一定用了。大家如果有想法或者有疑问,可以加我微信讨论哈。
执行流程如下:
创建内存临时表,表里有两个字段
city
和num
;扫描索引树
idx_age
,找到大于年龄大于30的主键ID通过主键ID,回表找到city = 'X'
判断临时表中是否有为 city='X'的行,没有就插入一个记录 (X,1);
如果临时表中有city='X'的行的行,就将x 这一行的num值加 1;
继续重复2,3步骤,找到所有满足条件的数据,
最后根据字段
city
做排序,得到结果集返回给客户端。
3.2 group by + having 的执行
如果你要查询每个城市的员工数量,获取到员工数量不低于3的城市,having可以很好解决你的问题,SQL酱紫写:
select city ,count(*) as num from staff group by city having num >= 3;
查询结果如下:
having
称为分组过滤条件,它对返回的结果集操作。
3.3 同时有where、group by 、having的执行顺序
如果一个SQL同时含有where、group by、having
子句,执行顺序是怎样的呢。
比如这个SQL:
select city ,count(*) as num from staff where age> 19 group by city having num >= 3;
执行
where
子句查找符合年龄大于19的员工数据group by
子句对员工数据,根据城市分组。对
group by
子句形成的城市组,运行聚集函数计算每一组的员工数量值;最后用
having
子句选出员工数量大于等于3的城市组。
3.4 where + having 区别总结
having
子句用于分组后筛选,where子句用于行条件筛选having
一般都是配合group by
和聚合函数一起出现如(count(),sum(),avg(),max(),min()
)where
条件子句中不能使用聚集函数,而having
子句就可以。having
只能用在group by之后,where执行在group by之前
4. 使用 group by 注意的问题
使用group by 主要有这几点需要注意:
group by
一定要配合聚合函数一起使用嘛?group by
的字段一定要出现在select中嘛group by
导致的慢SQL问题
4.1 group by一定要配合聚合函数使用嘛?
group by 就是分组统计的意思,一般情况都是配合聚合函数如(count(),sum(),avg(),max(),min())
一起使用。
count() 数量
sum() 总和
avg() 平均
max() 最大值
min() 最小值
如果没有配合聚合函数使用可以吗?
我用的是Mysql 5.7 ,是可以的。不会报错,并且返回的是,分组的第一行数据。
比如这个SQL:
select city,id_card,age from staff group by city;
查询结果是
大家对比看下,返回的就是每个分组的第一条数据
当然,平时大家使用的时候,group by还是配合聚合函数使用的,除非一些特殊场景,比如你想去重,当然去重用distinct
也是可以的。
4.2 group by 后面跟的字段一定要出现在select中嘛。
不一定,比如以下SQL:
select max(age) from staff group by city;
执行结果如下:
分组字段city
不在select 后面,并不会报错。当然,这个可能跟不同的数据库,不同的版本有关吧。大家使用的时候,可以先验证一下就好。有一句话叫做,纸上得来终觉浅,绝知此事要躬行。
4.3 group by
导致的慢SQL问题
到了最重要的一个注意问题啦,group by
使用不当,很容易就会产生慢SQL 问题。因为它既用到临时表,又默认用到排序。有时候还可能用到磁盘临时表。
如果执行过程中,会发现内存临时表大小到达了上限(控制这个上限的参数就是
tmp_table_size
),会把内存临时表转成磁盘临时表。如果数据量很大,很可能这个查询需要的磁盘临时表,就会占用大量的磁盘空间。
这些都是导致慢SQL的x因素,我们一起来探讨优化方案哈。
5. group by的一些优化方案
从哪些方向去优化呢?
方向1:既然它默认会排序,我们不给它排是不是就行啦。
方向2:既然临时表是影响group by性能的X因素,我们是不是可以不用临时表?
我们一起来想下,执行group by
语句为什么需要临时表呢?group by
的语义逻辑,就是统计不同的值出现的个数。如果这个这些值一开始就是有序的,我们是不是直接往下扫描统计就好了,就不用临时表来记录并统计结果啦?
group by 后面的字段加索引
order by null 不用排序
尽量只使用内存临时表
使用SQL_BIG_RESULT
5.1 group by 后面的字段加索引
如何保证group by
后面的字段数值一开始就是有序的呢?当然就是加索引啦。
我们回到一下这个SQL
select city ,count(*) as num from staff where age= 19 group by city;
它的执行计划
如果我们给它加个联合索引idx_age_city(age,city)
alter table staff add index idx_age_city(age,city);
再去看执行计划,发现既不用排序,也不需要临时表啦。
加合适的索引是优化group by
最简单有效的优化方式。
5.2 order by null 不用排序
并不是所有场景都适合加索引的,如果碰上不适合创建索引的场景,我们如何优化呢?
如果你的需求并不需要对结果集进行排序,可以使用
order by null
。
select city ,count(*) as num from staff group by city order by null
执行计划如下,已经没有filesort
啦
5.3 尽量只使用内存临时表
如果group by
需要统计的数据不多,我们可以尽量只使用内存临时表;因为如果group by 的过程因为内存临时表放不下数据,从而用到磁盘临时表的话,是比较耗时的。因此可以适当调大tmp_table_size
参数,来避免用到磁盘临时表。
5.4 使用SQL_BIG_RESULT优化
如果数据量实在太大怎么办呢?总不能无限调大tmp_table_size
吧?但也不能眼睁睁看着数据先放到内存临时表,随着数据插入发现到达上限,再转成磁盘临时表吧?这样就有点不智能啦。
因此,如果预估数据量比较大,我们使用SQL_BIG_RESULT
这个提示直接用磁盘临时表。MySQl优化器发现,磁盘临时表是B+树存储,存储效率不如数组来得高。因此会直接用数组来存
示例SQl如下:
select SQL_BIG_RESULT city ,count(*) as num from staff group by city;
执行计划的Extra
字段可以看到,执行没有再使用临时表,而是只有排序
执行流程如下:
初始化 sort_buffer,放入city字段;
扫描表staff,依次取出city的值,存入 sort_buffer 中;
扫描完成后,对 sort_buffer的city字段做排序
排序完成后,就得到了一个有序数组。
根据有序数组,统计每个值出现的次数。
6. 一个生产慢SQL如何优化
最近遇到个生产慢SQL,跟group by相关的,给大家看下怎么优化哈。
表结构如下:
CREATE TABLE `staff` (`id` bigint(11) NOT NULL AUTO_INCREMENT COMMENT '主键id',`id_card` varchar(20) NOT NULL COMMENT '身份证号码',`name` varchar(64) NOT NULL COMMENT '姓名',`status` varchar(64) NOT NULL COMMENT 'Y-已激活 I-初始化 D-已删除 R-审核中',`age` int(4) NOT NULL COMMENT '年龄',`city` varchar(64) NOT NULL COMMENT '城市',`enterprise_no` varchar(64) NOT NULL COMMENT '企业号',`legal_cert_no` varchar(64) NOT NULL COMMENT '法人号码',PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=15 DEFAULT CHARSET=utf8 COMMENT='员工表';
查询的SQL是这样的:
select * from t1 where status = #{status} group by #{legal_cert_no}
我们先不去探讨这个SQL的=是否合理。如果就是这么个SQL,你会怎么优化呢?有想法的小伙伴可以留言讨论哈,也可以加我微信加群探讨。如果你觉得文章那里写得不对,也可以提出来哈,一起进步,加油呀
参考与感谢
mySQL 45讲 (https://time.geekbang.org/column/article/80477?cid=100020801)
求点赞、在看、分享三连
你知道group by的工作原理和优化思路吗?相关推荐
- jQuery选择器的工作原理和优化
至于有那些选择器,在帮助手册中都有,自己去看,这篇主要是分析他的工作原理,而优化我们写 的选择器,尤其在页面内容很多的情况下,更应该需要优化.下边就言归正传. 每次申明一个jQuery对象的时候,返回 ...
- Nginx工作原理和优化、漏洞。
http://blog.csdn.net/hguisu/article/details/8930668 (排名100多bolg写的很好) 1. Nginx的模块与工作原理 Nginx由内核和模块组成 ...
- Nginx工作原理和优化、漏洞(转)
查看安装了哪些模块命令: [root@RG-PowerCache-X xcache]# nginx/sbin/nginx -V nginx version: nginx/1.2.3 built by ...
- Nginx工作原理和优化总结。
NGINX以高性能的负载均衡器,缓存,和web服务器闻名,驱动了全球超过 40% 最繁忙的网站.在大多数场景下,默认的 NGINX 和 Linux 设置可以很好的工作,但要达到最佳性能,有些时候必须做 ...
- Nginx工作原理及优化参数配置
1.master和worker Nginx启动后,是由两个进程组成的.master(管理者)和worker(工作者). 一个Nginx只有一个master,但可以有多个worker. Nginx接收到 ...
- 预充电电路工作原理_变频冰箱开关电源电路工作原理及检修思路
电冰箱的开关电源电路主要用来为电冰箱其他电路和各部件提供工作电压,市电220V 电压经过开关电源电路处理后,通过接线端子为电冰箱的用电部件供电. 下图所示为三星BCD-226型电冰箱的开关电源电路框图 ...
- 经典PID控制算法原理以及优化思路
文章目录 0.概念 1.理解 2.实现 3.优化 4.引用 0.概念 PID算法是工业应用中最广泛算法之一,在闭环系统的控制中,可自动对控制系统进行准确且迅速的校正.PID控制,即Proportion ...
- Flink 基础原理与优化思路
文章目录 什么是Flink? Flink 的特性 Flink 相比传统的 Spark Streaming 有什么区别? Flink 的组件栈有哪些? Flink 的运行必须依赖 Hadoop 组件吗? ...
- 看完后,搞懂ARP的工作原理,其实并不难(好文)
本期,我就来解答一下关于ARP的工作原理吧! 思路 1.思考ARP到底是干嘛的? 为什么要有它?why? 2.掌握ARP的工作原理. 技术人,要掌握一种技术,绝对离不开以上两点基本思路,带着这两个思路 ...
最新文章
- linux日志队列长度,Linux 消息队列长度处理
- android xml 未能解析文件,Android Studio提示“无法解析符号”,但项目已编译
- python对数据进行统计分析_python获取ELK数据进行统计分析
- 今日恐慌与贪婪指数为40 恐慌程度有所上升
- spring学习--完全注解开发(不需要xml)
- iOS dSYM详解和分析crash,ips文件
- apt 安装软件出现“无法定位软件包”的问题
- linux基本命令学习
- php的repl是什么,更好的 repl
- 苹果手机内屏幕出现彩色条纹怎么办
- CAN总线车联网透传云网关简介
- 这4个文档排版方式掌握了,工作效率提高的不止一点点!
- 蚂蚁资深技术专家刘晓莹十年支付宝回忆录
- matlab实现牛顿下山法(下山过程)
- 亿级流量电商详情页系统实战-25.亿级流量商品详情页的多级缓存架构介绍
- jenkins检查更新站点时出错:SSLHandshakeException:sun.security.validator.ValidatorException:PKIX路径构建失败:sun.secu
- 选择IDC机房的心得
- Agora 教程 | 在 Android 端实现实时视频的美颜
- 基于Python+django的航班查询与推荐-计算机毕业设计
- 深入分析netty(一)BootStrap与ServerBootStrap
热门文章
- POJ1163 数字三角形
- DIY—USB学习板设计以及驱动开发
- 【window】git安装教程
- 之江学院第0届 A qwb与支教 容斥与二分
- 并发数据结构-1.1 并发的数据结构的设计
- Anaconda配置多spyder多python环境
- Failed connect to github.com:443; No error
- fatal error C1010: unexpected end of file while looking for precompiled head
- GridView 中 Bind和Eval的区别详解
- 【注册机】ColorSchemer Studio 2.1.0 注册机