这里写目录标题

  • MySQL多表关联查询对比多次单表查询,哪个效率高?
    • 疑问:
    • 高手解答:
  • 《阿里巴巴JAVA开发手册》里面写超过三张表禁止join 这是为什么?这样的话那sql要怎么写?
    • 一:为什么做这种限制?
    • 二:在这种限制下SQL怎么写?

MySQL多表关联查询对比多次单表查询,哪个效率高?

疑问:

比如有a,b两张表,两张表都差不多有十几w行记录,需要查询的字段在两张表中,那么是关联查询效率高点还是分别查a,b两张表,再在service层合并数据效率高点?想问问大家在实际开发中都是怎么考量的?谢谢!

高手解答:

先说效率哪个更高:A,B两个表数据规模十几万,数据规模都不大,单机MySQL够用了。
在单机的基础上要关联两表的数据,

  • 先说一个极端情况,A,B两个表都没有索引,并且关联是笛卡尔积,那关联结果会爆炸式增长,可能到亿级别,这个时候网络IO成了瓶颈,这个时候两次十万行结果集的拉取可能远小于1次亿级别的结果集的拉取,那么将关联合并拉到service层做更快。
  • 但实际业务中一般不会有这么蠢的行为,一般关联会有连接条件,并且连接条件上会有索引,一般是有一个结果集比较小,拿到这个结果集去另一张表去关联出其它信息。
    如果放到service层去做,最快的方式是,先查A表,得到一个小的结果集,一次rpc(RPC一般指远程过程调用。RPC是远程过程调用(Remote Procedure Call)的缩写形式),再根据结果集,拼凑出B表的查询条件,去B表查到一个结果集,再一次rpc,再把结果集拉回service层,再一次rpc,然后service层做合并,3次rpc获得结果
    如果用数据库的join,关联结果拉回来,一次rpc,帮你省了两次rpc,当然数据库上做关联更快,对应到数据库就是一次blk nested loop join,这是业务常用情况。
    但是确实大多数业务都会考虑把这种合并操作放到service层,我觉得有几方面考虑:
    第一:单机数据库计算资源很贵,数据库同时要服务写和读,都需要消耗CPU,为了能让数据库的吞吐变得更高,而业务又不在乎那几百微妙到毫秒级的延时差距,业务会把更多计算放到service层做,毕竟计算资源很好水平扩展,数据库很难啊,所以大多数业务会把纯计算操作放到service层做,而将数据库当成一种带事务能力的kv系统(KV数据库:Key-Value,让人想到Mongo数据库和JSON数据交换格式。 数据存储,存储的数据主要分两种:结构数据(关系表),非结构数据(大文件,杂数据(模式和内容揉合(HTML)))来使用,这是一种重业务,轻DB的架构思路
    第二:很多复杂的业务可能会由于发展的历史原因,一般不会只用一种数据库,一般会在多个数据库上加一层中间件,多个数据库之间还能做FetchMode.join,自然业务会抽象出一个service层,降低对数据库的耦合。
    第三:对于一些大型公司由于数据规模庞大,不得不对数据库进行分库分表,这个问题我在《阿里为什么要禁用三表以上的join》上也回答过,对于分库分表的应用,使用join也受到了很多限制,除非业务能够很好的根据sharding key(分区key)明确要join的两个表在同一个物理库中。而中间件一般对跨库join都支持不好。举一个很常见的业务例子,在分库分表中,要同步更新两个表,这两个表位于不同的物理库中,为了保证数据一致性,一种做法是通过分布式事务中间件将两个更新操作放到一个事务中,但这样的操作一般要加全局锁,性能很捉急,而有些业务能够容忍短暂的数据不一致,怎么做?让它们分别更新呗,但是会存在数据写失败的问题,那就起个定时任务,扫描下A表有没有失败的行,然后看看B表是不是也没写成功,然后对这两条关联记录做订正,这个时候同样没法用join去实现,只能将数据拉到service层应用自己来合并了。

《阿里巴巴JAVA开发手册》里面写超过三张表禁止join 这是为什么?这样的话那sql要怎么写?

一:为什么做这种限制?

打个比方,如果我有无限的钱,我想买个豪华别墅,想买个跑车,想买个直升飞机,但现实是我没钱,只能租房住,只能走路上下班。。
如果数据库的性能无限强大,多个表的join肯定是需要的,尤其是复杂的分析型(OLAP)查询,甚至可能涉及10几个表的join,但现实是大部分数据库的性能都太弱了,尤其是涉及到多表join的查询。
规范一看就是在使用MySQL时的限制(这种规范实际上迫不得已的限制),做这个限制有两个原因:一是优化器很弱,涉及多个表的查询,往往得不到很好的查询计划;二是执行器很弱,只有nested loop join,block nested loop join和index nested loop join。

  1. nested loop join就是分别从两个表读一行数据进行两两对比,复杂度是n^22.
  2. block nested loop join是分别从两个表读很多行数据,然后进行两两对比,复杂度也是n^2,只是少了些函数调用等overhead
  3. index nested loop join是从第一个表读一行,然后在第二个表的索引中查找这个数据,索引是B+树索引,复杂度可以近似认为是n log n,比上面两个好很多,这就是要保证关联字段索引的原因
  4. 如果有hash join,就不用做这种限制了,用第一个表(小表)建hash table,第二个表在hash table中查找匹配的项,复杂度是n。缺点是hash table占的内存可能会比较大,不过也有基于磁盘的hash join,实现起来比较复杂

二:在这种限制下SQL怎么写?

可是我确实需要两个表里的数据链接在一起啊,我们可以做个冗余,建表的时候,就把这些列放在一个表里。
比如: 一开始有
student(id, name),
class(id, description),
student_class(student_id, class_id)三张表,
这样是符合数据库范式的(第一范式,第二范式,第三范式,BC范式等),没有任何冗余,但是马上就不符合“编程规范“了,那我们可以用一张大表代替它,student_class_full(student_id, class_id, name, description),这样name和description可能要被存储多份,但是由于不需要join了,查询的性能就可以提高很多了。任何的规范都是在特定情况下的某种妥协,脱离了这个环境,就不一定成立了。

MySQL多表关联查询效率高点还是多次单表查询效率高,为什么?相关推荐

  1. (探讨)MyBatis中的N+1问题,多表关联查询效率高点还是多次单表查询效率高

    MySQL多表关联查询效率高点还是多次单表查询效率高,为什么? https://blog.csdn.net/weixin_33869377/article/details/86265527 MyBat ...

  2. 指定查询条件,查询对应的集合List(单表)

    TestDao.java(测试类) @Test  public void findCollectionByConditionNoPage(){   ApplicationContext ac = ne ...

  3. mysql plus多表关联_结合mybatis-plus 实现实体操作多表关联查询

    这里将告诉您结合mybatis-plus 实现实体操作多表关联查询,教程操作方法: multipleselect java mybatis 实现简单多表查询 简介 实现简单的实体类操作多表, 首先你的 ...

  4. mysql查询子表的语句_MySQL基本SQL语句之单表查询、多表查询和子查询

    一.简单查询: 1.基本语法: SELECT * FROM tb_name;//查询全部 SELECT field1,field2 FROM tb_name; //投影 SELECT [DISTINC ...

  5. python count函数用法 comm_python3:MySQL 8.0学习笔记(第五部分:单表查询操作)

    在讲解单表查询时,首先创建一个emp的员工表,表中字段包括:empno(员工编号).ename(员工姓名).job(员工职位).mgr(员工领导).hiredate(员工入职日期).sal(员工月薪) ...

  6. mysql单表数据列_MySQL 之 数据操作及单表查询

    1.数据操作 (1)insert 增加数据 1. 插入完整数据(顺序插入) 语法一: INSERT INTO 表名(字段1,字段2,字段3-字段n) VALUES(值1,值2,值3-值n); 语法二: ...

  7. mysql数据库查询关键字级别_MySQL数据库之单表查询中关键字的执行顺序

    MySQL数据库之单表查询中关键字的执行顺序 1 语法顺序 select distinct from where group by having order by limit 2 执行顺序 from ...

  8. mysql delete 表关联删除数据_MYSQL中delete删除多表数据与删除关联数据

    在mysql中删除数据方法有很多种,最常用的是使用delete来删除记录,下面我来介绍delete删除单条记 录与删除多表关联数据的一些简单实例. 1.delete from t1 where 条件 ...

  9. mysql 单表 子查询_MySQL基本SQL语句之单表查询、多表查询和子查询 | 旺旺知识库...

    一.简单查询: 基本语法: SELECT * FROM tb_name;查询全部 SELECT field1,field2 FROM tb_name; 投影 SELECT [DISTINCT] * F ...

最新文章

  1. Android常用控件之Fragment仿Android4.0设置界面
  2. [基础知识]Linux新手系列之三
  3. Thrift解读(五)——server端RPC接收与返回值的回送
  4. 设置控件全局显示样式appearance proxy
  5. cognos 样例 oracle,Cognos10安装和sample配置(ORACLE学样例)
  6. go环境搭建_容器化 Go 开发环境的尝试
  7. Spring Security OAuth2.0_实现分布式认证授权_搭建注册中心_Spring Security OAuth2.0认证授权---springcloud工作笔记150
  8. 得到多组单选框的值_多组学如何构建预后预测模型,还发了7分+?
  9. Oracle安装图文详解!
  10. GO语言 使用hash 表
  11. dev c++缺省源
  12. 一个简单的ZUI多文件上传的demo和sql练习
  13. 以“开放同行评议”推动学术发展
  14. jgl表示什么(JGL什么意思)
  15. 【历史上的今天】10 月 29 日:互联网的正式诞生;MariaDB 发布首个版本;“天河一号”研制成功
  16. Jupyter Notebook,day1 2019.3.25
  17. 泛型的意义和作用是啥?
  18. Log:日志之 Spdlog 极简用法示范『二』
  19. (XJTLU)Methodology to MAV Auto-Polination
  20. gitbook 插件 SEO

热门文章

  1. 超大文件上传解决方案:分片断点上传(一)
  2. 初中信息技术2017中考视频讲解
  3. Python数据分析与挖掘——线性回归预测模型
  4. python通达信模块_通达信转python
  5. 数据分析,如何看待我国1400万人忍受极端通勤,单程通勤超60分钟!
  6. Qt 播放Yuv420p视频
  7. RGB、YUV420、NV21、I420编码区别
  8. VS2013 scanf_s引起 msvcr110d.dll xxxxxx处有未经处理的异常
  9. 计算机协会维修部面试,协会社团面试自我介绍
  10. 生活随记 - 有时候