作者:谢斌

http://blog.itpub.net/30393770/viewspace-2650450/


提出问题和环境准备

《阿里巴巴JAVA开发手册》里面写超过三张表禁止join,这是为什么?

对这个结论,你是否有怀疑呢?

也不知道是哪位先哲说的不要人云亦云,今天我设计sql,来验证这个结论。

(实验没有从代码角度分析,目前达不到。可以把mysql当一个黑盒,使用角度来验证这个结论) 验证结论的时候,会有很多发现,各位往后看。

实验环境:vmware10+centos7.4+mysql5.7.22 ,centos7内存4.5G,4核,50G硬盘。mysql配置为2G,特别说明硬盘是SSD。

我概述下我的实验:有4张表,student学生表,teacher老师表,course课程表,sc中间关系表,记录了学生选修课程以及分数。

具体sql脚本,看文章结尾,我附上。中间我自己写了造数据的脚本,也在结尾。

实验是为解决一个问题的:查询选修“tname553”老师所授课程的学生中,成绩最高的学生姓名及其成绩。查询sql是:

select Student.Sname,course.cname,score     from Student,SC,Course ,Teacher     where Student.s_id=SC.s_id and SC.c_id=Course.c_id  and sc.t_id=teacher.t_id     and Teacher.Tname='tname553'     and SC.score=(select max(score)from SC where sc.t_id=teacher.t_Id);

我来分析一下这个语句:4张表等值join,还有一个子查询。算是比较简单的sql语句了(相比ERP动就10张表的哦,已经很简单了)。

我还会分解这个语句成3个简单的sql:

 select max(score)  from SC ,Teacher where sc.t_id=teacher.t_Id and Teacher.Tname='tname553';   select sc.t_id,sc.s_id,score   from SC ,Teacher    where sc.t_id=teacher.t_Id    and score=590     and Teacher.Tname='tname553';    select Student.Sname,course.cname,score     from Student,SC ,course    where Student.s_id=SC.s_id and  sc.s_id in (20769800,48525000,26280200) and course.c_id = sc.c_id;

我来分析下:第一句,就是查询最高分,得到最高分590分。第二句就是查询出最高分的学生id,得到

20769800,48525000,26280200

第三句就是查询出学生名字和分数。这样这3个语句的就可以查询出来成绩最高的学生姓名及其成绩。

接下来我会分别造数据:1千万选课记录(一个学生选修2门课),造500万学生,100万老师(一个老师带5个学生,挺高端的吧),1000门课。

用上面查询语句查询。其中sc表我测试了下有索引和没有索引情况,具体见下表。

再接下来,我会造1亿选课记录(一个学生选修2门课),5000万学生,1000万老师,1000门课。然后分别执行上述语句。最后我会在oracle数据库上执行上述语句。

测试结果


敲黑板划重点

仔细看上表,可以发现:

  1. 步骤3.1没有在连接键上加索引,查询很慢,说明:“多表关联查询时,保证被关联的字段需要有索引”;

  2. 步骤6.1,6.2,6.3,换成简单sql,在数据量1亿以上, 查询时间还能勉强接受。此时说明mysql查询有些吃力了,但是仍然能查询出来。

  3. 步骤5.1,mysql查询不出来,4表连接,对我本机mysql来说,1.5亿数据超过极限了(我调优过这个SQL,执行计划和索引都走了,没有问题,show profile显示在sending data.这个问题另外文章详谈。)

  4. 对比1.1 和5.1 步骤sql查询,4表连接,对我本机mysql来说,1.5千万数据查询很流利,是一个mysql数据量流利分水岭。(这个只是现象,不太准确,需要同时计算表的容量)。

  5. 步骤5.1对比6.1,6.2,6.3,多表join对mysql来说,处理有些吃力。

  6. 超过三张表禁止join,这个规则是针对mysql来说的。后续会看到我用同样机器,同样数据量,同样内存,可以完美计算  1.5亿数据量join。针对这样一个规则,对开发来说 ,需要把一些逻辑放到应用层去查询。

总结:这个规则超过三张表禁止join,由于数据量太大的时候,mysql根本查询不出来,导致阿里出了这样一个规定

(其实如果表数据量少,10张表也不成问题,你自己可以试试)而我们公司支付系统朝着大规模高并发目标设计的,所以,遵循这个规定。

在业务层面来讲,写简单sql,把更多逻辑放到应用层,我的需求我会更了解,在应用层实现特定的join也容易得多。

让我们来看看oracle数据库的优秀表现

看步骤7.1,就是没有索引,join表很多的情况下,oracle仍然26秒查询出结果来。所以我会说mysql的join很弱。

看完本篇文章,另外我还附加赠送,所谓搂草打兔子。就是快速造数据。你可以自己先写脚本造数据,看看我是怎么造数据的,就知道我的技巧了。

附上部分截图

附上sql语句和造数据脚本

use stu;drop table if exists student;create table student   (  s_id int(11) not null auto_increment ,     sno    int(11),      sname varchar(50),      sage  int(11),      ssex  varchar(8) ,     father_id int(11),      mather_id int(11),      note varchar(500),     primary key (s_id),   unique key uk_sno (sno)  ) engine=innodb default charset=utf8mb4;truncate table student;  delimiter $$drop function if exists   insert_student_data $$create function insert_student_data() returns  int deterministic    begin    declare  i int;      set i=1;      while  i<50000000 do       insert into student  values(i ,i, concat('name',i),i,case when floor(rand()*10)%2=0 then 'f' else 'm' end,floor(rand()*100000),floor(rand()*1000000),concat('note',i) );      set i=i+1;      end while;      return 1;    end$$delimiter ;    select  insert_student_data();select count(*) from student;use stu;create table course   (      c_id int(11) not null auto_increment ,     cname varchar(50)     note varchar(500), primary key (c_id)  )  engine=innodb default charset=utf8mb4;truncate table course;  delimiter $$drop function if exists   insert_course_data $$create function insert_course_data() returns  int deterministic    begin    declare  i int;      set i=1;      while  i<=1000 do       insert into course  values(i , concat('course',i),floor(rand()*1000),concat('note',i) );      set i=i+1;      end while;      return 1;    end$$delimiter ;    select  insert_course_data();select count(*) from course;use stu;drop table if exists sc;create table sc   (      s_id    int(11),      c_id    int(11),      t_id    int(11),     score int(11)   )  engine=innodb default charset=utf8mb4;truncate table sc;  delimiter $$drop function if exists   insert_sc_data $$create function insert_sc_data() returns  int deterministic    begin    declare  i int;      set i=1;      while  i<=50000000 do       insert into sc  values( i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750)) ;      set i=i+1;      end while;      return 1;    end$$delimiter ;    select  insert_sc_data();commit;select  insert_sc_data();commit;create index idx_s_id  on sc(s_id)   ; create index idx_t_id  on sc(t_id)   ; create index idx_c_id  on sc(c_id)   ; select count(*) from sc;use stu;drop table if exists teacher;create table teacher   (     t_id  int(11) not null auto_increment ,     tname varchar(50) ,     note varchar(500),primary key (t_id)  )  engine=innodb default charset=utf8mb4;

  truncate table teacher;  delimiter $$drop function if exists   insert_teacher_data $$create function insert_teacher_data() returns  int deterministic    begin    declare  i int;      set i=1;      while  i<=10000000 do       insert into teacher  values(i , concat('tname',i),concat('note',i) );      set i=i+1;      end while;      return 1;    end$$delimiter ;    select  insert_teacher_data();commit;select count(*) from teacher;这个是oracle的测试和造数据脚本create tablespace scott_data  datafile  '/home/oracle/oracle_space/sitpay1/scott_data.dbf'  size 1024m autoextend on; create tablespace scott_index   datafile  '/home/oracle/oracle_space/sitpay1/scott_index.dbf'  size 64m  autoextend on; create temporary tablespace scott_temp  tempfile  '/home/oracle/oracle_space/sitpay1/scott_temp.dbf'  size 64m autoextend on; drop user  scott cascade;create user  scott  identified by  tiger  default tablespace scott_data  temporary tablespace scott_temp  ;grant resource,connect,dba to  scott;drop table student;create table student    (  s_id number(11) ,     sno    number(11) ,      sname varchar2(50),      sage  number(11),      ssex  varchar2(8) ,     father_id number(11),      mather_id number(11),      note varchar2(500)  ) nologging;truncate table student;create or replace procedure insert_student_data is    q number(11);    begin      q:=0;      for i in  1..50 loop       insert /*+append*/ into student   select rownum+q as s_id,rownum+q  as sno, concat('sutdent',rownum+q ) as sname,floor(dbms_random.value(1,100)) as sage,'f' as ssex,rownum+q  as father_id,rownum+q  as mather_id,concat('note',rownum+q ) as note from dual connect by level<=1000000;      q:=q+1000000;      commit;      end loop; end insert_student_data;/call insert_student_data();alter table student  add constraint  pk_student primary key (s_id);commit;    select count(*) from student;create table course   (      c_id number(11) primary key,     cname varchar2(50),     note varchar2(500)   )  ;truncate table course; create or replace procedure insert_course_data is    q number(11);    begin 

      for i in  1..1000 loop       insert /*+append*/ into course  values(i , concat('name',i),concat('note',i) );            end loop; end insert_course_data;/call insert_course_data();commit;    select count(*) from course;create table sc   (      s_id    number(11),      c_id    number(11),      t_id    number(11),     score number(11)   ) nologging;truncate table sc; create or replace procedure insert_sc_data is    q number(11);    begin      q:=0;      for i in  1..50 loop       insert /*+append*/ into sc   select rownum+q as s_id, floor(dbms_random.value(0,1000))  as c_id,floor(dbms_random.value(0,10000000)) t_id,floor(dbms_random.value(0,750)) as score from dual connect by level<=1000000;      q:=q+1000000;      commit;      end loop; end insert_sc_data;/call insert_sc_data();create index idx_s_id  on sc(s_id)   ; create index idx_t_id  on sc(t_id)   ; create index idx_c_id  on sc(c_id)   ; select count(*) from sc;create table teacher   (     t_id  number(11) ,     tname varchar2(50) ,     note varchar2(500)  )nologging ;    truncate table teacher;create or replace procedure insert_teacher_data is    q number(11);    begin      q:=0;      for i in  1..10 loop       insert /*+append*/ into teacher   select rownum+q as t_id, concat('teacher',rownum+q ) as tname,concat('note',rownum+q ) as note from dual connect by level<=1000000;      q:=q+1000000;      commit;      end loop; end insert_teacher_data;/call insert_teacher_data();alter table teacher  add constraint  pk_teacher primary key (t_id);select count(*) from teacher;

长按订阅更多精彩▼

如有收获,点个在看,诚挚感谢

阿里不让多表join?我偏要!相关推荐

  1. 阿里不让 MySQL 多表 Join ?我偏要!

    一. 问题提出:<阿里巴巴JAVA开发手册>里面写超过三张表禁止join,这是为什么? 二.问题分析:对这个结论,你是否有怀疑呢?也不知道是哪位先哲说的不要人云亦云,今天我设计sql,来验 ...

  2. 阿里规范不建议多表join,可这SQL要怎么写啊?

    点击上方"方志朋",选择"设为星标" 回复"666"获取新整理的面试资料 前言 我们先来看一下阿里开发手册的描述 手册上写着[强制],但是肥 ...

  3. sql join on 多表连接_阿里规范不建议多表Join,可这SQL要怎么写啊?

    前言 我们先来看一下阿里开发手册的描述: 手册上写着[强制],但是我相信很多同学项目里面的代码都不满足这个要求.但是关键问题是:不用join,这SQL究竟要怎么写啊! 高性能MySQL 高性能MySQ ...

  4. 阿里云流计算中维表join VS 流join

    最近业务上使用blink进行清洗数据,使用到了双流join和维表join,今天有同学问我流join和维表join有什么区别.在此我做个简单的说明,描述不对的地方,欢迎大家纠正,后面补充. 流式计算过程 ...

  5. 大数据开发实战:Hive优化实战2-大表join小表优化

    4.大表join小表优化 和join相关的优化主要分为mapjoin可以解决的优化(即大表join小表)和mapjoin无法解决的优化(即大表join大表),前者相对容易解决,后者较难,比较麻烦. 首 ...

  6. mysql 多表 三表 删除_mysql 多表join查询索引优化

    数据准备 CREATE TABLE IF NOT EXISTS `class` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT, `card` int( ...

  7. MySQL小表join大表的正确使用姿势(straight_join 关键字的使用)

    网上有种说法是:由于一般是采用小表join大表的方式(可以提高效率),所以有人说将小表放在左边,让它先执行,记住,这种说法是错误的!!!有例为证: 我们看上例: film inner join fil ...

  8. Flink异步io应用场景之流表join维表

    简介 维度表,作为数据仓库里面的概念,是维度属性的集合,比如时间维.地点维:可以是一个mysql或者cassandra,redis等存储,甚至是自己定义的一些api. 流表是kafka等流式数据. 根 ...

  9. Mongodb实现多表join

    文章目录 Mongodb实现多表join 1.通过遍历其他表,插入到当前表 2.优化方式 2.1.mongodb的lookup, 也就是聚合功能 2.2.mapreduce 分布式join多表 Mon ...

最新文章

  1. 在Linux上安装Memcached服务
  2. 华为python工程师工资-华为百万年薪抢人工智能应届生,这个高薪行业你如何进入?...
  3. 数据结构习题精解 C语言实现+微课视频(习题解答、研考试题、微课视频)
  4. 再见切赫!斯坦福桥“坦克兵”不止是蓝军传奇
  5. linux相关函数,linux学习-信号相关函数
  6. 获得显示器设置的分辨率
  7. linux下用cronolog分割apache日志
  8. 干货:中国移动互联网行业深度报告
  9. 常见的状态码HTTP Status Code
  10. 微信小程序(五)--- Vant组件库,API Promise化,MboX全局数据共享,分包相关
  11. 如何优雅地处理Async/Await的异常?
  12. wireshark学习系列————4、实时捕捉数据包
  13. Linux通过wine运行QQ,Ubuntu安装wine运行QQ和微信
  14. SqlServer-IN写法(普通、存储过程)
  15. PDF编辑_隐私条款
  16. PyQt5:QMessageBox显示后程序崩溃退出问题
  17. Benchmarking Detection Transfer Learning with Vision Transformers(2021-11)
  18. CMake+mingw----无法找到gcc/g++问题
  19. Windows11开启IE浏览器
  20. 2022年(23届)电子信息/通信工程夏令营保研/考研复试经验贴(中南大学物理与电子学院篇)

热门文章

  1. poj2728(最优比率生成树)
  2. 树套树 ----- P1975 [国家集训队]排队(树状数组套权值线段树求动态逆序对)
  3. 主席树 ---- 2021 ICPC 昆明 M.Stone Games [主席树 + 暴力]
  4. 安卓手机兼容_重磅:鸿蒙OS2.0手机开发者Beta版发布,能兼容安卓
  5. 哈尔滨商业大学计算机与信息工程学院地址,计算机与信息工程学院
  6. android jks sha1,Android 获取签名文件jks的SHA1值或者SHA256的值
  7. 计算机班级logo设计图案简单,班级的标志设计的简洁好看图片
  8. zillow房价预测比赛_Zillow房价预测:2018年美国房价将会上涨
  9. Java服务提供_JAVA 服务提供者框架介绍
  10. boot spring 获取请求端口浩_6、如何获取配置中心的配置