上周五HaC我要上线,有一个脚本需要执行,执行前需要备份一个表。

运维大佬:“这个表的备份为什么要这么久,,??”

1秒过去了……2秒过去了……

期间运营反馈系统出现大量订单超时情况。

大佬找到我,问:“你怎么备份的?”

我:“insert into select * from 呀!”

大佬:“??你是不是不想混了?”


又是被大佬嫌弃的一天,为了不卷铺盖走人,我决定去学习一下表备份的常见方法。

MySQL一般我们在生产上备份数据通常会用到 这两种方法:

  1. INSERT INTO SELECT

  2. CREATE TABLE AS SELECT

注:本文仅针对MySQL innodb引擎,事务是可重复读RR,数据库版本为5.5

1.INSERT INTO SELECT

insert into Table2(field1,field2,...) select value1,value2,... from Table1

注意

(1)要求目标表Table2必须存在,并且字段field,field2…也必须存在

(2)注意Table2的主键约束,如果Table2有主键而且不为空,则 field1, field2…中必须包括主键

在执行语句的时候,MySQL是逐行加锁的(扫描一个锁一个),直至锁住所有符合条件的数据,执行完毕才释放锁。所以当业务在进行的时候,切忌使用这种方法。

在RR隔离级别下,还会加行锁和间隙锁

举个栗子吧:

CREATE TABLE `t` (  `id` int(11) NOT NULL AUTO_INCREMENT,  `c` int(11) DEFAULT NULL,  `d` int(11) DEFAULT NULL,  PRIMARY KEY (`id`),  UNIQUE KEY `c` (`c`)) ENGINE=InnoDB;

insert into t values(null, 1,1);insert into t values(null, 2,2);insert into t values(null, 3,3);insert into t values(null, 4,4);

create table t2 like t;

执行

begin;insert into t2(c,d) select c,d from t;

先不commit;这个语句对表 t 主键索引加了 (-∞,1] 这个 next-key lock

新开一个Navicat窗口,模拟新事务进入,此时执行下面这句sql就需要等待

insert into t values(-1,-1,-1);

锁住了

真就锁表了~无法写进去了,我终于知道为什么订单超时了。

背锅背锅。

如果实在要使用 INSERT INTO SELECT 这种方法,可以使用下面的方法进行优化:

  1. 加条件,强制走索引,不要全表扫描,例如

INSERT INTO Table2 SELECT    * FROM    Table1 FORCE INDEX (create_time)WHERE    update_time <= '2020-03-08 00:00:00';
  1. 加上limit 100,100 这种,限制数量

2. CREATE TABLE AS SELECT

create table as select  会创建一个不存在的表,也可以用来复制一个表。

1. create table t3 as select * from t where 1=2;-- 创建一个表结构与t一模一样的表,只复制结构不复制数据;

2.create table t3 as select * from t ;-- 创建一个表结构与t一模一样的表,复制结构同时也复制数据;(索引不会创建)

3.create table t3(`id`,`a`)  as select `id`,`c` from t;-- 创建一个表结构与t一模一样的表,复制结构同时也复制数据,但是指定新表的列名;

后面两种格式,如果后面跟上合适的查询条件,可以只复制符合条件的数据到新的表中。比如:

create  table table1  as  select * from table2  where columns1>=1;

针对大表多字段的表复制,考虑是否每一个字段都是必需的,如果不是必需的,可以自定义选择字段吗,这样复制的时间会大大提升。

CREATE table table1 as SELECT id FROM table2; -- 只复制id这一列

注意此建表过程全程锁表。语句执行完毕,才释放元数据锁

MDL全称为metadata lock,即元数据锁。MDL锁主要作用是维护表元数据的数据一致性,在表上有活动事务(显式或隐式)的时候,不可以对元数据进行写入操作。因此从MySQL5.5版本开始引入了MDL锁,来保护表的元数据信息,用于解决或者保证DDL操作与DML操作之间的一致性。

注意:

  1. 新表不会自动创建创建和原表相同的索引。(即复制表的索引会消失)

3 .区别

  • 首先,最大的区别是二者属于不同类型的语句,INSERT INTO SELECT 是DML语句(数据操作语言,SQL中处理数据等操作统称为数据操纵语言),完成后需要提交才能生效,CREATE TABLE AS SELECT 是DDL语句(数据定义语言,用于定义和管理 SQL 数据库中的所有对象的语言 ),执行完直接生效,不提供回滚,效率比较高。

  • 其次,功能不同,INSERT INTO SELECT只是插入数据,必须先建表;CREATE TABLE AS SELECT 则建表和插入数据一块完成。

  • 当有大量数据的时候不推荐使用Insert into as,因为该语句的插入的效率很慢。

4.总结

以上对复制表来说,都不是很好的选择,分享几种平时常用的方法:

  1. 导出成excel,然后拼sql 成 insert into values(),(),()的形式。

  2. 定时任务,任务的逻辑是查询100条记录,然后多个线程分到几个任务执行,比如是个线程,每个线程10条记录,插入后,在查询新的100条记录处理。

  3. mysqldumb方法,例如

    mysqldump -hhostEEPport -u$user --add-locks=0 --no-create-info --single-transaction  --set-gtid-purged=OFF db1 t --where="a>900" --result-file=/client_tmp/t.sql
  4. 导出 CSV 文件

select * from db1.t where a>900 into outfile '/server_tmp/t.csv';

第3、4两种方法适合整个表导出。

5. 业务少的情况(深夜什么的)下,可以使用 create table as select  。


知识又增加了。

--end--

查询很慢会导致锁表吗_MySQL的insert into select 引发锁表相关推荐

  1. delete 会不会锁表_MySQL的insert into select 引发锁表

    上周五HaC我要上线,有一个脚本需要执行,执行前需要备份一个表. 运维大佬:"这个表的备份为什么要这么久,,??" 1秒过去了--2秒过去了-- 期间运营反馈系统出现大量订单超时情 ...

  2. MySQL的insert into select 引发锁表

    上周五HaC我要上线,有一个脚本需要执行,执行前需要备份一个表. 运维大佬:"这个表的备份为什么要这么久,,??" 1秒过去了--2秒过去了-- 期间运营反馈系统出现大量订单超时情 ...

  3. insert into select语句锁表故障

    深入研究insert into select语句锁表故障(上) 故障描述 前几天,一个mysql数据库运维同事,在生产上用insert into select * from语句,在生产上备份了一张表, ...

  4. SELECT INTO 和 INSERT INTO SELECT 两种表复制语句 (以后在写SQL时,要有这种思想!!!)

    今天天在工作中看到了一个业务要求,具体要求是这样的,根据一堆条件从一个表中查询出符合条件的ID,然后把这个ID插入到一张表中. 技术是使用iBaits和数据库连接,当时我的第一反应是两次查询,先得到I ...

  5. SELECT INTO 和 INSERT INTO SELECT 两种表复制语句

    SELECT INTO 和 INSERT INTO SELECT 两种表复制语句 Insert是T-sql中常用语句,Insert INTO table(field1,field2,...) valu ...

  6. SELECT INTO 和 INSERT INTO SELECT 两种表复制语句详解(SQL数据库和Oracle数据库的区别)...

    我们经常会遇到需要表复制的情况,如将一个table1的数据的部分字段复制到table2中,或者将整个table1复制到table2中,这时候我们就要使用SELECT INTO 和 INSERT INT ...

  7. PostgreSQL SELECT INTO和INSERT INTO SELECT 两种表复制语句

    SELECT INTO和INSERT INTO SELECT两种表复制语句都可以用来复制表与表之间的数据,但是它们之间也有区别. 建表语句: bas_custom_rel表 CREATE TABLE ...

  8. oracle select into 多个,Oracle SELECT INTO 和 INSERT INTO SELECT 两种表复制语句详解

    在Oracle中select into from不可以使用,用create tableselect代替该功能!!!在Sql Server中可以正常使用.1.INSERT INTOSELECT语句 语句 ...

  9. 【MySQL】MySQL Insert into select 大量锁表导致无法插入

    1.概述 原文:因用了Insert into select语句,同事被开除了! Insert into select 请慎用,同事因为使用了 Insert into select 语句引发了重大生产事 ...

最新文章

  1. log4j.logger java_log4j的多logger记录日志的简明使用
  2. Spark 调优之数据倾斜
  3. lucene .doc文件格式解析——见图
  4. 20145201 《信息安全系统设计基础》课程总结
  5. PHP判断客户端的浏览器类型
  6. java easyui样式_【Java框架型项目从入门到装逼】第八节 - 用EasyUI绘制主界面
  7. svg写入/识别html元素和css样式
  8. Xcode6 - 更改项目Copyright
  9. 规范 : disable account
  10. 商城系统订单超时自动取消解决方案
  11. Android 画指南针
  12. python计算一个多项式_急求 python 使用class定义多项式P(x)=a0=a1x+a2x^2……anx^n 使用__init__()产生一个列表记录a的值...
  13. shell脚本中执行ssh
  14. proxy 服务器配置
  15. 阿里云产品推荐——云数据库RDS MySQL 版
  16. WPF 几何图形之图形微语言命令
  17. 古之成大事者必经三境界--王国维《人间词话》
  18. 匈牙利命名法Hungarian Notation
  19. 原型法和面向对象的分析与设计方法
  20. 致远项目管理SPM系统之进度控制

热门文章

  1. 指向老域名的反链丢失问题
  2. 不能错过的好书—《观止》NT当年那点事儿
  3. python列表求斐波那契数列_python3 求斐波那契数列(Fibonacci sequence)
  4. ios html5 自动全屏播放,禁止iPhone Safari video标签视频自动全屏的办法
  5. java nio connect_服务器或客户端上的Java NIO套接字在什么时...
  6. Omnigraffle激活许可证
  7. Java21天打卡Day5-ifelse
  8. FunTester框架Redis压测预备
  9. java伪唤醒,谈谈JDK线程的伪唤醒
  10. 算法选择_快速筛出topK的快速选择算法