一、背景

以前使用SQL Server进行表分区的时候就碰到很多关于唯一索引的问题:Step8:SQL Server 当表分区遇上唯一约束,没想到在MySQL的分区中一样会遇到这样的问题:MySQL表分区实战。

今天我们来了解MySQL唯一索引的一些知识:包括如何创建,如何批量插入,还有一些技巧上SQL;

这些问题的根源在什么地方?有什么共同点?MySQL中也有分区对齐的概念?唯一索引是在很多系统中都会出现的要求,有什么办法可以避免?它对性能的影响有多大?

二、过程

(一) 导入差异数据,忽略重复数据,IGNORE INTO的使用

在MySQL创建表的时候,我们通常创建一个表的时候是以一个自增ID值作为主键,那么MySQL就会以PRIMARY KEY作为聚集索引键和主键,既然是主键,那当然是唯一的了,所以重复执行下面的插入语句会报1062错误:如Figure1所示;

--创建测试表

CREATE TABLE`testtable` (

`Id`INT(11) UNSIGNED NOT NULLAUTO_INCREMENT,

`UserId`INT(11) DEFAULT NULL,

`UserName`VARCHAR(10) DEFAULT NULL,

`UserType`INT(11) DEFAULT NULL,PRIMARY KEY(`Id`)

) ENGINE=INNODB DEFAULT CHARSET=utf8;--插入测试数据

INSERT INTOtesttable(Id,UserId,UserName,UserType)VALUES(1,101,'aa',1),(2,102,'bbb',2),(3,103,'ccc',3);

(Figure1:Duplicate entry '1' for key 'PRIMARY')

但是在实际的生产环境中,需求往往是需要在UserId键值中设置唯一索引,今天我就以这个作为示例,进行唯一索引的测试:

--创建测试表1

CREATE TABLE`testtable1` (

`Id`INT(11) UNSIGNED NOT NULLAUTO_INCREMENT,

`UserId`INT(11) DEFAULT NULL,

`UserName`VARCHAR(10) DEFAULT NULL,

`UserType`INT(11) DEFAULT NULL,PRIMARY KEY(`Id`),UNIQUE KEY`IX_UserId` (`UserId`)

) ENGINE=INNODB DEFAULT CHARSET=utf8;--创建测试表2

CREATE TABLE`testtable2` (

`Id`INT(11) UNSIGNED NOT NULLAUTO_INCREMENT,

`UserId`INT(11) DEFAULT NULL,

`UserName`VARCHAR(10) DEFAULT NULL,

`UserType`INT(11) DEFAULT NULL,PRIMARY KEY(`Id`),UNIQUE KEY`IX_UserId` (`UserId`)

) ENGINE=INNODB DEFAULT CHARSET=utf8;--插入测试数据1

INSERT INTOtesttable1(Id,UserId,UserName,UserType)VALUES(1,101,'aa',1),(2,102,'bbb',2),(3,103,'ccc',3);--插入测试数据2

INSERT INTOtesttable2(Id,UserId,UserName,UserType)VALUES(1,201,'aaa',1),(2,202,'bbb',2),(3,203,'ccc',3),(4,101,'xxxx',5);

(Figure2:testtable1记录)

(Figure3:testtable2记录)

通过执行上面的SQL脚本,我们在testtable1和testtable2都创建了唯一索引:UNIQUE KEY `IX_UserId` (`UserId`),这就说明UserId在testtable1和testtable2表中都是唯一的,如果把testtable2的数据批量导入到testtable1,如果执行下面【导入1】的SQL,就会出现1062的错误,导致整个过程会回滚,没有达到导入差异数据的目的。

--导入1

INSERT INTOtesttable1(UserId,UserName,UserType)SELECT UserId,UserName,UserType FROM testtable2;

(Figure4:Duplicate entry '101' for key 'IX_UserId')

MySQL提供一个关键字:IGNORE,这个关键字判断每条记录是否存在,是否违反饿了表中的唯一索引,如果存在就不插入,而不存在的记录就会插入。

--导入2

INSERT IGNORE INTOtesttable1(UserId,UserName,UserType)SELECT UserId,UserName,UserType FROM testtable2;

所以执行完【导入2】,就会产生Figure5的结果,这已经达到了我们的目的了,但是你有没发现自增的ID值跳过了一些值,这是因为我们之前执行【导入1】失败造成的,虽然我们的事务回滚了,但是自增ID会出现断层。在SQL Server中也会有这样的问题。扩展阅读:简单实用SQL脚本Part:查找SQL Server 自增ID值不连续记录

(Figure5:IGNORE效果)

(二) 导入并覆盖重复数据,REPLACE INTO 的使用

1. 把testtable1和testtable2分别回滚到Figure2和Figure3的状态(使用TRUNCATE TABLE命名再执行Insert语句),这个时候再执行下面的SQL,看有什么效果:

--导入3

REPLACE INTOtesttable1(UserId,UserName)SELECT UserId,UserName FROM testtable2;

(Figure6:REPLACE效果)

从上图Figure6中,我们可以看到:UserId为101的记录发生了改变,不单UserName修改了,而且UserType也变为NULL了。

所以,如果导入中发现了重复的,先删除再插入,如果记录有多个字段,在插入的时候如果有的字段没有赋值,那么新插入的记录这些字段为空(新插入记录的UserType都为NULL)。

需要注意的是,当你replace的时候,如果被插入的表如果没有指定列,会用NULL表示,而不是这个表原来的内容。如果插入的内容列和被插入的表列一样,则不会出现NULL。

2. 如果我们表结构UserType字段不允许为空,而且没有默认值的情况,执行【导入3】会发生什么事情呢?

(Figure7:返回警告信息)

(Figure8:UserType被设置为0)

通过Figure7和Figure8,我们知道数据记录还是插入了,只是返回Field 'UserType' doesn't have a default value的警告,插入记录的UserType字段都被设置为0('UserType' 为int数据类型)。

3. 如果我们希望导入的时候一起更新UserType字段的值,这自然很简单了,使用下面的SQL脚本就可以解决:

--导入4

REPLACE INTOtesttable1(UserId,UserName,UserType)SELECT UserId,UserName,UserType FROM testtable2;

(Figure9:一起更新UserType)

(三) 导入保留重复数据未指定字段,INSERT INTO ON DUPLICATE KEY UPDATE的使用

把testtable1和testtable2分别回滚到Figure2和Figure3的状态(使用TRUNCATE TABLE命名再执行Insert语句),这个时候再执行下面的SQL,看有什么效果:

--导入5

INSERT INTOtesttable1(UserId,UserName)SELECT UserId,UserName FROMtesttable2ON DUPLICATE KEY UPDATEtesttable1.UserName= testtable2.UserName;

(Figure10:保留UserType值)

对比Figure2、Figure3与Figure10,UserId为101的记录:更新了UserName的值,保留了UserType的值;但是由于【导入5】中没有指定UserType,所以新插入记录的UserType是为NULL的。

--导入6

INSERT INTOtesttable1(UserId,UserName,UserType)SELECT UserId,UserName,UserType FROMtesttable2ON DUPLICATE KEY UPDATEtesttable1.UserName= testtable2.UserName;

(Figure11:保留UserType值)

对比Figure2、Figure3与Figure11,只插入testtable2表的UserId,UserName字段,但是保留testtable1表的UserType字段。如果发现有重复的记录,做更新操作;在原有记录基础上,更新指定字段内容,其它字段内容保留。

(四) 总结

当在一个UNIQUE键上插入包含重复值的记录时,默认的insert会报1062错误,MYSQL可以通过以上三种不同的方式和你的业务逻辑进行处理。

三、参考文献

sql加上唯一索引后批量插入_MySQL当批量插入遇上唯一索引相关推荐

  1. sql加上唯一索引后批量插入_MySQL批量插入遇上唯一索引避免方法

    一.背景 以前使用SQL Server进行表分区的时候就碰到很多关于唯一索引的问题:Step8:SQL Server 当表分区遇上唯一约束,没想到在MySQL的分区中一样会遇到这样的问题:MySQL表 ...

  2. mysql添加索引后查询先用索引吗_mysql 添加索引后 在查询的时候是mysql就自动从索引里面查询了。还是查询的时候有单 独的参数查询索引?...

    满意答案 llt1711 2014.06.20 采纳率:49%    等级:9 已帮助:614人 MYSQL创建索引对索引使用方式分两种: 1 由数据库查询优化器自动判断否使用索引: 2 用户写SQL ...

  3. SQL Server 当表分区遇上唯一约束(转载)

    一.前言 我已经在高兴对服务器创建了表分区并且获得良好性能和自动化管理分区切换的时候,某一天,开发人员告诉我,某表的两个字段的数据不唯一,需要为这两个字段创建唯一索引的时候,这一切就变得不完美了. 列 ...

  4. mysql 索引条件推送_MySQL 处理where条件 index condition pushdown索引条件下推

    5.6之后,MySQL的优化技术 在使用二级索引过滤where条件时,减少回表的次数 以及 MySQL server层和引擎层交互的次数 1.数据库如何处理where条件 index key(inde ...

  5. mysql 排序字段 添加索引吗_mysql需要在哪些字段上加索引?

    mysql需要加索引的字段:1.经常出现在Where子句中的字段,特别是大表的字段,应该建立索引:2.经常与其他表进行连接的表,在连接字段上应该建立索引:3.分组字段或者排序字段应该创建索引:4.选择 ...

  6. excel插入页码_当EXCEL遇上PPT 学做抢手人气王

    几乎每一个职场人的简历中,技能这一栏都会写上"熟练掌握Office". word可以说是最基础无难度的,那么PPT,Excel你就真的会用吗? 11月7-8日,<EXCEL遇 ...

  7. mysql数据库字段字符转数字批量语句_MySQL数据库批量替换指定字段字符串SQL语句命令...

    MySQL批量替换是我们经常会用到的功能,有时站内包含敏感词,会给我们带来麻烦,而在信息量较大的情况下,一篇篇查找.修改是不现实的.用MySQL批量替换,甚是轻松.发布在这里供参考,以备不时之需. M ...

  8. mysql innodb 多线程插入_mysql innodb 并发插入问题,包大量死锁错误

    开了10个并发写线程,没1000条记录批量提交一次,结果mysql包大量死锁错误! "Deadlock found when trying to get lock; try restarti ...

  9. mysql创建索引的关键字为_MySQL创建索引(CREATE INDEX)

    索引的建立对于 MySQL 数据库的高效运行是很重要的,索引可以大大提升 MySQL 的检索速度. 基本语法 MySQL 提供了三种创建索引的方法: 1) 使用 CREATE INDEX 语句 可以使 ...

最新文章

  1. 重磅!中科院白洋研究员加入《宏微名师讲堂》分享高通量分菌技术啦!
  2. Meson,用于协调和调度Netflix推荐工作流的架构
  3. 搭建简易Linux局网服务器
  4. TensorRT(4)-Profiling and 16-bit Inference
  5. error.html mp4,HTML Video error用法及代码示例
  6. dump、load和dumps、loads的联系与区别
  7. win7服务器端口被占用,高手亲自帮您win7端口被占用的详尽处理要领
  8. COVID-19和世界幸福报告数据告诉我们什么?
  9. 什么是反射(.NET)[转]
  10. SwitchHosts For Mac快速切换修改hosts文件工具
  11. 使用 Weaviate 矢量搜索为 60 多万篇学术论文构建可扩展的知识图谱搜索
  12. 神经网络在控制中的作用,神经网络控制基本原理
  13. 词语提取小工具开放啦
  14. 初学者c语言心里测试小项目
  15. java生成随机的26位英文字母
  16. 360 android 应用市场,360手机助手在安卓应用市场占大份额
  17. python音频频谱_小白音频测试之Python对音频进行频谱分析
  18. echarts 自定义tooltip显示图例颜色
  19. Srping 中的AOP
  20. 拼夕夕买家订单数据提取

热门文章

  1. 计算机专业英语第2版郭涛翻译,计算机专业英语
  2. caffe模型文件解析_Caffe ImageData神经网络基本示例无法解析模型文件
  3. python同步应用:多个线程有序执行
  4. 电商用户行为分析与挖掘(MYSQL数据分析+SPSS构建RFM模型)
  5. oracle磁带库清洁带标签,磁带库、磁带机和介质支持
  6. 可解释性:对神经网络中层特征复杂度的解释与拆分
  7. YouTube深度学习推荐系统的十大工程问题
  8. 【小夕精选】多轮对话之对话管理(Dialog Management)
  9. 活动 Web 页面人机识别验证的探索与实践
  10. 论文浅尝 | 基于知识图谱注意力网络的商品推荐