MySQL数据库插入100w条数据要花多久?

1、多线程插入(单表)

2、多线程插入(多表)

3、预处理SQL

4、多值插入SQL

5、事务(N条提交一次)

# 多线程插入(单表)

问:为何对同一个表的插入多线程会比单线程快?同一时间对一个表的写操作不应该是独占的吗?

答:在数据里做插入操作的时候,整体时间的分配是这样的:

1、多链接耗时 (30%)

2、多发送query到服务器 (20%)

3、多解析query (20%)

4、多插入操作 (10% * 词条数目)

5、多插入index (10% * Index的数目)

6、多关闭链接 (10%)

从这里可以看出来,真正耗时的不是操作,而是链接,解析的过程。

MySQL插入数据在写阶段是独占的,但是插入一条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率。

# 多线程插入(多表)

分区分表后使用多线程插入。

# 预处理SQL

普通SQL:即使用Statement接口执行SQL

预处理SQL:即使用PreparedStatement接口执行SQL

使用PreparedStatement接口允许数据库预编译SQL语句,以后只需传入参数,避免了数据库每次都编译SQL语句,因此性能更好。

·

String sql = "insert into testdb.tuser

mysql插10万条数据_MySQL数据库插入100w条数据要花多久?相关推荐

  1. 你向 Mysql 数据库插入 100w 条数据用了多久?

    点击上方"方志朋",选择"设为星标" 回复"666"获取新整理的面试资料 目录 1.多线程插入(单表) 2.多线程插入(多表) 3.预处理S ...

  2. mysql怎样循环插入数据_你向 Mysql 数据库插入 100w 条数据用了多久?

    多线程插入(单表) 多线程插入(多表) 预处理SQL 多值插入SQL 事务(N条提交一次) 多线程插入(单表) 问:为何对同一个表的插入多线程会比单线程快?同一时间对一个表的写操作不应该是独占的吗? ...

  3. mysql 异常关机后 无法查数据_MySQL数据库非法关机造成数据表损坏怎么排查 | 学步园...

    该篇文章我们介绍由于非法硬件关机,造成了MySQL数据库的数据表损坏,数据库不能正常运行的一个实例.下面学步园小编来讲解下MySQL数据库非法关机造成数据表损坏怎么排查? MySQL数据库非法关机造成 ...

  4. php mysql 插入多条数据_mysql如何插入多条数据?

    mysql插入多条数据的方法:1.使用"INSERT INTO 表名 字段列表 VALUES (值1) - , (值n);"语句插入数据:2.使用"INSERT INTO ...

  5. mysql中如何去除重复数据_mysql数据库如何去除重复数据

    mysql数据库去除重复数据的方法:1.查询需要删除的记录,会保留一条记录:2.删除重复记录,只保留一条记录,代码为[delete a from test1 a, (...)as bid from t ...

  6. mysql一次读取500条数据_mysql批量插入500条数据

    表格结构如下 需求name和password字段,生成如下格式: 总共批量生成500个. 解决思路:可以用mysql 存储过程 如果linux环境下可以用shell 我们先测试第一种,用存储过程.DE ...

  7. mysql插10万条数据_如何快速安全的插入千万条数据?

    点击上方 小伟后端笔记 ,选择 星标 公众号 重磅资讯.干货,第一时间送达 最近有个需求解析一个订单文件,并且说明文件可达到千万条数据,每条数据大概在20个字段左右,每个字段使用逗号分隔,需要尽量在半 ...

  8. mysql查询单表的销售额_MYsql数据库单表百万数据量查询

    最近总在意自己的网页刷新数据的速度,mysql5.7和mysql8.0单表数据库导入百万甚至千万数据的时候,会不会卡死,会不会慢? 因此编写测试用例,通过Navicat Premium来查询单表的时间 ...

  9. mysql 删除时间范围数据_mysql数据库按时间删除数据总结

    今天访问程序时报如下异常: 主要原因如下: 数据库所在磁盘空间不够所致. 于是登录数据库所在的服务器,查看了下数据库所占的磁盘空间如下: 可以看到磁盘的33G,被全部占满了,于是就开始了数据库表的清理 ...

最新文章

  1. shell 实现ip字符串与整形互转
  2. 以太网Ethernet解码概述
  3. mysql主从复制 drbd_MySql主从复制简单案例实现
  4. 领域驱动设计案例:Tiny Library:领域模型
  5. Angular NgModule里定义的注解和NgModuleRef$1运行时
  6. 笑脸喜迎新同学,热情送给新伙伴
  7. 记得把每一次面试当做经验积累,深夜思考
  8. LINUX中nagios客户端安装步骤及遇到问题
  9. mysql视图的更新 条件_MySQL进阶16 - 视图的创建/修改/删除/更新--可更新性的不适用条件...
  10. JAVA日常优化---Guava缓存玩耍异步刷新
  11. uniapp对象怎么获取值_Uniapp使用GoEasy实现websocket实时通讯
  12. winen中文_enWin使用部分中文字库
  13. 网关支付、、快捷支付、银行卡支付等网上常见支付方式接口说明
  14. Windows XP系统中如何屏蔽 Ctrl+Alt+Del、Alt+Tab以及Ctrl+Esc键序列
  15. Android Key获取方式
  16. 听课感悟——信息与信息特征
  17. MMU and MPU
  18. 5位音视频技术专家热议WebRTC、Qos、AI、4K
  19. 公司现有一个工作组workgroup,需要添加samba服务器作为文件服务器,并发布共享目录
  20. 水电站下泄生态流量监控解决方案-智能监测生态流量遥测终端-水电站流量监测站

热门文章

  1. 本周 Github 精选:多款超赞 AI 开源项目,等你来 Star!
  2. 用Transformer完全代替CNN:AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE
  3. 元件库导入_Axure RP9【元件库的学习】
  4. ElasticSearch-7.10版本最新万字长文教程【距离搞懂ELK核心你只差这一片文章】
  5. 计算机操作系统还能这样玩?这一篇计算机操作系统的总结为你保驾护航(零风险、高质量、万字长文、建议收藏)
  6. springboot+springsecurity+mybatis plus注解实现对方法的权限处理
  7. Visual C++——CComboBox控件在对话框中没有下拉项目问题解决方案
  8. Visual C++——《可视化编程技术》实验报告——绘图与文本操作
  9. html5 将资源存于客户端,HTML5离线应用与客户端存储的实现
  10. 【spring学习笔记】(二)Spring MVC注解配置 参数转换注解@RequestMapping@RequestParam、@PathVariable@MatrixVariable