文章目录

  • 问题
  • 排查
  • 结果
  • 建议
问题

最近项目用的mybatis-plus做的映射,有个批处理文件内容的需求,在使用mybatis-plus的批处理方法saveBatch时发现速度特别慢,测试从1000到10000到80000条基本上是线性增加,80000条时差不多要90秒。

排查


经debug排查sql语句是批量执行,所以应该不是框架本身的问题,由于用的是公司的手脚架,在mysql连接配置中发现了问题

这里少配置了一个参数rewriteBatchedStatements=true

结果

修改前24w数据大概在254709 ms
修改后24w数据大概在42506 ms
单次批量插入10000条大概在1700ms

建议

由于我这边没有特殊的性能要求,没有做更多的性能测试,如果对性能有要求的小伙伴可以利用其他手段再进行测试

mybatis-plus大批量数据插入缓慢问题相关推荐

  1. java,如何处理大批量数据插入

    由于做公司业务,由于数据量太大,一条条插入数据非常缓慢.(记得是插入60w单表数据,就要半个多小时,处理完后只需要几秒了) 后来,自己操作的是通过拼接sql语句,比如 insert into pers ...

  2. MyBatis Plus 批量数据插入功能,yyds!

    作者 | 王磊 来源 | Java中文社群(ID:javacn666) 转载请联系授权(微信ID:GG_Stone 最近 Review 小伙伴代码的时候,发现了一个小小的问题,小伙伴竟然在 for 循 ...

  3. mysql大批量数据插入技巧

    转自:https://jingyan.baidu.com/album/95c9d20d61b01dec4f75615a.html?picindex=6 首先我是简单的写了一个mysql的循环插入数据的 ...

  4. mysql 优化配置 大批量数据插入_php导入大量数据到mysql性能优化技巧

    本文实例讲述了php导入大量数据到mysql性能优化技巧.分享给大家供大家参考.具体分析如下: 在mysql中我们结合php把一些文件导入到mysql中,这里就来分享一下我对15000条记录进行导入时 ...

  5. mysql 优化配置 大批量数据插入_MYSQL开发性能研究——批量插入的优化措施

    一.我们遇到了什么问题 在标准SQL里面,我们通常会写下如下的SQL insert语句. INSERT INTO TBL_TEST (id) VALUES(1); 很显然,在MYSQL中,这样的方式也 ...

  6. MySQL大批量数据插入

    公司有一个项目,需要频繁的插入数据到MySQL数据库中,设计目标要求能支持平均每秒插入1000条数据以上.目前功能已经实现,不过一做压力测试,发现数据库成为瓶颈,每秒仅能插入100多条数据,远远达不到 ...

  7. mysql 优化配置 大批量数据插入_[译] MySQL 最佳实践 —— 高效插入数据

    当你需要在 MySQL 数据库中批量插入数百万条数据时,你就会意识到,逐条发送 INSERT 语句并不是一个可行的方法. MySQL 文档中有些值得一读的 INSERT 优化技巧. 在这篇文章里,我将 ...

  8. 使用存储过程实现千万级的大批量数据插入

    t_user表 创建存储过程 insert_user(IN c int(10)): CREATE PROCEDURE insert_user(IN c int(10)) BEGINDECLARE i ...

  9. 使用mybatis向oracle数据库插入数据异常

    遇到了使用mybatis向oracle数据库插入数据异常的问题, 具体的报错如下:org.springframework.jdbc.UncategorizedSQLException: ### Err ...

最新文章

  1. Go 学习笔记(36)— 基于Go方法的面向对象(封装、继承、多态)
  2. TensorFlow数据读取方式:Dataset API,以及如何查看dataset:DatasetV1Adapter的方法
  3. 皮克斯首款VR体验《寻梦环游记》登陆 Oculus Rift
  4. 电商分类模块写法_模块化写作——网络小说创作之典藏秘籍
  5. 大疆口袋相机美颜怎么设置_大疆口袋小相机DJI Pocket 2套装版深度评测:变成生产力工具...
  6. laravel框架中引入Workerman
  7. vim自带的练习教程(vimtutor)
  8. 和lua的效率对比测试_N99 KF94 KN95 真假口罩及 KN90 KN95面罩滤棉过滤效率对比测试...
  9. 解决远程桌面无法复制黏贴
  10. 爬虫抓取新浪微博数据
  11. python编程实战(一):用户登录模块,用户注册、登录、信息管理、功能设计与实现!
  12. win7摄像头软件_【pc软件】功能强大的GIF动图制作录制工具,秒杀
  13. ubuntu好用的截图软件flameshot和设置快捷方式截图
  14. 教你区别几款常用的U盘修复工具
  15. 关于IE读取缓存页面不刷新解决方法
  16. 清理linux系统内存缓存
  17. TweenMax特效
  18. Incapsula js加密混淆分析
  19. 通过手机访问计算机FTP服务器
  20. mysqld: error while loading shared libraries: libaio.so.1: cannot open shared object完美解决方案

热门文章

  1. 师弟走了,以我们都想不到的方式
  2. 开学啦!你还焦躁吗?
  3. 一道皮皮物理题的皮皮解法
  4. Kubernetes各个组件的概念
  5. 从框架源码中学习结构型设计模式
  6. 【转载保存】大型推荐系统架构图设计图
  7. QPSQL driver not loaded
  8. tensorflow2.0学习(一)
  9. 双11特刊|十年磨一剑,云原生多模数据库Lindorm 2021双11总结
  10. 构建在线教育弹性高可用视频处理架构实战