mybatis批量插入10万条数据的优化过程
在使用mybatis插入大量数据的时候,为了提高效率,放弃循环插入,改为批量插入,mapper如下:
package com.lcy.service.mapper;import com.lcy.service.pojo.TestVO;
import org.apache.ibatis.annotations.Insert;import java.util.List;/*** 功能描述:** @author liuchaoyong* @version 1.0* @date 2019-06-26 13:18*/
public interface TestMapper {@Insert("<script>" +"insert into test (t1,t2,t3,t4,t5) values " +"<foreach collection='list' item='obj' separator=','>" +"(#{obj.t1},#{obj.t2},#{obj.t3},#{obj.t4},#{obj.t5})" +"</foreach>" +"</script>")Integer testBatchInsert(List<TestVO> list);}
实体类:
package com.lcy.service.pojo;import lombok.AllArgsConstructor;
import lombok.Data;
import lombok.NoArgsConstructor;/*** 功能描述:** @author liuchaoyong* @version 1.0* @date 2019-06-26 13:20*/
@Data
@NoArgsConstructor
@AllArgsConstructor
public class TestVO {private String t1;private String t2;private String t3;private String t4;private String t5;}
测试类如下:
import com.lcy.service.TestApplication;
import com.lcy.service.mapper.TestMapper;
import com.lcy.service.pojo.TestVO;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.test.context.junit4.SpringRunner;import java.util.ArrayList;
import java.util.List;/*** 功能描述:** @author liuchaoyong* @version 1.0* @date 2019-05-17 16:42*/
@SpringBootTest(classes = TestApplication.class)
@RunWith(SpringRunner.class)
public class TestDemo {@Autowiredprivate TestMapper testMapper;@Testpublic void insert() {List<TestVO> list = new ArrayList<>();for (int i = 0; i < 200000; i++) {list.add(new TestVO(i + "," + i, i + "," + i, i + "," + i, i + "," + i, i + "," + i));}System.out.println(testMapper.testBatchInsert(list));}}
为了复现bug,我限制了JVM内存:
执行测试类报错如下:
java.lang.OutOfMemoryError: Java heap spaceat java.base/java.util.Arrays.copyOf(Arrays.java:3746)
可以看到,Arrays在申请内存的时候,导致栈内存溢出
改进方法,分批新增:
import com.lcy.service.TestApplication;
import com.lcy.service.mapper.TestMapper;
import com.lcy.service.pojo.TestVO;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.test.context.junit4.SpringRunner;import javax.swing.*;
import java.util.ArrayList;
import java.util.List;
import java.util.stream.Collectors;/*** 功能描述:** @author liuchaoyong* @version 1.0* @date 2019-05-17 16:42*/
@SpringBootTest(classes = TestApplication.class)
@RunWith(SpringRunner.class)
public class TestDemo {@Autowiredprivate TestMapper testMapper;@Testpublic void insert() {List<TestVO> list = new ArrayList<>();for (int i = 0; i < 200000; i++) {list.add(new TestVO(i + "," + i, i + "," + i, i + "," + i, i + "," + i, i + "," + i));}int index = list.size() / 10000;for (int i=0;i< index;i++){//stream流表达式,skip表示跳过前i*10000条记录,limit表示读取当前流的前10000条记录testMapper.testBatchInsert(list.stream().skip(i*10000).limit(10000).collect(Collectors.toList()));}}}
有一种方法是调高JVM内存,不过不建议使用,不仅吃内存,而且数据量过大会导致sql过长报错
mybatis批量插入10万条数据的优化过程相关推荐
- 教你急速快速批量插入1000万条数据到mysql数据库表面试题
急速快速批量插入1000万条数据到mysql数据库表面试题 教你急速快速批量插入1000万条数据到mysql数据库表&面试题 我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好 ...
- SQLSERVER储存过程批量添加10万条数据
SQLSERVER批量添加10万条数据 insert into PatInfo(PID,name,sex,birthday,createDate,updateDate,ownerID,permBits ...
- MyBatis批量插入几千条数据,慎用Foreach
项目中有一个耗时较长的Job存在CPU占用过高的问题,经排查发现,主要时间消耗在往MyBatis中批量插入数据.mapper configuration是用foreach循环做的,差不多是这样. &l ...
- 向Mysql批量插入50万条数据
>批量插入数据脚本 表Sql: CREATE TABLE dept( id INT UNSIGNED PRIMARY KEY AUTO_INCREMENT, deptno MEDIUMINT U ...
- MyBatis批量插入几千条数据慎用foreach
https://blog.csdn.net/huanghanqian/article/details/83177178
- 4分钟插入1000万条数据到mysql数据库表
准备工作 我用到的数据库为,mysql数据库8.0版本的,使用的InnoDB存储引 创建测试表 CREATE TABLE `product` (`id` int NOT NULL AUTO_INCRE ...
- Java怎么实现几十万条数据插入(30万条数据插入MySQL仅需13秒)
本文主要讲述通过MyBatis.JDBC等做大数据量数据插入的案例和结果. 30万条数据插入插入数据库验证 实体类.mapper和配置文件定义 User实体 mapper接口 mapper.xml文件 ...
- 绝对干货,教你4分钟插入1000万条数据到mysql数据库表,快快进来
我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入1000万条数据的时候遇到了一些问题,现在先来解决他们,一开始我插入100万条数据时候报错,控制台的信息如下: ...
- 插入1000万条数据到mysql数据库表
转自:https://www.cnblogs.com/fanwencong/p/5765136.html 我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入100 ...
最新文章
- windows 内存泄露和资源泄漏调试
- 硬件工程师笔试常见问题
- Apache的Rewrite规则详细介绍
- pygame做的著名游戏_pygame教程(十):汉诺塔游戏
- 供应链新格局重塑全球农业贸易 对话国际农民丰收节贸易会
- 三种常用SoC片上总线的分析与比较 (Z)
- IQ测试(jzoj 5048)
- leetcode203 移除链表元素
- 【2017年第3期】从点状应用到大数据统一平台
- 消息队列面试 - 如何保证消息队列的高可用?
- JDK 动态代理与 CGLIB 动态代理,它俩真的不一样
- tsung压测mysql_高并发测试工具Tsung使用教程
- 《推荐系统笔记(十五)》流行度以及基于流行度的推荐
- jquery获取复选框checkbox的值
- 台达变频器485通讯接线图_台达PLC与变频器用485通讯怎样实现启动、停止和频率给定,程序怎样做。谢谢!...
- Web开发者和交互设计师必备的5大工具
- RabbitMQ的优势和劣势
- java注解约束参数为固定值_java自定义注解的实现及属性设置
- 自动驾驶仿真平台Carla从入门到放弃
- 简单行人重识别代码到88%准确率 郑哲东 ​准备工作