Java怎么实现几十万条数据插入(30万条数据插入MySQL仅需13秒)
本文主要讲述通过MyBatis、JDBC等做大数据量数据插入的案例和结果。
30万条数据插入插入数据库验证
- 实体类、mapper和配置文件定义
- User实体
- mapper接口
- mapper.xml文件
- jdbc.properties
- sqlMapConfig.xml
- 不分批次直接梭哈
- 循环逐条插入
- MyBatis实现插入30万条数据
- JDBC实现插入30万条数据
- 总结
验证的数据库表结构如下:
CREATE TABLE `t_user` (`id` int(11) NOT NULL AUTO_INCREMENT COMMENT '用户id',`username` varchar(64) DEFAULT NULL COMMENT '用户名称',`age` int(4) DEFAULT NULL COMMENT '年龄',PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='用户信息表';
话不多说,开整!
实体类、mapper和配置文件定义
User实体
/*** <p>用户实体</p>** @Author zjq* @Date 2021/8/3*/
@Data
public class User {private int id;private String username;private int age;}
mapper接口
public interface UserMapper {/*** 批量插入用户* @param userList*/void batchInsertUser(@Param("list") List<User> userList);}
mapper.xml文件
<!-- 批量插入用户信息 --><insert id="batchInsertUser" parameterType="java.util.List">insert into t_user(username,age) values<foreach collection="list" item="item" index="index" separator=",">(#{item.username},#{item.age})</foreach></insert>
jdbc.properties
jdbc.driver=com.mysql.jdbc.Driver
jdbc.url=jdbc:mysql://localhost:3306/test
jdbc.username=root
jdbc.password=root
sqlMapConfig.xml
<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE configuration PUBLIC "-//mybatis.org//DTD Config 3.0//EN" "http://mybatis.org/dtd/mybatis-3-config.dtd">
<configuration><!--通过properties标签加载外部properties文件--><properties resource="jdbc.properties"></properties><!--自定义别名--><typeAliases><typeAlias type="com.zjq.domain.User" alias="user"></typeAlias></typeAliases><!--数据源环境--><environments default="developement"><environment id="developement"><transactionManager type="JDBC"></transactionManager><dataSource type="POOLED"><property name="driver" value="${jdbc.driver}"/><property name="url" value="${jdbc.url}"/><property name="username" value="${jdbc.username}"/><property name="password" value="${jdbc.password}"/></dataSource></environment></environments><!--加载映射文件--><mappers><mapper resource="com/zjq/mapper/UserMapper.xml"></mapper></mappers></configuration>
不分批次直接梭哈
MyBatis直接一次性批量插入30万条,代码如下:
@Testpublic void testBatchInsertUser() throws IOException {InputStream resourceAsStream =Resources.getResourceAsStream("sqlMapConfig.xml");SqlSessionFactory sqlSessionFactory = new SqlSessionFactoryBuilder().build(resourceAsStream);SqlSession session = sqlSessionFactory.openSession();System.out.println("===== 开始插入数据 =====");long startTime = System.currentTimeMillis();try {List<User> userList = new ArrayList<>();for (int i = 1; i <= 300000; i++) {User user = new User();user.setId(i);user.setUsername("共饮一杯无 " + i);user.setAge((int) (Math.random() * 100));userList.add(user);}session.insert("batchInsertUser", userList); // 最后插入剩余的数据session.commit();long spendTime = System.currentTimeMillis()-startTime;System.out.println("成功插入 30 万条数据,耗时:"+spendTime+"毫秒");} finally {session.close();}}
可以看到控制台输出:
Cause: com.mysql.jdbc.PacketTooBigException: Packet for query is too large (27759038 >yun 4194304). You can change this value on the server by setting the max_allowed_packet’ variable.
超出最大数据包限制了,可以通过调整max_allowed_packet
限制来提高可以传输的内容,不过由于30万条数据超出太多,这个不可取,梭哈看来是不行了
Java怎么实现几十万条数据插入(30万条数据插入MySQL仅需13秒)相关推荐
- Excel导入30万条数据和导出50万条数据方案
背景:最近在做一个功能改造,老系统Excel导入导出大批量数据,要求支持一次性导入30万条数据,一次性导出50万条数据,还需要对数据进行校验,另外对性能有要求,不能比老系统的性能差.和业务了解了老系统 ...
- java mysql 快速插入1000w条数据_教你88秒插入1000万条数据到mysql数据库表
我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入1000万条数据的时候遇到了一些问题,现在先来解决他们,一开始我插入100万条数据时候报错,控制台的信息如下: ...
- java oracle in 10000_oracle循环插入1万条数据
declare maxnumber constant number:=10000; i number :=1; begin for i in 1..maxnumber loop insert into ...
- 绝对干货,教你4分钟插入1000万条数据到mysql数据库表,快快进来
我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入1000万条数据的时候遇到了一些问题,现在先来解决他们,一开始我插入100万条数据时候报错,控制台的信息如下: ...
- 插入1000万条数据到mysql数据库表
转自:https://www.cnblogs.com/fanwencong/p/5765136.html 我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入100 ...
- mysql 1000万数据读取_插入1000万条数据到mysql数据库表
转自:https://www.cnblogs.com/fanwencong/p/5765136.html 我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入100 ...
- 力控数据写入mysQL_绝对干货,教你4分钟插入1000万条数据到mysql数据库表,快快进来...
我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入1000万条数据的时候遇到了一些问题,现在先来解决他们,一开始我插入100万条数据时候报错,控制台的信息如下: ...
- 教你急速快速批量插入1000万条数据到mysql数据库表面试题
急速快速批量插入1000万条数据到mysql数据库表面试题 教你急速快速批量插入1000万条数据到mysql数据库表&面试题 我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好 ...
- 批量往mysql里面插入1000万条数据_绝对干货,教你4分钟插入1000万条数据到mysql数据库表,快快进来...
我用到的数据库为,mysql数据库5.7版本的 1.首先自己准备好数据库表 其实我在插入1000万条数据的时候遇到了一些问题,现在先来解决他们,一开始我插入100万条数据时候报错,控制台的信息如下: ...
最新文章
- 成本预算的四个步骤_干货!如何做好年度培训计划中的预算工作
- 关于算法中的并查集,写的很有意思,转过来看看~
- C#单例模式的懒汉与饿汉
- Water Balance CodeForces - 1300E
- JS 函数中的call,apply
- 2015workshop-age 的txt 生成过程
- Redis基础(九)——发布与订阅
- jqueryui时间插件_jQueryUI Progressbar插件
- 大道至简——书摘与思考
- nvidia控制面板点了没反应win7_win7 nvidia控制面板没反应打不开 解决办法
- nexus批量上传与下载
- VScode 历史版本
- svchost.exe占用网速多
- django框架——模型层(下)
- 计算机电源寿命,影响电脑寿命的几个重要方面
- 我的朋友栅栏的进阶_油漆栅栏,砍伐的木材,拉杂草,植物树-在我的舒适区之外找到极客平衡...
- matlab里surf函数,matlab surf 函数画3维图
- 【刷题日记】网易——牛牛的闹钟
- 微软电脑管家V2.1公测版正式发布
- 如何快速理解JavaScript 中重要语句for循环
热门文章
- 服务器系统叹号灯,仪表盘亮起带叹号的灯泡是什么意思?细数5种陌生的故障灯标识...
- 最近换QQ了1085992075,老朋友们可以联系这个
- 谈谈存储设备 - UFS
- flappy bird 的盈利模式 谷歌是幕后赢家
- mysql+小写字母不对_PHP、Mysql笔试题
- 什么是骨传导耳机?骨传导耳机它防水吗?
- 游戏人工智能AI会议
- textarea 修改placeholder样式
- 二进制 正负数加减法 计算INT_MIN - 1=INT_MAX
- Spring循环依赖详解