作者 | 王磊

来源 | Java中文社群(ID:javacn666)

转载请联系授权(微信ID:GG_Stone)

前些天在实现 MyBatis 批量插入时遇到了一个问题,当批量插入的数据量比较大时,会导致程序执行报错,如下图所示:

原因是 MySQL 只能执行一定长度的 SQL 语句,但当插入的数据量较多时,会生成一条很长的 SQL,这样程序在执行时就会报错。

要解决这个问题,有两种方法:第一,设置 MySQL 可以执行 SQL 的最大长度;第二,将一个大 List 分成 N 个小 List 进行。由于无法准确的界定程序中最大的 SQL 长度,所以最优的解决方案还是第二种,于是就有了今天的这篇文章。

简介

将一个 List 分成多个小 List 的过程,我们称之为分片,当然也可以叫做“List 分隔”,选一个你喜欢的、好理解的叫法就行。

在 Java 中,分片的常见实现方法有以下几种:

  1. 使用 Google 的 Guava 框架实现分片;

  2. 使用 Apache 的 commons 框架实现分片;

  3. 使用国产神级框架 Hutool 实现分片;

  4. 使用 JDK 8 中提供 Stream 实现分片;

  5. 自定义分片功能。

接下来我们分别来看。

1.Google Guava

先在项目的 pom.xml 中添加框架支持,增加以下配置:

<!-- google guava 工具类 -->
<!-- https://mvnrepository.com/artifact/com.google.guava/guava -->
<dependency><groupId>com.google.guava</groupId><artifactId>guava</artifactId><version>31.0.1-jre</version>
</dependency>

有了 Guava 框架之后,只需要使用 Lists.partition 方法即可实现分片,如下代码所示:

import com.google.common.collect.Lists;import java.util.Arrays;
import java.util.List;/*** Guava 分片*/
public class PartitionByGuavaExample {// 原集合private static final List<String> OLD_LIST = Arrays.asList("唐僧,悟空,八戒,沙僧,曹操,刘备,孙权".split(","));public static void main(String[] args) {// 集合分片List<List<String>> newList = Lists.partition(OLD_LIST, 3);// 打印分片集合newList.forEach(i -> {System.out.println("集合长度:" + i.size());});}
}

以上代码的执行结果如下图所示:

2.apache commons

先在项目的 pom.xml 中添加框架支持,增加以下配置:

<!-- apache 集合工具类 -->
<!-- https://mvnrepository.com/artifact/org.apache.commons/commons-collections4 -->
<dependency><groupId>org.apache.commons</groupId><artifactId>commons-collections4</artifactId><version>4.4</version>
</dependency>

有了  commons 框架之后,只需要使用 ListUtils.partition 方法即可实现分片,如下代码所示:

import org.apache.commons.collections4.ListUtils;import java.util.Arrays;
import java.util.List;/*** commons.collections4 集合分片*/
public class PartitionExample {// 原集合private static final List<String> OLD_LIST = Arrays.asList("唐僧,悟空,八戒,沙僧,曹操,刘备,孙权".split(","));public static void main(String[] args) {// 集合分片List<List<String>> newList = ListUtils.partition(OLD_LIST, 3);newList.forEach(i -> {System.out.println("集合长度:" + i.size());});}
}

以上代码的执行结果如下图所示:

3.Hutool

先在项目的 pom.xml 中添加框架支持,增加以下配置:

<!-- 工具类 hutool -->
<!-- https://mvnrepository.com/artifact/cn.hutool/hutool-all -->
<dependency><groupId>cn.hutool</groupId><artifactId>hutool-all</artifactId><version>5.7.14</version>
</dependency>

有了 Hutool 框架之后,只需要使用 ListUtil.partition 方法即可实现分片,如下代码所示:

import cn.hutool.core.collection.ListUtil;import java.util.Arrays;
import java.util.List;public class PartitionByHutoolExample {// 原集合private static final List<String> OLD_LIST = Arrays.asList("唐僧,悟空,八戒,沙僧,曹操,刘备,孙权".split(","));public static void main(String[] args) {// 分片处理List<List<String>> newList = ListUtil.partition(OLD_LIST, 3);newList.forEach(i -> {System.out.println("集合长度:" + i.size());});}
}

以上代码的执行结果如下图所示:

4.JDK

Stream 通过 JDK 8 中的  Stream 来实现分片就无需添加任何框架了,具体的实现代码如下:

import java.util.Arrays;
import java.util.List;
import java.util.Map;
import java.util.stream.Collectors;/*** JDK Stream Partition*/
public class PartitionByStreamExample {// 原集合private static final List<Integer> OLD_LIST = Arrays.asList(1, 2, 3, 4, 5, 6);public static void main(String[] args) {// 集合分片:将大于 3 和小于等于 3 的数据分别分为两组Map<Boolean, List<Integer>> newMap = OLD_LIST.stream().collect(Collectors.partitioningBy(i -> i > 3));// 打印结果System.out.println(newMap);}
}

以上代码的执行结果如下图所示:

此方式的优点的无需添加任何框架,但缺点是只能实现简单的分片(将一个 List 分为两个),并且要有明确的分片条件。比如本篇案例中设置的分片条件就是数组是否大于 3,如果大于 3 就会被归为一组,否则就会被分到另一组。

5.自定义分片

如果你不想引入第三方框架,并且使用 Stream 也无法满足你的需求,你就可以考虑自己写代码来实现分片功能了。因为此方式不常用,所以咱们这里只给出关键方法。

自定义分片功能的关键实现方法是 JDK 自带的 subList 方法,如下图所示:

使用示例如下:

import java.util.Arrays;
import java.util.List;public class App {private static final List<String> _OLD_LIST = Arrays.asList("唐僧,悟空,八戒,沙僧,曹操,刘备,孙权".split(","));public static void main(String[] args) {// 集合分隔List<String> list = _OLD_LIST.subList(0, 3);// 打印集合中的元素list.forEach(i -> {System.out.println(i);});}
}

以上代码的执行结果如下图所示:

总结

本文介绍了 5 种 List 分片的实现方法,其中最方便的实现方式是引入第三方框架,比如 Google 的 Guava、Apache 的 Commons 或者是国产开源的 Hutool 都可以,当然如果你的项目已经包含了以上任意一种,直接使用就行了。如果是简单的分片就可以考虑使用 JDK 的 Stream 或者是 List 内置的 subList 方法来实现分片功能了。

往期推荐

MyBatis原生批量插入的坑与解决方案!

4 种方法!检查字符串是否为合法的日期格式

高并发下秒杀商品,必须知道的9个细节


Java 中 List 分片的 5 种方法!相关推荐

  1. Java中创建数组的几种方法

    Java中创建数组的几种方法 public static void main(String[] args) { //创建数组的第一种方法 int[] arr=new int[6]; int intVa ...

  2. 在 Java 中初始化 List 的五种方法

    转载自  在 Java 中初始化 List 的五种方法 Java 中经常需要使用到 List,下面简单介绍几种常见的初始化方式. 1.构造 List 后使用 List.add 初始化 List< ...

  3. 高级 | Java中获取类名的3种方法

    转载自 高级 | Java中获取类名的3种方法 获取类名的方法 Java 中获取类名的方式主要有以下三种. getName() 返回的是虚拟机里面的class的类名表现形式. getCanonical ...

  4. Java中String字符串截取几种方法(substring,split)

    Java中String字符串截取几种方法 substring,split 这是一个Java中的String的基础用法的演示. 下面通过代码对大家进行讲解 substring 这里用来ndexOf,la ...

  5. 谈谈java中遍历Map的几种方法

    java中的map遍历有多种方法,从最早的Iterator,到java5支持的foreach,再到java8 Lambda,让我们一起来看下具体的用法以及各自的优缺点 先初始化一个map public ...

  6. JAVA中文件写入的6种方法

    在 Java 中操作文件的方法本质上只有两种:字符流和字节流,而字节流和字符流的实现类又有很多,因此在文件写入时我们就可以选择各种各样的类来实现.我们本文就来盘点一下这些方法,顺便测试一下它们性能,以 ...

  7. java中遍历HashMap的四种方法及效率比较

    1. 推荐方法: 使用entrySet 遍历Map 类集合KV,而不是keySet 方式进行遍历. 代码示例如下: // 循环第二种HashMap<Integer, String> map ...

  8. java中遍历map的几种方法介绍

          喜欢用Java写程序的朋友都知道,我们常用的一种数据结构map中存储的是键值对,我们一般存储的方式是: map.put(key, value); 而提取相应键的值用的方法是: map.ge ...

  9. Java中性能优化的35种方法汇总

    原文地址:http://www.jb51.net/article/102831.htm 前言 对程序员们来说,代码优化是一个很重要的课题.可能有些人觉得没用,一些细小的地方有什么好修改的,改与不改对于 ...

最新文章

  1. 深入认识二进制序列化--记一次生产事故的思考
  2. C# WebBrowser document.execCommand()解析
  3. 【转】ROWNUM与ORDER BY先后关系
  4. 对CMMI3的学习和思考
  5. endnote文献顺序编号不对_把Endnote装进大脑:行走的文献管理者
  6. C#如何无客户端连接Oracle数据库
  7. String 创建对象问题
  8. MYSQL中使索引失效的情況
  9. 概率语言模型及其变形系列-PLSA及EM算法
  10. Android 代码名字-API级别-版本号-NDK版本对应关系
  11. 数字图像处理复习记录(一)图像平滑、图像锐化、间隔检测
  12. (Demo3D 学习笔记)案例2:飞板传输货物,并按指定货位上架
  13. 微信公众号H5合成图片长按下载
  14. 组策略禁止自动锁定计算机,让Win10自动锁屏的设置技巧
  15. 传世私服显示不了服务器,传世SF私服搭建架设教程
  16. 剪辑视频,在视频画面上编辑一张图片
  17. android手机root status,相应黑科技梳理
  18. Epson L4158打印机安装与配置
  19. 利用火狐浏览器的adblock plus插件,隐藏影响你视线的元素
  20. 如何调节控制Mac的风扇转速

热门文章

  1. linux将视频导入到iphone,如何将 IPhone 的文件导入 Linux
  2. C++ 定义 string
  3. oracle高水位线
  4. All men are brothers【并查集+数学】
  5. 【数据结构和算法05】 红-黑树(转发)
  6. 安装 Alibaba Cloud Toolkit
  7. Linux Shell获取系统资源使用百分比(CentOS)
  8. Controller计算值传到jsp页面,用session传值
  9. LXD 2.0 系列(十二):调试,及给 LXD 做贡献
  10. 在Eclipse中,用XFire发布web服务