点击上方蓝色“方志朋”,选择“设为星标”

回复“666”获取独家整理的学习资料!

‍基本概念

流式查询指的是查询成功后不是返回一个集合而是返回一个迭代器,应用每次从迭代器取一条查询结果。流式查询的好处是能够降低内存使用。

如果没有流式查询,我们想要从数据库取 1000 万条记录而又没有足够的内存时,就不得不分页查询,而分页查询效率取决于表设计,如果设计的不好,就无法执行高效的分页查询。因此流式查询是一个数据库访问框架必须具备的功能。

流式查询的过程当中,数据库连接是保持打开状态的,因此要注意的是:执行一个流式查询后,数据库访问框架就不负责关闭数据库连接了,需要应用在取完数据后自己关闭。

MyBatis 流式查询接口

MyBatis 提供了一个叫 org.apache.ibatis.cursor.Cursor 的接口类用于流式查询,这个接口继承了 java.io.Closeable 和 java.lang.Iterable 接口,由此可知:

  1. Cursor 是可关闭的;

  2. Cursor 是可遍历的。

除此之外,Cursor 还提供了三个方法:

  1. isOpen():用于在取数据之前判断 Cursor 对象是否是打开状态。只有当打开时 Cursor 才能取数据;

  2. isConsumed():用于判断查询结果是否全部取完。

  3. getCurrentIndex():返回已经获取了多少条数据

因为 Cursor 实现了迭代器接口,因此在实际使用当中,从 Cursor 取数据非常简单:

cursor.forEach(rowObject -> {...});

但构建 Cursor 的过程不简单

我们举个实际例子。下面是一个 Mapper 类:

@Mapper
public interface FooMapper {@Select("select * from foo limit #{limit}")Cursor<Foo> scan(@Param("limit") int limit);
}

方法 scan() 是一个非常简单的查询。通过指定 Mapper 方法的返回值为 Cursor 类型,MyBatis 就知道这个查询方法一个流式查询。

然后我们再写一个 SpringMVC Controller 方法来调用 Mapper(无关的代码已经省略):

@GetMapping("foo/scan/0/{limit}")
public void scanFoo0(@PathVariable("limit") int limit) throws Exception {try (Cursor<Foo> cursor = fooMapper.scan(limit)) { // 1cursor.forEach(foo -> {}); // 2}
}

上面的代码中,fooMapper 是 @Autowired 进来的。注释 1 处调用 scan 方法,得到 Cursor 对象并保证它能最后关闭;2 处则是从 cursor 中取数据。

上面的代码看上去没什么问题,但是执行 scanFoo0() 时会报错:

java.lang.IllegalStateException: A Cursor is already closed.

这是因为我们前面说了在取数据的过程中需要保持数据库连接,而 Mapper 方法通常在执行完后连接就关闭了,因此 Cusor 也一并关闭了。

所以,解决这个问题的思路不复杂,保持数据库连接打开即可。我们至少有三种方案可选。

方案一:SqlSessionFactory

我们可以用 SqlSessionFactory 来手工打开数据库连接,将 Controller 方法修改如下:

@GetMapping("foo/scan/1/{limit}")
public void scanFoo1(@PathVariable("limit") int limit) throws Exception {try (SqlSession sqlSession = sqlSessionFactory.openSession(); // 1Cursor<Foo> cursor =sqlSession.getMapper(FooMapper.class).scan(limit) // 2) {cursor.forEach(foo -> { });}
}

上面的代码中,1 处我们开启了一个 SqlSession (实际上也代表了一个数据库连接),并保证它最后能关闭;2 处我们使用 SqlSession 来获得 Mapper 对象。这样才能保证得到的 Cursor 对象是打开状态的。

方案二:TransactionTemplate

在 Spring 中,我们可以用 TransactionTemplate 来执行一个数据库事务,这个过程中数据库连接同样是打开的。代码如下:

@GetMapping("foo/scan/2/{limit}")
public void scanFoo2(@PathVariable("limit") int limit) throws Exception {TransactionTemplate transactionTemplate =new TransactionTemplate(transactionManager); // 1transactionTemplate.execute(status -> { // 2try (Cursor<Foo> cursor = fooMapper.scan(limit)) {cursor.forEach(foo -> { });} catch (IOException e) {e.printStackTrace();}return null;});
}

上面的代码中,1 处我们创建了一个 TransactionTemplate 对象(此处 transactionManager 是怎么来的不用多解释,本文假设读者对 Spring 数据库事务的使用比较熟悉了),2 处执行数据库事务,而数据库事务的内容则是调用 Mapper 对象的流式查询。注意这里的 Mapper 对象无需通过 SqlSession 创建。

方案三:@Transactional 注解

这个本质上和方案二一样,代码如下:

@GetMapping("foo/scan/3/{limit}")
@Transactional
public void scanFoo3(@PathVariable("limit") int limit) throws Exception {try (Cursor<Foo> cursor = fooMapper.scan(limit)) {cursor.forEach(foo -> { });}
}

它仅仅是在原来方法上面加了个 @Transactional 注解。这个方案看上去最简洁,但请注意 Spring 框架当中注解使用的坑只在外部调用时生效。在当前类中调用这个方法,依旧会报错。

以上是三种实现 MyBatis 流式查询的方法。

作者:捏造的信仰

来源:https://segmentfault.com/a/1190000022478915

热门内容:
  • 数据库链接池终于搞对了,这次直接从100ms优化到3ms!

  • 给IDEA换个酷炫的主题,这个有点哇塞啊!

  • 万字详解本地缓存之王 Caffeine

  • Java微服务 vs Go微服务,究竟谁更强!?

最近面试BAT,整理一份面试资料《Java面试BAT通关手册》,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。
明天见(。・ω・。)ノ♡

强大:MyBatis 流式查询相关推荐

  1. 还在用分页?你out了 !试试 MyBatis 流式查询,真心强大!

    欢迎关注方志朋的博客,回复"666"获面试宝典 基本概念 流式查询指的是查询成功后不是返回一个集合而是返回一个迭代器,应用每次从迭代器取一条查询结果.流式查询的好处是能够降低内存使 ...

  2. 还在用分页?太Low !试试 MyBatis 流式查询,真心强大!

    以下文章来源方志朋的博客,回复"666"获面试宝典 基本概念 流式查询指的是查询成功后不是返回一个集合而是返回一个迭代器,应用每次从迭代器取一条查询结果.流式查询的好处是能够降低内 ...

  3. mybatis删除成功返回0_你还在用分页?试试 MyBatis 流式查询,真心强大!

    转自:捏造的信仰 segmentfault.com/a/1190000022478915 基本概念 流式查询指的是查询成功后不是返回一个集合而是返回一个迭代器,应用每次从迭代器取一条查询结果.流式查询 ...

  4. MyBatis 流式查询

    基本概念 流式查询指的是查询成功后不是返回一个集合而是返回一个迭代器,应用每次从迭代器取一条查询结果.流式查询的好处是能够降低内存使用. 如果没有流式查询,我们想要从数据库取 1000 万条记录而又没 ...

  5. mybatis查询千万数据如何保证内存够用?mybatis流式查询

    目录 基本概念 MyBatis 流式查询接口 但构建 Cursor 的过程不简单 方案一:SqlSessionFactory 方案二:TransactionTemplate 方案三:@Transact ...

  6. mybatis流式查询

    基于注解的方式 Mapper.java @MyBatisRepository public interface ItemWideTableMapper extends WideTableMapperB ...

  7. mysql流式查询mybatis_流式查询:MyBatis千万级数据查询解决方案,避免OOM

    来源:segmentfault.com/a/1190000022478915 哈喽,各位新来的小伙伴们,大家好!由于公众号做了改版,为了保证公众号的资源能准时推送到你手里,大家记得将咱们的公众号加星标 ...

  8. java 数据库 流式查询_关于mybatis:强大MyBatis-三种流式查询方法

    基本概念 流式查问指的是查问胜利后不是返回一个汇合而是返回一个迭代器,利用每次从迭代器取一条查问后果.流式查问的益处是可能升高内存应用. [腾讯云]云产品限时秒杀,爆款1核2G云服务器,首年99元 如 ...

  9. MyBatis中使用流式查询避免数据量过大导致OOM

    欢迎关注方志朋的博客,回复"666"获面试宝典 今天mybatis查询数据库中大量的数据,程序抛出: java.lang.OutOfMemoryError: Java heap s ...

最新文章

  1. 方法论、方法论——程序员的阿喀琉斯之踵
  2. 实验室信息管理系统(南京浩展软件)
  3. ubuntu16.04下面安装mongodb
  4. 搜索引擎如何评估外贸网站内容?
  5. 为什么大数据分析很重要
  6. StreamSets sdc rpc 测试
  7. 8年项目总结:4个G,项目经理必备模板全汇总
  8. ubuntu1604 golang环境
  9. apple/ios 获取udid
  10. raid之创建磁盘列阵raid-0
  11. 实习每日总结_20161220
  12. SpringBoot 电子书
  13. Excel.Application手册
  14. virtual的用法
  15. 中山大学计算机在职研究生分数线,2018年中山大学在职研究生分数线高吗?
  16. 【证券】什么是开仓、持仓和平仓?
  17. python 处理数据类型data_python数据类型之pandas—DataFrame
  18. android设备绑定微软,Android 7.1.1 手机如何登录微软账号
  19. MATLAB批量按要求重命名图片/文件
  20. 扩展欧几里得及其应用

热门文章

  1. 2018-3-6论文-网络评论中非结构化信息的应用于研究------(语义矩离)
  2. 简单数据结构(队列 栈 树 堆 )
  3. 《面向对象程序设计》c++第五次作业___calculator plus plus
  4. Cable master (POJ No.1064)
  5. freebsd command
  6. 电子学会青少年编程等级考试Python一级题目解析03
  7. 秦州:西瓜书 + 南瓜书 吃瓜系列 14. 降维与度量学习(下)
  8. 胡锐锋:组队学习分享(队长)
  9. 【组队学习】【29期】11. 青少年编程(Scratch 二级)
  10. 【组队学习】【27期】李宏毅机器学习