案例代码如下,需要注意的点:

  1. 使用SSCursor游标,cursor = pymysql.cursors.SSCursor(conn),它不会占用缓存,而是当需要读取的时候,从数据库中取一条数据
  2. 每两次取数据的间隔需要小于60s,否则mysql会断开连接

案例代码

import pymysqlhost = "127.0.0.1"
user = "testuser"
password = "testpassword"
db = "test_db"conn = pymysql.connect(host=host, user=user, password=password, database=db)
cursor = pymysql.cursors.SSCursor(conn)
sql = "SELECT * from test_csv_2"
cursor.execute(sql)
while True:result: tuple = cursor.fetchone()if result:print(result)else:break

pymysql流式读取数据库相关推荐

  1. GBase 8a MPP数据库如何通过JDBC实现数据的流式读取

    为什么要使用流式读取: 在我们使用JDBC驱动从数据库获取数据的时候,一般情况下,进行一次查询,结果集是一次性从集群获取的,并存放在JDBC所在应用的内存中,这种情况如果查询的结果集比较大,将会导致应 ...

  2. mybatis中mysql流式读取_MyBatis读取大量数据(流式读取)

    ## 一.背景 导出大量数据时,虚拟机频繁GC,内存耗尽,CPU爆满,可采用Mybatis数据流式读取进行优化. ## 二.JDBC三种读取方式: 1. 一次全部(默认):一次获取全部. 2. 流式: ...

  3. 多进程IterableDataset流式读取数据的坑:每个进程会读取一遍完整数据

    构建流式读取DataLoader的方法可以参考:pytorch构造可迭代的DataLoader,动态流式读取数据源,不担心内存炸裂(pytorch Data学习三) 使用如下方法构造DataLoade ...

  4. 【267期】面试官:Mybatis 如何实现流式读取 MySQL 大数据量记录?

    点击上方"Java精选",选择"设为星标" 别问别人为什么,多问自己凭什么! 下方有惊喜,留言必回,有问必答! 每一天进步一点点,是成功的开始... 背景 最近 ...

  5. mysql php 流式读取_PHP MySQL 读取数据

    PHP MySQL 读取数据 从 MySQL 数据库读取数据 SELECT 语句用于从数据表中读取数据: SELECT column_name(s) FROM table_name 我们可以使用 * ...

  6. pytorch构造IterableDataset,流式读取文件夹,文件夹下所有大数据文件,逐个文件!逐行读取!(pytorch Data学习四)

    我有个文件夹,里面有一万个文件,每个文件都是N个T的容量,那么这就需要逐个文件.逐行读取,读取方法如下: 核心:构造IterableDataset IterableDataset需要设置两个东西,一个 ...

  7. pytorch构造可迭代的DataLoader,动态流式读取数据源,不担心内存炸裂(pytorch Data学习三)

    构造迭代读取的Dataloader,首先需要可迭代的DataSet,这一部分详细请参考:pytorch构造可迭代的Dataset--IterableDataset(pytorch Data学习二),下 ...

  8. pandas流式读取数据,不再担心内存炸裂

    基本写法如下: import pandas as pdcsv_iterator = pd.read_csv('csv文件位置.csv', iterator=True, chunksize=2) # 一 ...

  9. jdbc mysql 返回游标_使用JdbcTemplate流式(游标)读取数据库

    前言 生产环境中经常使用数据库分页的方式来控制一次获取的数据量,而数据处理中经常会有另外一种场景: 从一个数据库表中读取所有数据进行处理并将结果保存在其他数据库或文件或NoSql数据库中. 这时候也可 ...

最新文章

  1. LeetCode 1 两数之和
  2. SpringBoot与数据访问
  3. target runtime apache v7.0 not defined 的解决方法
  4. Linux下部署Hadoop伪分布模式
  5. vue ----组件数据共享
  6. 百面机器学习!算法工程师面试宝典!| 码书
  7. Java---设计【员工工资管理系统】
  8. “汇新杯”新兴科技成果专项赛介绍
  9. 河南省软件测试竞赛证书,河南省大学生国家安全知识竞赛
  10. Wireshark: Getting Started
  11. 【默认输入法】Android8.1默认输入法修改(解决输入法切换和权限获取等问题)
  12. win10系统升级后触摸板点击没反应
  13. 埃及分数拆分——IDA*
  14. mui-app开发之项目类型概览
  15. 微信小程序引入weui的操作
  16. 用VBA生成PDF Adobe Acrobat and VBA – An Introduction
  17. ERA5-Land 逐小时数据_累积值(如辐射数据)处理的注意事项
  18. 串应用- 计算一个串的最长的真前后缀
  19. Linux核心安装(转)
  20. 光伏电池PV建模,基于Boost/Buck电路实现最大功率追踪MPPT,包括扰动观察法

热门文章

  1. bms用matlab吗,一种BMS的MATLAB建模集成方法与流程
  2. java 摸拟qq消息提示_java 仿qq消息提示框
  3. python十进制转化为二进制_十进制转化为二进制的Python 3.2 代码
  4. MOCTF新春欢乐赛部分WP
  5. 《测试驱动数据库开发》——1.2 谁是目标读者
  6. linux shell学习笔记(二) 变量和运算符
  7. IT人不要一辈子靠技术生存--读后感
  8. Linux/UNIX不同shell环境下数组的处理
  9. python 查找excel内容所在的单元格_python 根据excel单元格内容获取该单元格所在的行号...
  10. Netty粘包拆包问题说明、演示拆包粘包情况代码以及解决