最近有一张2000W条记录的数据表需要优化和迁移。2000W数据对于MySQL来说很尴尬,因为合理的创建索引速度还是挺快的,再怎么优化速度也得不到多大提升。不过这些数据有大量的冗余字段和错误信息,极不方便做统计和分析。所以我需要创建一张新表,把旧表中的数据一条一条取出来优化后放回新表;

一. 清除冗余数据,优化字段结构

2000W数据中,能作为查询条件的字段我们是预知的。所以将这部分数据单独创建新的字段,对于有规则的数据合理改变字段结构,比如身份证就是varchar(18)。对于不重要的数据我们合并后存在一个结构为text的字段。

Mysql学习总结(35)——Mysql两千万数据优化及迁移相关推荐

  1. MySQL两千万数据优化迁移

    最近有一张2000W条记录的数据表需要优化和迁移.2000W数据对于MySQL来说很尴尬,因为合理的创建索引速度还是挺快的,再怎么优化速度也得不到多大提升.不过这些数据有大量的冗余字段和错误信息,极不 ...

  2. 为什么大家说 MySQL 数据库单表最大两千万?依据是啥?

    故事从好多年前说起. 想必大家也听说过数据库单表建议最大两千万条数据这个说法.如果超过了,性能就会下降得比较厉害. 巧了.我也听说过. 但我不接受它的建议,硬是单表装了 1 亿条数据. 这时候,我们组 ...

  3. 为什么说mysql数据库单表最大两千万?依据是啥?

    为什么说mysql数据库单表最大两千万?依据是啥? 前言 数据库单表行数最大多大 索引的结构 页的结构 从页到索引 B+树承载的记录数量 x怎么算 y的计算 行总数计算 行数超一亿就慢了吗? B树承载 ...

  4. MySQL学习笔记 | 04 - MySQL数据库基本操作(增加、修改、删除、查看)

    MySQL学习笔记 | 01-为什么要使用数据库 MySQL学习笔记 | 02 - MySQL在Windows下的安装.配置.服务启动/停止.用户登录.查看版本号 MySQL学习笔记 | 03 - M ...

  5. mysql5.7.17.zip教程,Mysql学习win10下mysql 5.7.17 zip压缩包版安装教程

    搜索热词 <MysqL学习win10下MysqL 5.7.17 zip压缩包版安装教程>要点: 本文介绍了MysqL学习win10下MysqL 5.7.17 zip压缩包版安装教程,希望对 ...

  6. 为什么大家说mysql数据库单表最大两千万?依据是啥?

    故事从好多年前说起. 想必大家也听说过数据库单表建议最大2kw条数据这个说法.如果超过了,性能就会下降得比较厉害. 巧了. 我也听说过. 但我不接受它的建议,硬是单表装了1亿条数据. 这时候,我们组里 ...

  7. 为什么大家说mysql数据库单表最大两千万?

    故事从好多年前说起. 想必大家也听说过数据库单表建议最大2kw条数据这个说法.如果超过了,性能就会下降得比较厉害. 巧了. 我也听说过. 但我不接受它的建议,硬是单表装了1亿条数据. 这时候,我们组里 ...

  8. MySQL之某个表中有近千万数据且CRUD访问缓慢的优化处理

    一.前言 MySQL 数据库某张表近千万的数据,CRUD比较慢,如何优化? 说实话,这个数据量级, MySQL 单库单表支撑起来完全没有问题的,所以首先还是考虑数据库本身的优化. 从上图可以看到,数据 ...

  9. MySQL学习(二)【MySQL数据库对象与应用】

    2.1-MySQL数据类型 Number不止一种 整形 浮点型 整形 INT SMALLINT MEDIUMINT BIGINT type Storage Minumun Value Maximum ...

最新文章

  1. 2020 年度最佳的23个机器学习项目!(附源代码)
  2. 用MFC类来操作数据库的方法
  3. SparkStreaming和Storm的区别
  4. SpringCloud个人笔记-02-Feign初体验
  5. 返回一个二维整数数组最大子数组的和
  6. java中的抽象方法_Java中的抽象类和抽象方法
  7. JAVASCRIPT干了不下四五种工作
  8. LINUX 下 RABBITMQ安装与配置
  9. 江苏机器人竞赛南航_挑战不止 热血不息!1000余名青少年决战江苏省机器人普及大赛!...
  10. 特征工程(六): 非线性特征提取和模型堆叠
  11. 终于来了,超详细手眼标定原理与实战视频教程
  12. python 线程-threding示例使用
  13. arcgis构建金字塔失败什么原因_新西兰创业移民转永居失败!原因是什么?
  14. pipeline流水线及分布式流水线发布php项目
  15. 2021-03-21 什么是鲁棒性?
  16. 【Tableau Desktop 企业日常问题23】Tableau 筛选之后如何保持原有排序顺序?
  17. 从毕业到2010的Java程序员生涯(一)
  18. 如何按照DocNum+LineNum+流水号生成批次号
  19. emqtt 启动报错 Erlang closed the connection 查看状态报错 Node 'emq@192.168.*.*' not responding to pings.
  20. SSM+停车管理系统 毕业设计-附源码171046

热门文章

  1. c位边上还有什么位_会议桌C位,是它!
  2. java课设电子门禁_Java 并发专题 : CyclicBarrier 打造一个安全的门禁系统
  3. ioc控制反转_深入理解依赖注入(DI)和控制反转(IOC)
  4. c 取oracle 错误代码,转载ORA-01591错误故障处理
  5. C++作用域、局部变量、全局变量、传引用传值对比的一个例子
  6. windows server 2008 安装linux,使用WSL在Windows Server 2019上运行Linux的方法
  7. ps里面怎么插入流程图_流程图很难画?学会这3个方法,5分钟能绘制出好看又高级的流程图...
  8. 2018你那计算机考试新题型,2018考研新题型考察点和解题步骤
  9. 允许保存文件 html5,html5 保存文件
  10. java spring server_Java server框架之(1):spring中的IoC