本文作者:陈进坚
个人博客:https://jian1098.github.io
CSDN博客:https://blog.csdn.net/c_jian
简书:https://www.jianshu.com/u/8ba9ac5706b6
联系方式:jian1098@qq.com

摘要


​ 现在很多主流的编程语言都支持多线程或者协程处理,例如天生支持协程的go语言php+swoole等。但是多线程和单线程不同,多线程如果不对数据库做处理的话,有时候单线程跑的程序没有问题,但是一旦开启多线程,数据库就会发生一系列之前没有的问题。

​ 那么多线程高并发的数据库需要做怎样的处理呢?下面以PHP+MySQL为例做说明,其他编程语言类似。

数据库处理


并发数据库处理最低条件必须满足下面的前6条

事务

​ 事务是多线程处理中确保数据准确性和一致性的核心步骤之一,但前提是MySQL数据库的存储引擎必须是InnoDB,因为MyISAM不支持事务,对于InnoDB每一条SQL语言都默认封装成事务,自动提交,这样会影响速度,所以最好把多条SQL语言放在begin和commit之间,组成一个事务;

例如php-laravel框架中的事务:

try {DB::beginTransaction();//业务逻辑和数据库操作DB::commit();
} catch (Exception $e) {DB::rollback();echo $e->getMessage();
}

行锁

​ 行锁是多线程处理中确保数据准确性和一致性的第二个核心步骤,加行锁能保证在这个事务中的数据不会被其他线程更改,确保数据准确,其他线程访问这一行时会阻塞;需要注意的是,行锁只能锁定一行,如果数据库where条件中包含多行结果将会报错

例如php-laravel框架事务中的行锁:

try {DB::beginTransaction();//lockForUpdate()表示加行锁进行更新$user = User::where('id',1)->lockForUpdate()->first();        //可行$user = User::where('id','>',1)->lockForUpdate()->first();    //这是不行的,会报错$user->name = 'test';$user->save();DB::commit();
} catch (Exception $e) {DB::rollback();echo $e->getMessage();
}

索引

InnoDB的行锁是实现在索引上的,而不是锁在物理行记录上。潜台词是,如果访问没有命中索引,也无法使用行锁,将要退化为表锁。

禁止的操作

在有行锁的事务中不可以进行以下的操作

  • 自增自减

    很多编程语言框架的orm都提供自增自减连贯操作,但是在行锁事务中事不允许的,例如

    User::where(['id'=>1])->increment('stock');
    User::where(['id'=>1])->decrement('stock');
    
  • 查询语句在事务外面

    数据查询的执行必须在事务开始后,否则不起作用

执行顺序

​ 假如你的事务中的lockForUpdate操作的数据表依次为A、B、C表,那么你更新表的顺序也应该按A、B、C表的顺序更新;

​ 假如你的两条相同逻辑并发线程分别需要锁定相同的数据表,那么锁定的表顺序应该保持一致。举个反向案例:两条线程分别锁定顺序为A、B、C和B、A、C,当两线程同时执行,当线程1锁定A表,需要接着锁定B表,但是B表已经被线程2锁定;线程2此时也在等待线程1释放A表,这样两条线程相互等待造成会死锁。

连接池

​ 多线程情况下数据库连接如果用同一个连接实例,可能会发生报错,这个视编程语言框架而定,有的框架已经帮忙处理好了,但是大多数需要配置才能生效。连接池的应用大大降低了数据库的连接资源占用和访问速度。

读写分离(可选)

​ 当数据库的写压力增加,读写集中在一个数据库上会让数据库不堪重负。读写分离就是建立多个分布式数据库,只在主数据库服务器上写,只在从数据库服务器上读,其中从数据库服务器可以部署多台用来读数据。一般编程语言的orm都支持读写分离配置。

分库分表(可选)

​ 随着系统访问量的增加,QPS越来越高,数据库磁盘容量不断增加,一般数据库服务器的QPS在800-1200的时候性能最佳,当超过2000的时候sql就会变得很慢并且很容易被请求打死,而单表数据量过大也会导致数据库执行sql很慢,为了应付这种场景产生了分库分表这种思想和技术。MySQL的话可以考虑使用分布分表中间件,例如mycat。另外如果单张表数据过大,查询起来速度会很慢,对时间要求不大的情况下,考虑建立历史表。

使用缓存(可选)

​ 为了减少对数据库的访问,对时效性低的数据可以使用缓存数据库,提高访问速度,例如redis和memcacha。

负载均衡(可选)

​ 负载均衡,也称分布式服务器,如果用户量很大,一台服务器无法支撑服务,需要部署多台服务器,做负载均衡处理。例如使用阿里云的负载均衡或者自行搭建nginx反向代理。另外,缓存服务器也是可以可以分布式搭建的

常见报错

报错信息:

ERROR : (2006, 'MySQL server has gone away')

解决方法:

事务中有锁等待问题导致数据库阻塞,检查你的事务中是否有事务没提交,return、continue或break前是否已经rollback

报错信息:

[ERROR] Uncaught exception 'Illuminate\Database\QueryException': [0]Packets out of order. Expected 15 received 1. Packet size=80

解决方法:

检查事务中的锁行语句是否包含多行,多行只能锁一行,也就是说你查询条件的字段必须是唯一的;

或者检查是否有启用数据库连接池,多个线程使用同一数据库连接也会出现这个问题

报错信息:

ERROR 1305(42000) SAVEPOINT trans*** DOES NOT EXIST

解决方法:

有部分事务没有提交或者回滚,检查你的事务中是否有事务没提交,return、continue或break前是否已经rollback

多线程高并发编程MySQL数据库处理相关推荐

  1. java 线程 并发_多线程高并发编程总结

    多线程 第一章 一.终止线程的三种方法: 1.使用退出标志,是县城正常退出,也就是当run方法完成后线程终止. 2.stop不推荐 3.使用interrupt(打了一个停止标记,并不是真的停止线程). ...

  2. 多线程高并发编程(10) -- ConcurrentHashMap源码分析

    一.背景 前文讲了HashMap的源码分析,从中可以看到下面的问题: HashMap的put/remove方法不是线程安全的,如果在多线程并发环境下,使用synchronized进行加锁,会导致效率低 ...

  3. 多线程高并发编程(8) -- Fork/Join源码分析

    一.概念 Fork/Join就是将一个大任务分解(fork)成许多个独立的小任务,然后多线程并行去处理这些小任务,每个小任务处理完得到结果再进行合并(join)得到最终的结果. 流程:任务继承Recu ...

  4. libevent c++高并发网络编程_【多线程高并发编程】Callable源码分析

    程序猿学社的GitHub,欢迎Starhttps://github.com/ITfqyd/cxyxs 本文已记录到github,形成对应专题. 前言 通过上一章实现多线程有几种方式,我们已经了解多线程 ...

  5. 【云风skynet】详解skynet的多核高并发编程丨actor模型丨游戏开发丨游戏服务端开发丨多线程丨Linux服务器开发丨后端开发

    skynet中多核高并发编程给我们的启发 1. 多核并发编程 2. actor模型详解 3. 手撕一个万人同时在线游戏 视频讲解如下,点击观看: [云风skynet]详解skynet的多核高并发编程丨 ...

  6. 高并发编程-使用wait和notifyAll进行线程间的通信3_多线程下的生产者消费者模型和notifyAll

    文章目录 概述 解决办法 概述 高并发编程-线程通信_使用wait和notify进行线程间的通信2_多生产者多消费者导致程序假死原因分析 中分析了假死的原因,这里我们来看下改如何解决在多线程下出现的这 ...

  7. 为了在简历上写掌握【Java多线程和并发编程】,做了两万字总结

    文章目录 概述 继承Thread类 实现Runnable接口 实现Callable接口 线程池 线程的五大状态 多线程买票案例 死锁 Lock锁 生产者消费者问题 八锁问题 volatile 写在后面 ...

  8. Java 从多线程到并发编程(五)—— 线程调度 优先级倒置(反转) 阻塞 死锁 suspend

    文章目录 前言 ´・ᴗ・` 线程调度策略 优先级倒置问题 优先级倒置解决方案 死锁 dead lock suspend 被阻塞的同时持有资源不放 是上述问题的诱因 总结 ´◡` 前言 ´・ᴗ・` 这一 ...

  9. 《深入理解高并发编程:JDK核心技术》-冰河新书上市

    大家好,我是冰河~~ 废话说多了没用,并发编程技术一直是初级程序员进阶高级工程师的前提条件,也是成为大厂程序员的必备技能,更是突破自身技术瓶颈的必经之路. 2022年6月我出版了"冰河技术丛 ...

最新文章

  1. 单元格编辑后级联汇总刷新
  2. HDU - 6438(贪心+思维)
  3. Spring Boot 应用迁移到 Java 11
  4. 【Android 应用开发】Paint 图形组合 Xfermod 简介 ( 图形组合集合描述 | Xfermod 简介 | PorterDuff 简介 )
  5. c mysql 连接实例_c连接mysql数据库实例
  6. JavaScript中的数组循环方法
  7. secureCrT夜间模式
  8. 利用等积变换巧解三角形面积问题
  9. hook什么意思_这是什么骚代码!
  10. tar.gz 文件解压 (安装 netbean 时会用到)
  11. 程序员面试金典 - 面试题 01.08. 零矩阵
  12. 3月初的日记:网站工作记录
  13. 一对一语音视频直播双端原生+php后台源码
  14. java 发送邮件_Spring Boot (十二):Spring Boot 邮件服务
  15. Jquery Sparklines ref
  16. 拓端tecdat|R语言:状态空间模型和卡尔曼滤波预测酒精死亡人数时间序列
  17. 微信公众号编辑器的附件功能(如Word、Excel、Pdf等)
  18. mac双系统w ndows8,Mac安装win8.1双系统多个分区教程
  19. 磨金石教育摄影技能干货分享|中国风摄影大师——郎静山
  20. 故障诊断 | 系统级追踪诊断方法及案例分享

热门文章

  1. xml注释快捷键 快捷生成<!-- -->
  2. pscad与matlab接口,PSCAD与MATLAB的接口问题
  3. html练习题及答案文库,HTML_XML与网页制作测试题及答案电子教案.doc
  4. 基于MATLAB的混沌数字图像加密技术研究与仿真实现
  5. Unity3D——学习分享(十三)鼠标滚轮控制视野拉近拉远效果
  6. 电商中怎么防止超卖问题
  7. 手机新浪网大变脸门户迎来双App时代
  8. 所有大数据项目的流程是什么
  9. js中json转excel
  10. linux svn web管理,CentOS 6.x 部署Subversion 集成 SvnAdmin Web管理界面