如何实现一个连接池?
目录
前言
什么是连接池?
为什么需要连接池?
怎样做一个连接池?
高级连接池
推荐源码
前言
【2w1h】是技术领域中一种非常有效的思考和学习方式,即What、Why和How;坚持【2w1h】,可以快速提升我们的深度思考能力。
今天我们通过【2w1h】方式来讨论“连接池”:什么是连接池(what)?为什么需要连接池(why)?怎样做一个连接池(how)?
什么是连接池?
深入思考连接池的本质,但不要思考的过于复杂!
“池”是一种非常形象化的描述,它是一种容器,做储存之用;在编程中我们往往使用数组、链表、队列、map来表达。
“连接”是网络中用于传输数据的通道;“连接”才是我们要真正去使用的对象,而“池”是用来管理“多个连接”的一种方式。
如果没有用“池”来统一管理“连接”,“连接”将散布在程序各处;那为了使用方便,我们往往会在使用时建立连接,使用完毕后,就关闭连接。所以“连接池”给我们提供了使用“连接”的方便。
同时,池是做储存之用的,所以“连接池”中的“连接”肯定是已经建立好的长连接,比如tcp连接、websocket连接等,即取即用,用完放回。如果没有真正理解“连接池”的本质,在面试中可能会出现“http连接池”的笑话!
根据下游类型,我们常见有数据库连接池、缓存连接池、服务连接池,如下图所示:
图一 数据库连接池
图二 缓存连接池
图三 服务连接池
在编程中,我们还经常会碰到进程池、线程池、协程池、内存池、对象池等。
为什么需要连接池?
除了连接池能非常方便的对连接进行管理外,一句话,在高吞吐时连接池大大提高了数据传输的效率。
从两个方面说:
1、避免反复的三次握手和四次握手
长连接的建立需要进行三次握手,而连接的释放需要进行四次握手,这是发生在系统层面的两个动作,对于单条连接来说耗时微乎其微,但在高吞吐场景时,耗时则不能忽略。
所以连接池的即取即用和用完放回的特性,避免了大量三次握手和四次握手的无效耗时,节省了系统资源。
2、 增加并行车道,实现全双工并行
数据通信包括单工、半双工和全双工。单工通信如下图,数据只能从A到B,不符合访问下游服务的场景。
图四 单工通信
半双工通信如下图,数据可以从A到B,也可从B到A,但是同一时刻只能一个方向上进行数据传输,通道利用率是50%。
图五 半双工通信
全双工通信如下图,可同时存在从A到B和从B到A的数据传输,通道的利用率是100%。长连接就是全双工通信。
图六 全双工通信
在IO密集型的互联网应用中,一条全双工通信通道仍然无法满足数据吞吐的需求时,该如何解决?
在互联网性能测试指标中有这样一个公式:
QPS(吞吐量) = 并发数 / 平均响应时间
在平均响应时间不变的情况下,适度增加并发数可以提升吞吐量;所以采用多条全双工通信的方式可以在一定程度上(平均响应时间没有大幅增加)提高吞吐量,而连接池则就最好的实现方式。
总结一下:为什么需要连接池?
(1)方便管理连接;
(2)避免反复三次握手和四次握手;
(3)更好地实现全双工并行。
怎样做一个连接池?
实现一个连接池,最关键的是均衡和保活,如下图所示:
图七 连接池实现原理
该连接池的“池”通过队列数据结构进行实现,队列先进先出的特性保证了使用连接的均衡性,每一条连接都可以均匀的被使用到。
连接池对外提供get()和free()两个API,get()用于从队首“出队”获取一条可用连接,free()用于将使用完的连接从对尾“入队”释放到队列中。
业务代码在低峰时会降低get()动作,所以连接池中的连接在长时间不用时会导致失效,此时保活线程在监测到get()的使用频率较低时,会模拟业务程序调用get()获取连接后发送心跳包,然后再通过free()将被保活的连接放回队列中,达到连接池中所有连接保活的目的。
在充分理解上述内容后,可以了解高级连接池的扩展知识!
高级连接池
高级连接池通常应用在微服务系统中,如下图:连接池连接下游多个节点。
图八 高级连接池
高级连接池具备这样几个特性:
- 1、 高可用:下游任意一个server 宕机时,连接池会关闭相关无效连接,防止被client访问;
- 2、 高可扩展:下游增加一个server节点时,连接池会发现并建立到新server节点的连接,供client访问;
- 3、 负载均衡:连接池会根据下游server的服务能力的高低分配数据请求;
- 4、 中间件:当下游server是类MySQL数据库并分片时,连接池会将请求打在相应的数据节点上,并对数据进行聚合。
推荐源码
- RedisPool:https://github.com/zywaited/RedisPool
- rabbitmq_connet_pool:https://github.com/lokenetwork/rabbitmq_connet_pool
如何实现一个连接池?相关推荐
- 有没有想过,手写一个连接池?
点击上方"方志朋",选择"置顶公众号" 技术文章第一时间送达! 作者:矢泽妮可 来源:http://h5ip.cn/F7US 连接池的使命! 无论是线程池还是d ...
- 如何实现一个连接池?一文带你深入浅出,彻底搞懂!
- 前言 - [2w1h]是技术领域中一种非常有效的思考和学习方式,即What.Why和How:坚持[2w1h],可以快速提升我们的深度思考能力. 今天我们通过[2w1h]方式来讨论& ...
- 有没有想过,自己手写一个连接池?
http://h5ip.cn/F7US 连接池的使命! 无论是线程池还是db连接池,他们都有一个共同的特性:资源复用,在普通的场景中,我们使用一个连接,它的生命周期可能是这样的: 一个连接,从创建完毕 ...
- c mysql连接池_在LINUX下用C/C++写了一个连接池(访问MYSQL)的类
一.头文件[存为:connPool.h] #ifndef __CONNECTION_POOL_H__ #define __CONNECTION_POOL_H__ #include "mute ...
- evt参数是干啥用的_http连接池中非常关键的两个参数,到底是干啥用的?
作者简介:大厂一线资深开发.从crud开发到资深开发,再到研究员兼技术经理.<资深开发讲技术> 从一线实战中总结有故事,有背景的案例,希望带给大家一系列技术盛宴. 求关注,欢迎技术交流.友 ...
- 使用 TFDConnection 的 pooled 连接池
从开始看到这个属性,就一直认为他可以提供一个连接池管理功能, 苦于文档资料太少, 甚至在帮助中对该属性的使用都没有任何介绍,如果你搜索百度,也会发现基本没资料. 最后终于在其官方网站看到了其完整相关的 ...
- Http持久连接与HttpClient连接池
以下文章来源方志朋的博客,回复"666"获面试宝典 一.背景 HTTP协议是无状态的协议,即每一次请求都是互相独立的.因此它的最初实现是,每一个http请求都会打开一个tcp so ...
- mysql内连接和外连接的区别_Swoole4创建Mysql连接池
一 .什么是mysql连接池 场景:每秒同时有1000个并发,但是这个mysql同时只能处理400个连接,mysql会宕机. 解决方案:连接池,这个连接池建立了200个和mysql的连接,这1000个 ...
- java 连接池 druid_从零开始学 Java - 数据库连接池的选择 Druid
我先说说数据库连接 数据库大家都不陌生,从名字就能看出来它是「存放数据的仓库」,那我们怎么去「仓库」取东西呢?当然需要钥匙啦!这就是我们的数据库用户名.密码了,然后我们就可以打开门去任意的存取东西了. ...
最新文章
- php面向对象静态常量,浅谈PHP面向对象编程(四、类常量和静态成员)
- Java多线程之线程池的使用示例
- PowerShell: 详解Windows10常用的PowerShell高级任务
- 中国移动、联通、电信、第三方平台IDC市场机房布局之争
- Eclipse中javascript文件 clg 变为console.log();
- ASP.Net Core2.1中的HttpClientFactory系列一
- 海量数据处理 (一)
- mysql优化之索引_mysql优化之索引
- hibernate saveorupdate mysql_Mysql数据库 hibernate保存数据时,Mysql主键需设定自增,否则报错_MySQL...
- linux引导过程和服务控制
- 测量软件应用系统的聚合复杂度【翻译稿】
- 如何阻止事件冒泡和默认事件
- webpack路径问题总结
- DB2之CLOB对象用法
- pic单片机c语言 程序,单片机教程:PIC单片机C语言程序设计(一)
- 独家插件!非常好用的CASS地形图绘制插件
- 国家计算机机房地址,国家电子计算机机房设计规范..doc
- 梦幻西游这么火, Python也不甘示弱, Python写游戏辅助软件!
- 离散分布的分布函数_条件分布与条件期望
- Whois 信息与个人隐私