[Go WebSocket] 为什么我选用Go重构Python版本的WebSocket服务?
我是HullQin,公众号线下聚会游戏的作者(欢迎关注公众号,发送加微信,交个朋友),转发本文前需获得作者HullQin授权。我独立开发了《联机桌游合集》,是个网页,可以很方便的跟朋友联机玩斗地主、五子棋等游戏,不收费没广告。还开发了《Dice Crush》参加Game Jam 2022。喜欢可以关注我 HullQin 噢~我有空了会分享做游戏的相关技术。
前言:标题其实有2重含义:为什么重构、为什么选Go。
背景
如果你读过《我做了个《联机桌游合集: UNO+斗地主+五子棋》无需下载,点开即玩!叫上朋友,即刻开局!不看广告,不做任务,享受「纯粹」的游戏!》这篇文章,就知道我联机桌游的后端选型是python,用了ASGI协议,用了Daphne实现。
但是Python,众所周知,效率有限,为了让我的小破服务器承受更多并发压力,我需要让CPU更高效的运行,我希望针对每一个请求,CPU花的时间更短,这样可以增加并发量。
应用瓶颈
其实很多websocket应用瓶颈在CPU性能和内存上。如果请求量大,CPU处理不及时,源源不断的客户端请求会堆积在内存中,导致内存占用增加,进一步导致处理时间变慢,CPU高负荷运转。这样显著的特点是:CPU打满、内存占用持续上升。用户的感受就是:点击按钮后没反应,要等一会才有反应,或者一直没响应。
当然,以上只是常见理论。具体应用瓶颈需要你做一下压测,寻找那个「短板」。这样当流量突增时,你知道应该优先给哪里「扩容」。
为什么重构
自研的WebSocket框架,架构非常简洁,没有任何外部组件依赖(不依赖Redis、MySQL、MQ等数据库或队列)。使得我们更容易去分析。
整个链路是:用户浏览器 -> OpenResty -> Daphne(Python)。
其中OpenResty最大连接数我配置了6w,近一段时间内都不会成为「短板」。如果以后用户量够高,我们再想办法。
瓶颈最可能出现在Python服务上。
目前存在如下问题:
- 代码执行效率可优化。Python是动态解释,效率不如编译成机器码的语言(C++、Go)高;有个核心逻辑是用Python序列化和反序列化Protocol Buffer二进制,目前是用纯Python实现,可优化。
- 目前是基于协程处理各个连接,由于PIL存在,Python无法基于多线程充分利用多核CPU。
- 所有数据存在内存中,随着时间增长,内存占用会越来越高。
- 无法容灾+难以扩容。现在扩容只能对单台机器扩容,无法将程序运行在多台机器上。而且单机宕机后,100%用户受影响。
解决方案:
- 针对问题一和问题二:放弃Python,选用其它语言实现功能。选用的语言,要解决这两个问题。
- 针对问题三和问题四:我们以后再聊。
这一段,解答了我为什么要重构,其实核心就是:降本增效。没钱买贵的服务器,所以只能在不影响开发效率的前提下,压榨性能。
为什么选用Go
Goroutine
大家可以了解下C10K的并发问题,Linux引入epoll解决了这个问题。随后又有了C10M等问题。
如果靠传统的多线程模型,每个线程处理1个连接。那么当连接太多时,线程调度就会花费很多时间,导致效率低。
所以有了协程(coroutine)这个概念。我之前使用Python,就是利用协程处理的,每1个连接就开启1个协程。整体只是1个线程,减少了操作系统调度多个线程的成本。
此外,我又了解到了Go,它提出了goroutine,goroutine不是协程、也不是线程。
- 线程特点:调度完全由操作系统调度,开发者无法直接控制,只能通过加锁来管理多个线程的执行顺序。
- 协程特点:调度完全由开发者掌控,但是某个协程主动放弃执行权之前,其它协程都必须挂起。
- goroutine特点:调度不是操作系统直接执行,但开发者也无法控制,因为goroutine的调度是由go的runtime调度的,一个比操作系统线程更轻量级的调度器。某个goroutine主动放弃执行权之前,其它goroutine也有机会执行(例如有多个goroutine时,限制每个goroutine最多连续执行10ms,就得让出执行权)。此外开发者可以通过channel控制多个goroutine的执行顺序。
总结一下:
- Goroutine效率高于线程。跟协程相似。
- Goroutine开发成本比线程低,使用channel可很大程度降低并发编程的心智负担。但有时候还是需要依赖锁,这点不如协程。
- Goroutine避免了协程的这个问题:单一协程如果遇到了计算量大的任务,会阻塞其它协程。
开发效率与运行效率的权衡
Go在保证开发效率的同时,也保证了优秀的运行效率,被称为下一代C++。
这是网上的一张压测数据图,可以看到,综合来看,在Python、NodeJS、Java中,Golang是比较全面的选手。
写在最后
我是HullQin,公众号线下聚会游戏的作者(欢迎关注公众号,发送加微信,交个朋友),转发本文前需获得作者HullQin授权。我独立开发了《联机桌游合集》,是个网页,可以很方便的跟朋友联机玩斗地主、五子棋等游戏,不收费没广告。还开发了《Dice Crush》参加Game Jam 2022。喜欢可以关注我 HullQin 噢~我有空了会分享做游戏的相关技术。
[Go WebSocket] 为什么我选用Go重构Python版本的WebSocket服务?相关推荐
- Python之父考虑重构Python解释器
7月22日,Python之父Guido在Medium上发表了他的第一篇博文<PEG Parser>. 在该文中,Guido说他正在考虑使用PEG Parser代替现有的类LL(1) Par ...
- python 编译器重构_Python之父考虑重构Python解释器
7月22日,Python之父Guido在Medium上发表了他的第一篇博文<PEG Parser>. 在该文中,Guido说他正在考虑使用PEG Parser代替现有的类LL(1) Par ...
- python部落稿酬_Python之父考虑重构Python解释器
作者:佚名来源:Python部落 7月22日,Python之父Guido在Medium上发表了他的第一篇博文<PEG Parser>. 在该文中,Guido说他正在考虑使用PEG Pars ...
- python重构_重构Python应用程序以简化操作
python重构 Do you want simpler Python code? You always start a project with the best intentions, a cle ...
- 基于python以及AIUI WebSocket,WeChatPYAPI实现的微信聊天机器人
基于python以及AIUI WebSocket,WeChatPYAPI实现的微信聊天机器人 做此文的目的首先是学习Markdown的用法哈哈哈哈,其实也是记录自己学习的一个过程. 以后我也会将自己在 ...
- python websocket_python 模拟websocket通信
以前,很多网站使用轮询实现推送技术.轮询是在特定的的时间间隔(比如1秒),由浏览器对服务器发出HTTP request,然后由服务器返回最新的数据给浏览器.轮询的缺点很明显,浏览器需要不断的向服务器发 ...
- Python Django使用websocket channels3.0.3
Channels3.0.3 网上的教程是2.4.0,本文照着官方文档整合. Installation - Channels 3.0.3 documentation https://channels.r ...
- websocket python unity_Unity中Websocket的简单使用
首先我们需要一个websocket服务器,之前的博文中有做 Tomcat架设简单Websocket服务器 用的时候打开就行了,先不管它 Unity中新建场景 建UI(UGUI) 有一个连接按钮Butt ...
- Linux——Django 开发环境部署(二)python版本控制器pyenv
python版本控制器pyenv 之前的 那篇是说明了django环境的site package完全独立出来了,但是使用的python解释器还是系统的,为了继续独立出来,甚至是达到ruby的rvm的自 ...
最新文章
- oracle rpad mysql_Oracle生成不重复票号与LPAD,RPAD与NEXTVAL函数解析
- python脚本例子_python dict 字典 以及 赋值 引用的一些实例(详解)
- 如何在ubuntu下安装合适的翻译词典
- 微软 CTO 韦青:对微软这样已经走过44年的公司,现在也只是个小小小的开始!!!
- 比较简单的c语言编辑器,大佬们,小菜鸟想问一问用vc编译器做简易画图软件
- KVM NAT模式 恢复virbr0
- 柳传志与马云绸缪宏观经济“冬天影子”
- Ethercat解析(五)之基础答疑
- .NET中获取字符串的MD5码
- c++查漏补缺之自增自减运算符重载
- nexus下载及上传jar包
- linux下mysql将表导出_linux下mysql导出数据表命令
- Jenkins 配置 Maven 环境变量
- 传销三级的认定标准_应为传销案件中“劳务性工作人员”争取“不起诉”—传销犯罪辩护与研究(四十五)...
- 高数篇:02费马定理
- python刷题:哥德巴赫猜想
- linux无人值守安装实验,无人值守批量安装linux操作系统
- 四句话改变你的人生:一念之转
- init_modue和finit_module
- C语言结构体工资缴税,C语言进阶-第11~13讲:结构体实践(成绩处理个税计算器之码数分离)...
热门文章
- 01-生鲜项目-数据库表设计
- 数据结构 浙江大学 2019春期末考试
- 基于SpringBoot+Vue的学生成绩管理系统
- 真有那么大差距?— iPhone XR 屏幕素质报告
- 直方图均衡--对比度调整和去雾效果
- 江苏省工程训练赛--物料搬运小车(附代码)
- 数据库可移植性重要吗?
- 到底什么是牛逼?什么是傻逼?什么又是装逼?NB,SB,ZB
- 废旧计算机主板,废旧笔记本, 千万别扔掉, 教你变废为宝
- 微信“分享到朋友圈”接口— wx.onMenuShareTimeline() 和 onMenuShareAppMessage — 分享给朋友接口