作者 | 轩辕之风O

来源 | 编程技术宇宙(ID:xuanyuancoding)

Redis的新烦恼

你好,我是Redis,一个叫Antirez的男人把我带到了这个世界上。

自从上次被拉入群聊之后(那天,我被拉入一个Redis群聊···),我就从一个人单打独斗变成了团队合作,在小伙伴们的共同努力下,不仅有主从复制可以数据备份,还有哨兵节点负责监控管理,我现在也可以拍拍胸脯说我们是高可用服务了!

但是,幸福的日子没过太久,我们就笑不起来了。

不知道是我们的工作太出色,还是业务发展太快,程序员们对我们养成了依赖,什么都往我们这里写,数据量越来越大,我们承受了这个年纪不该有的压力~

虽然有主从复制+哨兵,但只能解决高可用的问题,解决不了数据量大的问题!

因为咱们看起来人手多,但都是存储的全量数据,所以对于数据容量提升并没有什么帮助。

集群时代

这一天,我找到了大白和小黑,咱们仨合计了一下,一个节点的力量不足,但众人划桨可以开大船啊,我们决定把三个人的内存空间“”起来,每个人负责一部分数据,合体进化成一个大的缓存服务器,进入集群Cluster时代!

集群,集群,首要问题当然是团队建设啦!我们得想一套办法来组建团队,还要考虑到以后可能会扩容,会有新的伙伴加入我们,我们仨憋了半天,抄袭人家TCP的三次握手,也搞了一个握手协议出来。

想要加入集群,得有一个介绍人才行。通过团队里的任何一个成员都行,就比如说我吧,只要告诉我IP和端口,我就给他发送一个MEET信息,发起握手,对方得回我一个PONG信息同意入伙,最后我再回他一个PING信息,三次握手就完成了!

然后,我再把这件事告诉团队中其他成员,新的伙伴就算正式成为我们的一份子了。

第二件很重要的事情就是要解决数据存储的公平问题,不能旱的旱死,涝的涝死,我们争论了很久,最后决定学习人家哈希表的方法。

我们总共划分了16384个哈希桶,我们把它叫做槽位Slot,程序员可以按照我们能力大小给我们各自分配一部分槽位,比如我们团队:

我:0-4000

大白:4001-9000

小黑:9001-16383

我比较菜,只分到了4000个,小黑老哥最辛苦,要负责7000+个槽位,正所谓能力越大,责任越大,谁叫他内存空间最大呢。

数据读写的时候,对键值做一下哈希计算,映射到哪个槽,就由谁负责。

为了让大家的信息达成一致,启动的时候,每个人都得把自己负责的槽位信息告诉其他伙伴。

一共有一万多个槽,要通知其他小伙伴,需要传输的数据量还挺大的,后来我们仨又商量了一下,为了压缩数据空间,每个槽位干脆就用一个bit来表示,自己负责这一位就是1,否则就是0,总共也才16384个bit,也就是2048个字节,传输起来轻便快捷,一口气就发送过去了。

struct clusterNode { // ... unsigned char *slots[16384/8]; // ...};

这样传输的数据是轻量了,但真正工作的时候还是不方便,遇到读写数据的时候,总不能挨个去看谁的那一位是1吧。

干脆一步到位,用空间换时间,我们又准备了一个超大的数组来存储每个槽由哪个节点来负责,通过上面的方式拿到信息后,就更新到这里来:

struct clusterNode *slots[16384];

这样一来,遇到数据访问的时候,我们就能快速知道这个数据是由谁来负责了。

对了,这16384个槽位必须都得有人来负责,我们整个集群才算是正常工作,处于上线状态,否则就是下线状态。

你想啊,万一哪个键值哈希映射后的槽位没人负责,那该从哪里读,又该写到哪里去呢?所以我们要工作,一个槽都不能少!

集群数据的访问

数据分派的问题解决了,我们团队总算可以正式上线工作了!

和原来不同的是,数据读写的时候多了一个步骤:得先检查数据是不是由自己负责。

如果是自己负责,那就进行处理,不然的话,就要返回一个MOVED错误给请求端,同时把槽号、IP和端口告诉他,让他知道该去找谁处理。嘿嘿,这个MOVED我们也是抄袭的HTTP中的302跳转~

不过程序员们是感知不到的,他们都是用封装好的库来操作,才不会亲自写代码来跟我通信呢~

一开始的工作很顺利,但没过多久就出事儿了!

随后我们开始了数据迁移,还把这一套流程标准化了,留着为以后新入伙的朋友分配数据。

经过一段时间的磨合,我们集群小分队配合的越来越默契。

不过光靠咱们仨还是不行,万一哪天有人挂了,整个集群就得下线了!咱们三个每人至少得有一个backup才行!

于是我找到了原来的一帮小弟,让他们也加入我们,继续给我们当起了从节点,平时当我们的backup,从我们这里复制数据,一旦我们遇到故障,他们就能快速顶上。

有了集群工作+主从复制,我们现在不仅高可用,数据容量也大大提升了,就算以后不够用了也有办法扩容,我们又过上了舒服的日子~

☞被法拉第夸、狄更斯为她读诗、英王参加她的成人礼,程序员祖师的人生有多传奇?
☞4 年开发 43 款软件,这位乡村教师火了
☞程序员颈椎病康复秘籍
☞程序员因拒绝带电脑回家被开除,获赔 19.4 万元

点分享

点收藏

点点赞

点在看

我拍了拍 Redis,没想到被移出了群聊......相关推荐

  1. 微信上线“拍一拍”功能,结果被网友激情吐槽...

    微信更新了7.0.13版本,iOS用户也可以修改微信号,版本更新还加入了跟随系统设置切换深色模式.以及优化语音转文字消息的发送体验. 接着,微信在iOS和Android版本都上线了"拍一拍& ...

  2. 怎么撤回操作_微信又更新,拍一拍能撤回了

    微信拍一拍功能在 6 月份刚上线时,「微信之父」张小龙就发朋友圈表示,微信史上仅需一行代码的有趣功能终于来了,拍一拍,像蚂蚁一样打招呼. 拍一拍功能将大家在现实世界的肢体交流带到了虚拟世界,相信大家都 ...

  3. 微信新出“拍一拍”功能,快被大家玩坏了,你会吗?

    点击上方[全栈开发者社区]→右上角[...]→[设为星标⭐] 今天,腾讯微信发布最新的安卓内测版 7.0.16 更新. 从微信 7.0.15 开始,其暗黑模式可以独立设置了.微信安卓版 7.0.14 ...

  4. 微博程序员:我每天监控流量却没想到自己也成了流量

    人们对程序员的刻板印象是什么样的呢? 最常穿格仔衫?最爱黑框眼镜?顶着蓬(散)松(乱)的头发?哦,程序员本尊老说自己秃头-- 新浪微博的月活跃用户超过4亿.这里已成为很多中国人的生活习惯之一.早上起床 ...

  5. android手机抓死机logo,导致安卓手机死机照片拍摄者:没想到会造成这么大的破坏...

    原标题:导致安卓手机死机照片拍摄者:没想到会造成这么大的破坏 IT之家6月11日消息 去年8月份在蒙大拿州的冰川国家公园旅行时,科学家兼业余摄影师Gaurav Agrawal拍下了一张美丽的日落照片. ...

  6. 造了一个 Redis 分布锁的轮子,没想到还学到这么多东西!!!

    手撸分布式锁 这篇文章本来是准备写下 Mysql 查询左匹配的问题,但是还没研究出来.那就先写下最近在鼓捣一个东西,使用 Redis 实现可重入分布锁. 看到这里,有的朋友可能会提出来使用 redis ...

  7. 微信服务器保留几年记录_微信新功能“拍一拍”来啦网友疯狂改备注,差点没玩坏新功能...

    文by:田心不打烊 拍一拍 6月17日下午,微信新功能"拍一拍"上线.这个功能在服务器端不断调整,最初只有iOS微信可以看到拍与被拍的记录:之后到18日中午,安卓版微信也可以留存拍 ...

  8. 微信拍一拍没反应怎么办?全方面解析微信拍一拍

    微信拍一拍没反应怎么办?在前段时间微信最新版本7.0.13中,除了iOS版微信支持更改微信号以外,微信还提供了小彩蛋:微信拍一拍. 微信拍一拍怎么用? 首先,我们需要确定自己的微信已经更新升级到最新版 ...

  9. 从微信「拍一拍」,我想到了那些神奇的一行代码功能(文末福利)

    最近,微信上线了一个彩蛋小功能「拍一拍」,虽然低调发布,但还是冲上了热搜. 这个功能的操作很简单,双击好友头像,好友头像会震动,并显示一条灰色消息,提醒好友被你"拍了拍".「拍一拍 ...

最新文章

  1. EntityFramework Core 学习笔记 —— 创建模型
  2. IDEA IntelliJ 开发工具介绍
  3. mysql外键无法删除_mysql外键无法删除数据的情况
  4. 代画PCB及C语言编程
  5. GridView导出为Excel
  6. JNuit4实战技巧总结
  7. C# 如何理解如下泛型约束 class AT:where T:class{}
  8. php绘制甘特图,如何用excel做甘特图?甘特图制作方法图解
  9. 计算机类中文核心期刊
  10. 计算机音乐设备简单配置,计算机音乐与作曲基础(高等学校艺术类专业计算机规划教材)...
  11. 通过Windows批处理脚本批量修改DNS
  12. android之媒体硬解OMX的实现
  13. 12306之余票查询流程解析
  14. Word无法打开该文件,因为文件格式与文件扩展名不匹配 | 无法从该位置打开扩展名为.asd的文件
  15. 在职研究生计算机专业院校,计算机专业在职研究生报名有哪些院校可以选择?...
  16. [附源码]java毕业设计社区生鲜电商平台
  17. 东南西北十字图_word画东南西北方向图标 怎么在Word里绘制方向十字图标
  18. git上传代码简单方法 简单git上传代码工具
  19. 二、如何写好学术/学位论文
  20. 在CentOS7下的OpenCV环境搭建与基于C++的人脸辨认(Face Recognition)参考指南

热门文章

  1. 最新!QS发布2021亚洲大学排行榜!清华第二,浙大、复旦力压北大
  2. 机器也学会如何做「阅读理解」了? 云从科技上交大提出的DCMN+ 模型为你解答!!!...
  3. NeurIPS | 2019 机器学习领域最新十篇论文,来自谷歌、Facebook、普林斯顿大学、斯坦福大学等团队的最新研究成果...
  4. 无需「域外」文本,微软:NLP就应该针对性预训练
  5. 机器学习的中流砥柱:用于模型构建的基础架构工具有哪些?
  6. 吐血整理:机器学习的30个基本概念,都在这里了(手绘图解)
  7. SAP SD基础知识之特殊的业务交易
  8. 法国科学家发布AI模型,阐释蛋白结构和功能及进化关系
  9. Python---图像读写操作(scipy)
  10. 重磅丨国家发改委公布56个AI支持项目名单