由于有一条业务线不理想,高层决定下架业务。对于我们技术团队而言,其对应的所有服务器资源和其他相关资源都要释放。

图片来自 Pexels

释放了 8 台应用服务器;1 台 ES 服务器;删除分布式定时任务中心相关的业务任务;备份并删除 MySQL 数据库;删除 Redis 中相关的业务缓存数据。

CTO 指名点姓让我带头冲锋,才扣了我绩效……好吧,冲~

其他都还好,不多时就解决了。唯独这删除 Redis 中的数据,害得我又熬了一个通宵,真是折煞我也!

难点分析

共用 Redis 服务集群

由于这条业务线的数据在 Redis 大概在 3G 左右,完全没必要单独建一个 Redis 服务集群,本着能节约就节约的态度,当初就决定和其他项目共享一个集群(这个集群配置:16 个节点,128G 内存,还算豪华吧~)

集群配置如下:

在这种共用集群的情况下,导致无法简单粗暴的释放。因此只能选择删除 Key 的方式。

Key 命名不规范

要删除 Key,首先就要精准的定位出哪些 Key 需要删除,如果勿删 Key,会影响到其他服务正常运转!

如果 Key 本身设置了过期时间,但有些数据需是持久化的。然而那该死的项目经理一直催项目进度,导致开发人员在开发过程中很多地方都没有设计到位。

比如 Redis Key 散落在项目代码的每个角落;比如命名不是很规范。

真不知道是怎么 Review 代码!哦,想必是没有时间 Review,那该死的项目经理……

我随便截个支付服务中的 Key 命名:

怎么样?是不是觉得我们开发人员写的代码很 Low!别笑,在实际工作中,还有比这更 Low 的!希望你别遇到,不然真的很痛苦~

解决思路

经过以上的分析,我们简单归纳如下:

  • 我们真正关心的是那些未设置过期时间的 Key。

  • 不能误删除 Key,否则下个月绩效也没了。

  • 由于 Key 的命名及使用及其不规范,导致 Key 的定位难度很大。

看来,通过 Scan 命令扫描匹配 Key 的方式行不通了。只能通过人肉搜索了。

幸而 Idea 的搜索大法好,这个项目中使用的是 spring-boot-starter-data-redis。

因此我通过搜索 RedisTemplate 和 StringRedisTemplate 定位所有操作 Redis 的代码。

具体步骤如下:

  • 通过这些代码统计出 Key 的前缀并录入到文本中。

  • 通过 Python 脚本把载入文中中的的 Key 并在后面加上“*”通配符。

  • 通过 Python 脚本通过 Scan 命令扫描出这些 Key。

  • 为了便于检查,我们并没有直接使用 Del 命令删除 Key,在删除 Key 之前,先通过 debug object key 的方式得到其序列化的长度,再执行删除并返回序列化长度。这样,我们就可以统计出所有 Key 的序列化长度来得到我们释放的空间大小。

关键代码如下:

def get_key(rdbConn,start):try:keys_list = rdbConn.scan(start,count=2000)return keys_listexcept Exception,e:print e''' Redis DEBUG OBJECT command got key info '''
def get_key_info(rdbConn,keyName):try:rpiple = rdbConn.pipeline()rpiple.type(keyName)rpiple.debug_object(keyName)rpiple.ttl(keyName)key_info_list = rpiple.execute()return key_info_listexcept Exception,e:print "INFO : ",edef redis_key_static(key_info_list):keyType = key_info_list[0]keySize = key_info_list[1]['serializedlength']keyTtl = key_info_list[2]key_size_static(keyType,keySize,keyTtl)

通过以上方式,能够统计出究竟释放了多少内存了。由于这个集群是有特么接近 7 千万个 Key:

因此,等到了第二天天亮,我睡眼朦胧的看了一下,终于删除完毕了,时间 07:13,早高峰即将来临……

知耻而后勇

从来没有经历过因业务下线而清除资源的经验。这次事情真心让我觉得细微之处见真功夫的道理。

如果一开始我们就能够遵循开发规范来使用和设计 Redis Key,也不至于浪费这么多时间。

为了让 Key 的命名和使用更加规范,以及今后避免再次遇到这种情况,下午睡醒之后,我就在 Redis 公共组件库里面添加了一个配置和自定义了 Key 序列化。

代码如下:

@ConfigurationProperties(prefix = "spring.redis.prefix")
public class RedisKeyPrefixProperties {private Boolean enable = Boolean.TRUE;private String key;public Boolean getEnable() {return enable;}public void setEnable(Boolean enable) {this.enable = enable;}public String getKey() {return key;}public void setKey(String key) {this.key = key;}
}
/*** @desc 对字符串序列化新增前缀* @author create by liming sun on 2020-07-21 14:09:51*/
public class PrefixStringKeySerializer extends StringRedisSerializer {private Charset charset = StandardCharsets.UTF_8;private RedisKeyPrefixProperties prefix;public PrefixStringKeySerializer(RedisKeyPrefixProperties prefix) {super();this.prefix = prefix;}@Overridepublic String deserialize(@Nullable byte[] bytes) {String saveKey = new String(bytes, charset);if (prefix.getEnable() != null && prefix.getEnable()) {String prefixKey = spliceKey(prefix.getKey());int indexOf = saveKey.indexOf(prefixKey);if (indexOf > 0) {saveKey = saveKey.substring(indexOf);}}return (saveKey.getBytes() == null ? null : saveKey);}@Overridepublic byte[] serialize(@Nullable String key) {if (prefix.getEnable() != null && prefix.getEnable()) {key = spliceKey(prefix.getKey()) + key;}return (key == null ? null : key.getBytes(charset));}private String spliceKey(String prefixKey) {if (StringUtils.isNotBlank(prefixKey) && !prefixKey.endsWith(":")) {prefixKey = prefixKey + "::";}return prefixKey;}
}

使用效果:为了避免再次发生这种工作低效而又不得不做的事情,我们在开发规范中规定,新项目中 Redis 的使用必须设置此配置,前缀就设置为:项目编号。

另外,一个模块中的 Key 必须统一定义在二方库的 RedisKeyConstant 类中。

配置如下:

spring: redis: prefix:enable: truekey: E00P01
@Bean
public RedisTemplate<String, Object> redisTemplate(RedisConnectionFactory redisConnectionFactory) {RedisTemplate<String, Object> redisTemplate = new RedisTemplate<>();redisTemplate.setConnectionFactory(redisConnectionFactory);// 支持key前缀设置的key SerializerredisTemplate.setKeySerializer(new PrefixStringKeySerializer());redisTemplate.setValueSerializer(new GenericJackson2JsonRedisSerializer());return redisTemplate;
}

通过以上方式,我们至少可以从项目维度来区分出 Key,避免了多个项目之间共用同一个集群时而导致重复 Key 的问题。

从项目维度对 Key 进行了划分。更方便管理和运维。如果对于 Key 的管理粒度要求更细,我们甚至可以细化到具体业务维度。

我们在测试环境进行了压测,增加 Key 前缀对 Redis 性能几乎没有影响。性能方面能接受。

总结

通过本次事情,我发现对于大多数开发者而言,差距其实不在于智力,而是在于态度。

比如这次事件暴露出来的问题:大家都知道要遵循开发规范,然而到了真正“打仗”的时候,负责这个项目的开发者却没有几个人能始终如一的做好这些细微之事。

另外,Reviewer 的工作其实是极其重要的,他就像那“纪检委”,如果“纪检委”都放水睁一只眼闭一只眼,那麻烦可就大了!千里之提,毁于日常的点滴松懈啊!

经过这次事件之后,如果上天再给一次这样的机会,我一定会对项目经理说:接着奏乐,接着舞!

作者:浪漫先生 && 51cto技术栈整理

出处:https://juejin.im/post/5f18423fe51d453493113f5c

特别推荐一个分享架构+算法的优质内容,还没关注的小伙伴,可以长按关注一下:

长按订阅更多精彩▼如有收获,点个在看,诚挚感谢

熬了一个通宵,终于把7千万个Key删完了相关推荐

  1. 熬了一个通宵,终于把 7 千万个 Key 删完了

    点击上方蓝色"方志朋",选择"设为星标" 回复"666"获取独家整理的学习资料! 作者:浪漫先生 来源:juejin.im/post/5f1 ...

  2. redis 中一个字段 修改map_CTO 指名点姓让我带头冲锋,熬了一个通宵,终于把Redis中7千万个Key删完了...

    由于有一条业务线不理想,高层决定下架业务.对于我们技术团队而言,其对应的所有服务器资源和其他相关资源都要释放. 释放了 8 台应用服务器:1 台 ES 服务器:删除分布式定时任务中心相关的业务任务:备 ...

  3. 终于把Redis中7千万个Key删完了

    由于有一条业务线不理想,高层决定下架业务.对于我们技术团队而言,其对应的所有服务器资源和其他相关资源都要释放. 释放了 8 台应用服务器:1 台 ES 服务器:删除分布式定时任务中心相关的业务任务:备 ...

  4. redis通过key模糊搜索_Redis—熬了一个通宵,终于把Key删完了!

    前言 由于有一条业务线不理想,高层决定下架业务.对于我们技术团队而言,其对应的所有服务器资源和其他相关资源都要释放.释放了8台应用服务器:1台es服务器:删除分布式定时任务中心相关的业务任务:备份并删 ...

  5. 熬了一个通宵,终于解决了所有的事情,下线,睡觉

    熬了一个通宵,终于解决了所有的事情,下线,睡觉 现在时间2009年12月30日4:56:55. 完成移动邮件初步内容.打包上传,更新到SVN 完成网络工程分享网站(http://www.the520. ...

  6. 因 Redis Key 命令不规范,导致熬了一个通宵才把Key删完了!

    来源:http://dwz.date/cmSG 前言 由于有一条业务线不理想,高层决定下架业务.对于我们技术团队而言,其对应的所有服务器资源和其他相关资源都要释放.释放了8台应用服务器: 1台es服务 ...

  7. cad在线转换_手绘稿画好后我熬了一个通宵描图,结果组长给我说可以一键生成CAD!...

    --文末获取:图片转CAD工具-- 平面图作为设计方案里最重要的图纸之一,也是众多设计师最头疼的事.不仅是设计上的问题,就绘制平面图本身这个过程就是相当熬人的一件事! 首先你需要手绘线稿,然后再导入C ...

  8. 王垠博客 linux,前段时间花了一个通宵把王垠(Yin Wang)博客的所有文章看完了...

    前段时间花了一个通宵把王垠的博客看完了,觉得还是受益匪浅的,所以也给大家谈谈感想. 首先说起王垠这个人嘛,最早了解他的是因为他那篇神一般的传教洗脑文章<完全用Linux工作>,虽然后来被喷 ...

  9. 阿里P8熬了一个月肝出这份32W字Java面试手册,Github标星31K+,持续涨星中

    2022年的互联网行业竞争越来越严峻,面试也是越来越难,一直以来我都想整理一套完美的面试宝典,奈何难抽出时间,这套1000+道的Java面试手册我整理了整整1个月,上传到Git上目前star数达到了3 ...

最新文章

  1. core java 9 代码_Java Core 学习笔记——3.char/Unicode/代码点/代码单元
  2. 这里有一张中国的数字化地图,请查收
  3. Invalid argument(s) 'pool_size' sent to create_engine(), using configuration
  4. 今日头条算法原理(全文)【转】
  5. 笔记-信息系统开发基础-uml-uml类图关系
  6. java课程总结_java课程总结报告.doc
  7. Linux CENTOS6.5 图形命令互转
  8. 云南计算机专升本数据结构_怎么查找云南省2019年专升本计算机专业试题
  9. 变量在内存中的值[c][code]
  10. org.hibernate.MappingException: Could not determine type for: java.util.List, at table: user, for...
  11. 企业该怎样选择物联网卡平台,需要遵循哪些标准?
  12. 动态时间规整算法(DTW)通俗易懂
  13. [引]VS2005帮助文档 : 加密 概述
  14. python提取停用词_python文本处理 数据挖掘 停用词检索
  15. Windows下有关(下载与播放)软件
  16. 支付宝,微信付款码正则表达式
  17. 必应搜索 - 显示历史记录
  18. VuePress + GitHub Pages 生成静态网站
  19. 给Android虚拟机AVD加一个虚拟内存卡
  20. TCP Socket与TCP 连接

热门文章

  1. 大学生学单片机怎么入门?
  2. 关于学习Python的一点学习总结(16->popitem()->sedefault()->update()->values())
  3. python log文件_Python logging基本使用
  4. html中引入ifrim视频,Making Of Rallypoint - Outer Rim
  5. Linux进程突然挂死,当主进程突然死亡时,我该如何杀死linux spawnProcess?
  6. linux expect日期加减,如何“输出”出命令“日期”? (linux/expect/sftp)
  7. 信噪比与错误指数matlab,关于信噪比不符合理论值的问题
  8. 如何在python中创建列表副本,在Python中切片列表而不生成副本
  9. win7 php mysql扩展名_Win7 iis php mysql 开发环境配置(详细)
  10. Linux命令CURL用法