百度手机助手存储资源优化实践
导读:本文主要总结一下笔者之前做的关于业务存储资源优化的整个过程,正所谓前事不忘,后事之师,希望以文中的例子为引,能够总结出一些如何避免坑以及如何填坑的方法论。
全文19135字,预计阅读时间26分钟
一、业务介绍
为了更好的理解下面介绍的点,先对业务的一些概念进行简单介绍。
- 「百度手机助手」:百度手机助手是在Android系统上的手机应用分发平台,管理开发者上传的Android应用,经过转存等处理后将应用分发到C端。
- 「增量更新(省流量更新)」:如上面的业务框图所示,开发者将应用传到开发者平台(app.baidu.com), 为了保障下载的稳定性以及速度,助手会将开发者的应用会转存到百度内部的存储服务上,叫做BOS(Baidu Object Storage)。为了节约用户下载的流量,助手启动了增量更新的能力。增量更新是指新版相对旧版生成差异包(下文叫patch包),在更新软件时,将旧版本的包与差异包合并成为最新版本的过程。相对全量更新更省流量,降低了用户更新软件的流量成本。
二、为什么优化
在优化的时间点,整个助手的存储占用已经达到了几P的量,每年的预算费用近千万。从业务上进行数据分析,通过分析对应业务场景的mysql库,库中会记录对应应用的大小。分析后的大致数据如下:
这里面会发现应用patch包的占用非常大,同时发现存储总量-已知存储后,仍有P级别的存储是未知的。这里应用patch包的存储占用是否符合预期需要看一下。
所以,为什么优化就有了几个合理的理由:
高预算消耗
寻找存储去哪了的执著
把无用数据清理掉的强迫症
下面就展开整个清理的过程。
三、分析
优化的第一步就是分析要怎么优化,把闲置的存储找出来,然后优化它。用普通话来说就是猜。此处的闲置,可以定义为消耗的存储带来的价值不符合预期。存储的价值是什么?分几部分来说。
「应用存储」
统一转存到百度,首先安全,如果使用第三方的服务,存在被偷梁换柱的风险;其次稳定,可以自己对存储以及下载进行优化;最后可以基于内部存储做一下定制化的能力,比如动态追加数据等。应用存储在百度的价值无可替代,简单来说是钱花得值。「应用patch包」
对这部分的价值定义,在用户节省下载流量的场景下有价值,否则没有价值。即如果我们生成了patch包,占用了存储,但用户却没有升级该版本,那么就是没有价值。「不知道去哪了的存储」
当然要挖出来,看看是哪家妖怪。
有了初步的方向后,要进行更准确的确认,判断收益空间。从下面两个角度进行验证。
- 「存储占比」
整个存储的object在优化之前差不多亿+条,没有短时间内快速获取全部object的方式,采用了抽样的方法,拉取了线上30W条数据进行初步分析,下面是存储空间占用的分布
▲存储空间分布
- 「更新流量的分布」
▲更新流量分布
有了上面的数据,可以从基本面看出,省流量更新的存储消耗更大,但是实际的流量价值却很低,基于此可以确定要对省流量更新的patch包下手了。
四、优化思路
就像把大象装进冰箱一样,开门-放大象进去-关门。优化也不是上来就动手把存储清除,整个过程参考大象装冰箱的思路,分为三步:
4.1 复原全貌
正所谓 “知己知彼百战百胜”,做一件事情降低风险的第一要领,应该是把事情摸清楚。对于存在几年的老业务,如何去摸底,总结下来有几点经验。
「内部文档」
无论是技术文档还是需求文档,尽量都去看一遍,同时带着问题看,把自己代入到写文档的视角里,多思考下为什么文档是这样的,这样可以尽可能多的挖掘出一些疑问点。「代码」
核心的代码逻辑一定要过一遍,时间越长的代码,补丁可能越多,一些边界的场景都隐藏在代码的小角落。「人」
找到相关的同学 或者 不相关的同学(第三者视角),带着基于文档和代码的疑问进行沟通、询问、刨根问底,补全思维偏差。「产品」
基于产品功能进行回归,将文档和代码进行串联,形成清晰的代码地图。
最后,基于全面的信息梳理,完成基于数据流的业务流程图。整个过程有点像是
《长夜难明》的探案过程,抓住每一个线索,完成最后的拼图。
拼图1-增量更新场景的数据流
从图中,可以看到主要的存储分为三部分,「开发者应用,客户安装应用,省流量patch包」。其中patch包的生成步骤为:
获取开发者已安装应用
生成 开发者已安装的应用 和 高版本应用的patch包
拼图2-用户安装应用收集
拼图3-增量更新处理
核心的数据处理流程如下:
4.2 制定方案
由于是进行存储优化,那就主要关注梳理出的数据流程各个环节是否可以优化 以及 是否要进行优化。首先,磨刀不误砍柴工,从BOS处通过api导出全量列表,由于历史积累,共亿+条object数据。然后基于原来的增量更新策略 制定出了对应的优化策略。
在梳理方案的过程中,深感项目的评估以及持续跟进的重要性。下面举几个例子简单说明下。
最初处理的时候,为了快速解决用户的增量更新的目标,设计时对全部应用一股脑的生成增量patch包,但是并没有考虑到用户是否会进行更新的场景,也就是实际的ROI。实际上只覆盖top300更新的应用,就已经能够占比93%的更新请求,但是能够减少95%的存储占用,是非常明显的对比。
在初版的策略里并没有考虑业务特性,原始的策略是取top10版本号的包和用户手机安装的包来进行生成patch,但忽略了同一版本号下会同时存在多个包(客户为了推广,同一版本的包会生成N个渠道包上传管理),也就是1对N的场景。
原来设计的初衷可能是仅生成最高10个版本的patch就好了,实际上会放大到生成几百个包,也是非常大的存储消耗。还有原来的top10的考虑是为了由于Android SDK的一些限制,某些低端机型可能无法安装高版本应用,但随着千元机的普及,这个策略也可以成为历史了。
在处理的过程发现上文提到的未知的P级别空间,发现是原来物理机迁移,自运维的数据库未迁移,导致之前的增量包虽然占用了BOS存储,但是没有在db中发现,评估对业务没有实际用途了,最后一股脑清理掉了(非常爽)。
4.3 执行方案
这是最轻松的过程,核心要注意的是要设计好验证方式和回滚方案。此处不细说了。整个效果从高峰的P级别降到了百T级别,排除毒素,一身轻松。
五、总结
以习惯的五问法做一个回顾,总结下整个过程学习到的东西。
5.1 为什么会产生这么大量的无效存储?
程序没有清除,研发反馈产品设计并未考虑历史存量问题
5.2 谁应该考虑?
研发,个人认为产品和研发的和谐边界是,产品给出要完成的用户功能,技术给出解决方案。产品不用关心存储存多久,只需要提出用户的省流量更新需要在什么场景时效,研发基于产品功能来判断patch包是否可以归档删除。
5.3 原系统缺少什么?
文档积累 & 监控 & REVIEW。要做好文档积累,方便有一天需要对系统优化的时候能看到为什么系统是这个样子;要完善监控,做到心里有数;要定期review,同一个业务逻辑随着产品的演进有可能就会从因地制宜的设计变成历史包袱,保持开放心态,放眼过去,着眼未来。
5.4 该如何避免?
靠你的经验,同时考虑对立面。事情都有对立面,很多时候我们考虑问题都只会着眼于眼前看到的点,阳光之下必有阴影相伴,作为研发可以多思考问题的背面是什么,这样可以更全面的考虑问题,少留一些技术债。
5.5 如何做的更好?
系统永远是为产品服务的,但是研发要考虑投入产出,不仅要考虑研发的投入产出,同时要帮助产品一起考虑产品的ROI。换个角度去看问题,会发现不一样的技术方案,也许就会do better。
推荐阅读:
百度APP视频播放中的解码优化
百度爱番番实时CDP建设实践
当技术重构遇上DDD,如何实现业务、技术双赢?
接口文档自动更改?百度程序员开发效率MAX的秘诀
技术揭秘!百度搜索中台低代码的探索与实践
百度智能云实战——静态文件CDN加速
化繁为简–百度智能小程序主数据架构实战总结
---------- END ----------
百度 Geek 说
百度官方技术公众号上线啦!
技术干货 · 行业资讯 · 线上沙龙 · 行业大会
招聘信息 · 内推信息 · 技术书籍 · 百度周边
百度手机助手存储资源优化实践相关推荐
- 转:百度手机地图网络性能优化实践
http://mp.weixin.qq.com/s?__biz=MzIzNDE0NjMzOQ==&mid=406192721&idx=1&sn=bc1b32ed5960c479 ...
- android百度手机助手,百度手机助手
百度今天正式发布了安卓应用"百度手机助手",不过也并非全新开发的工具,而是之前"百度移动应用"的改名+升级版,功能从单纯的应用推荐下载,拓展到了手机优化,从而变 ...
- 百度手机助手移动游戏开发者大赛决赛圆满谢幕
2016年3月9日下午,由百度手机助手,百度移动游戏主办,麦驰威斯网络技术公司承办,Cocos.爱拍原创.DataEye和新游互联协办的"第一届百度手机助手移动游戏开发者大赛"决赛 ...
- 上架Android应用到腾讯应用包、百度手机助手、华为应用市场、小米应用商店、阿里应用分发平台需要准备哪些材料?...
前端时间用敏捷式开发平台开发了一款APP应用,应用名称我就不说啦,这篇文章主要讲述一下上架各大安卓应用商店(腾讯应用宝.阿里应用商店.百度手机助手.华为应用市场.小米应用商店)需要准备哪些材料,有相关 ...
- scrapy爬虫之爬取百度手机助手app信息并保存至mongodb数据库(附源码)
声明: 本文内容仅供学习python爬虫的同学用作学习参考!!! 如有错误,请评论指出,非常感谢!!! 1.使用环境 python 3.8 scrapy 2.5 mongodb pycharm ...
- 【APICloud系列|18】上架Android应用到腾讯应用包、百度手机助手、华为应用市场、小米应用商店、阿里应用分发平台需要准备哪些材料?
前端时间用敏捷式开发平台开发了一款APP应用,应用名称我就不说啦,这篇文章主要讲述一下上架各大安卓应用商店(腾讯应用宝.阿里应用商店.百度手机助手.华为应用市场.小米应用商店)需要准备哪些材料,有相关 ...
- 仿百度手机助手标题栏透明度随ListView或ScrollView滚动改变的实现方法
有时做项目遇到ListView或ScrollView上方加图片和标题栏布局,在滚动时要求改变标题栏的透明度,即上滑标题栏出现,下拉标题栏变透明,类似百度手机助手6.0装机必备界面效果 要实现这种标题栏 ...
- 分析百度手机助手协议(实现app下载量上涨)
前两年搞过百度手机助手的下载协议 7.0 9.0两个版本 当时用9.0测试打了几K下载量都涨了 之后就一直丢在电脑里 今天把它发出来 很简单适合教学 下载链接 UID生成规则 搜索接口返回对应内容 f ...
- 【python 爬虫】百度手机助手爬虫
一.需求分析: 抓取百度手机助手软件应用,导出EXCEL和插入mysql.字段包括: 1. app_name:应用名称2. app_pic:应用logo3. app_score:应用评分4. app_ ...
最新文章
- 把我坑惨的一个MySQL双引号!
- Angular Service依赖注入的一个具体例子
- P3085,jzoj3234-[USACO13OPEN]阴和阳【点分治】
- 关于“幽灵架构”的补充说明5:改造控制器
- 推荐+1置顶+1(分享、讨论、实现)通用软件注册功能之建立有效的软件保护机制...
- 【registry】 javax.el.ExpressionFactory.newInstance()Ljavax/el/ExpressionFactory;
- python 基本数据类型
- Informatica使用pmrep备份存储库
- 详解Linux系统CPU的内部架构和工作原理
- 试用了5款BI分析工具,终于找到了上手最快的那一个!
- 大学生必看:基础IT技术文章300篇大合集!【包含信息/编码、IP/组网、程序逻辑、Web基础等】
- 微信王者有ios的服务器吗,王者IOS微信区国服瑶多有钱?凌晨撒4W红包,点开头像傻眼...
- 中国大学Mooc浙大翁恺老师《零基础学Java语言》编程作业
- 安卓开发之SoundPool播放音效
- 大数据系统开发综合实践(一)
- 化学系女生的工程师之路
- NPN型三极管的工作原理
- 解决浏览器滚动条导致的页面闪烁问题
- Bootstrap 轻松实现选项卡
- HarmonyOS 2.0鸿蒙应用开发者官网地址
热门文章
- 单例设计模式与final关键字
- 【乘风伯乐奖】寻找百位乘风者伯乐,邀请新博主入驻即可获奖
- 湖南理工学院计算机老师信息,张登奇(计算机与信息工程系)老师 - 湖南理工学院 - 院校大全...
- SimpleQQ – WebQQ 桌面端 基于WebQQ 1.00内核
- 数据文件丢失找那个数据恢复公司靠谱呢
- 造价者必熟的6个工程预算成本测算思路
- 手机整屏显示数据php,JavaScript实现移动端页面按手机屏幕分辨率自动缩放示例...
- 视频去水印工具下载-视频一键去水印
- 好用免费的视频去水印工具软件,去水印微信小程序,操作简单,方便快捷,教你视频怎么水印
- 基于Java的室内停车场管理系统