大数据HBase在阿里搜索中的应用实践
HBase作为淘宝全网索引构建以及在线机器学习平台的核心存储系统，是阿里搜索基础架构的重要组成部分。本文我们将介绍HBase在阿里搜索的历史、规模，应用的场景以及在实际应用当中遇到的问题和优化。
HBase在阿里搜索的历史、规模和服务能力
历史：阿里搜索于2010年开始使用HBase，从最早到目前已经有十余个版本。目前使用的版本是在社区版本的基础上经过大量优化而成。社区版本建议不要使用1.1.2版本，有较严重的性能问题， 1.1.3以后的版本体验会好很多。
集群规模：目前，仅在阿里搜索节点数就超过3000个，最大集群超过1500个。阿里集团节点数远远超过这个数量。
服务能力：去年双十一，阿里搜索离线集群的吞吐峰值一秒钟访问超过4000万次，单机一秒钟吞吐峰值达到10万次。还有在CPU使用量超过70%的情况下，单cpu core还可支撑 8000+ QPS。
HBase在阿里搜索的角色和主要应用场景
很多初学者，对大数据的概念都是模糊不清的，大数据是什么，能做什么，学的时候，该按照什么线路去学习，学完往哪方面发展，想深入了解，想学习的同学欢迎加入大数据学习qq群：458345782，有大量干货（零基础以及进阶的经典实战）分享给大家，并且有清华大学毕业的资深大数据讲师给大家免费授课，给大家分享目前国内最完整的大数据高端实战实用学习流程体系.
角色：HBase是阿里搜索的核心存储系统，它和计算引擎紧密结合，主要服务搜索和推荐的业务。
HBase在搜索和推荐的应用流程
如上图，是HBase在搜索和推荐的应用流程。在索引构建流程中会从线上MySQL等数据库中存储的商品和用户产生的所有线上数据通过流式的方式导入到HBaes中，并提供给搜索引擎构建索引。在推荐流程中，机器学习平台Porshe会将模型和特征数据存储在HBase里，并将用户点击数据实时的存入HBase，通过在线training更新模型，提高线上推荐的准确度和效果。
应用场景一：索引构建。淘宝和天猫有各种各样的的线上数据源，这取决于淘宝有非常多不同的线上店铺和各种用户访问。
索引构建应用场景
如上图，在夜间我们会将数据从HBase批量导出，供给搜索引擎来构建全量索引。而在白天，线上商品、用户信息等都在不停的变化，这些动态的变化数据也会从线上存储实时的更新到HBase并触发增量索引构建，进而保证搜索结果的实时性。
目前，可以做到端到端的延时控制在秒级，即库存变化，产品上架等信息在服务端更新后，迅速的可在用户终端搜索到。
索引构建应用场景抽象图
如上图，整个索引构建过程可以抽象成一个持续更新的流程。如把全量和增量看做是一个Join，线上有不同的数据源且实时处于更新状态，整个过程是长期持续的过程。这里，就凸显出HBase和流式计算引擎相结合的特点。
应用场景二：机器学习。这里举一个简单的机器学习示例：用户想买一款三千元的手机，于是在淘宝按照三千元的条件筛选下来，但是没有中意的。之后 ，用户会从头搜索，这时就会利用机器学习模型把三千块钱左右的手机排在搜索结果的靠前位置，也就是用前一个搜索结果来影响后一个搜索结果的排序。
分析线上日志
如上图，分析线上日志，归结为商品和用户两个纬度，导入分布式、持久化消息队列，存放到HBase上。随线上用户的点击行为日志来产生数据更新，对应模型随之更新，进行机器学习训练，这是一个反复迭代的过程。
HBase在阿里搜索应用中遇到的问题和优化
HBase架构分层。在说问题和优化之前，先来看HBase的架构图，大致分为如下几个部分：
HBase的架构图
首先是API，一些应用程序编程接口。RPC，这里把远程过程调用协议分为客户端会发起访问与服务端来处理访问两部分。MTTR故障恢复、Replication数据复制、表处理等，这些都是分布式管理的范畴。中间Core是核心的数据处理流程部分，像写入、查询等，最底层是HDFS（分布式文件系统）。HBase在阿里搜索应用中遇到的问题和优化有很多，下面挑选近期比较重点的RPC的瓶颈和优化、异步与吞吐、GC与毛刺、IO隔离与优化、IO利用这五方面进行展开。
问题与优化一：RPC的瓶颈和优化
RPC Server线程模型
PPC服务端的实际问题是原有RpcServer线程模型效率较低，如上图，可以看到整个过程通常很快，但会由不同的线程来处理，效率非常低。基于Netty重写之后，可以更高效的复用线程，实现HBase RpcServer。使得RPC平均响应时间从0.92ms下降到0.25ms，吞吐能力提高接近2倍。
问题与优化二：异步与吞吐
RPC的客户端存在的实际问题是流式计算对于实时性的要求很高、分布式系统无法避免秒级毛刺、同步模式对毛刺敏感，吞吐存在瓶颈。优化手段就是基于netty实现non-blocking client，基于protobuf的non-blocking Stub/RpcCallback实现callback回调，当和flink集成后实测吞吐较同步模式提高2倍。
问题与优化三： GC与毛刺
如上图，这部分的实际问题是PCIe-SSD的高IO吞吐能力下，读cache的换入换出速率大幅提高、堆上的cache内存回收不及时，导致频繁的CMS gc甚至fullGC。优化手段是实现读路径E2E的offheap，使得Full和CMS gc频率降低200%以上、读吞吐提高20%以上。
如上图，是线上的一个结果，QPS之前是17.86M，优化之后是25.31M。
问题与优化四： IO隔离与优化
HBase本身对IO非常敏感，磁盘打满会造成大量毛刺。在计算存储混合部署环境下，MapReduce作业产生的shuffle数据和HBase自身Flush/Compaction这两方面都是大IO来源。
如何规避这些影响呢？利用HDFS的Heterogeneous Storage功能，对WAL(write-ahead-log)和重要业务表的HFile使用ALL_SSD策略、普通业务表的HFile使用ONE_SSD策略，保证Bulkload支持指定storage policy。同时，确保MR临时数据目录(mapreduce.cluster.local.dir)只使用SATA盘。
HBase集群IO隔离后的毛刺优化效果
对于HBase自身的IO带来的影响，采用Compaction限流、Flush限流和Per-CF flush三大手段。上图为线上效果，绿线从左到右分别是响应时间、处理时间和等待时间的p999数据，以响应时间为例，99.9%的请求不会超过250ms。
问题与优化五： IO利用
HDFS写3份副本、通用机型有12块HDD盘、SSD的IO能力远超HDD。如上图，实际问题是单WAL无法充分使用磁盘IO。
如上图，为了充分利用IO，我们可以通过合理映射对region进行分组，来实现多WAL。基于Namespace的WAL分组，支持App间IO隔离。从上线效果来看，全HDD盘下写吞吐提高20%，全SSD盘下写吞吐提高40%。线上写入平均响应延时从0.5ms下降到0.3ms。
开源&未来
为什么要拥抱开源？其一，试想如果大家做了优化都不拿出来，认为这是自己强于别人的优势，结果会怎样？如果大家把自己的优势都拿出来分享，得到的会是正向的反馈。其二， HBase的团队一般都比较小，人员流失会产生很大的损失。如把内容贡献给社区，代码的维护成本可以大大降低。开源一起做，比一个公司一个人做要好很多，所以我们要有贡献精神。
未来，一方面，阿里搜索会进一步把PPC服务端也做异步，把HBase内核用在流式计算、为HBase提供嵌入式的模式。另一方面，尝试更换HBase内核，用新的DB来替代，达到更高的性能。很多初学者，对大数据的概念都是模糊不清的，大数据是什么，能做什么，学的时候，该按照什么线路去学习，学完往哪方面发展，想深入了解，想学习的同学欢迎加入大数据学习qq群：458345782，有大量干货（零基础以及进阶的经典实战）分享给大家，并且有清华大学毕业的资深大数据讲师给大家免费授课，给大家分享目前国内最完整的大数据高端实战实用学习流程体系
大数据HBase在阿里搜索中的应用实践相关推荐
- HBase在阿里搜索中的应用实践
http://blog.51cto.com/wangxy/1952591 李钰,花名绝顶,WOTA全球架构与运维技术峰会分享嘉宾,现任阿里巴巴搜索事业部高级技术专家,HBase开源社区PMC & ...
- 【阿里云产品公测】大数据下精确快速搜索OpenSearch
2019独角兽企业重金招聘Python工程师标准>>> [阿里云产品公测]大数据下精确快速搜索OpenSearch 作者:阿里云用户小柒2012 相信做过一两个项目的人都会遇到上级要 ...
- 大数据基础课03 阿里美团这些大厂都在用什么大数据架构？
首先,我想讲一个叫庖丁解牛的故事,想必你应该听过.庖丁从开始杀牛,到他的故事被写下,操刀十九年,杀了数千头牛.也正是由于丰富的实践经验,他总结出了解杀牛的方法论:依照牛生理上的天然结构,砍入牛体筋骨相 ...
- 2021年大数据HBase（十二）：Apache Phoenix 二级索引
全网最详细的大数据HBase文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 前言 Apache Phoenix 二级索引 一.索引分类 ...
- 2021年大数据HBase（十六）：HBase的协处理器(Coprocessor)
全网最详细的大数据HBase文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 HBase的协处理器(Coprocessor) 一.起源 二 ...
- 2021年大数据HBase（十五）：HBase的Bulk Load批量加载操作
全网最详细的大数据HBase文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 HBase的Bulk Load批量加载操作 一.Bulk L ...
- 2021年大数据HBase（十四）：HBase的原理及其相关的工作机制
全网最详细的大数据HBase文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 HBase的原理及其相关的工作机制 一.HBase的flus ...
- 2021年大数据HBase（十三）：HBase读取和存储数据的流程
全网最详细的大数据HBase文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 HBase读取和存储数据的流程 一.HBase读取数据的流程 ...
- 2021年大数据HBase（十一）：Apache Phoenix的视图操作
全网最详细的大数据HBase文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 前言 Apache Phoenix的视图操作 一.应用场景 ...
最新文章
- 当谈论迭代器时，我谈些什么？
- java数组拼字符串_java数组、字符串拼接
- ng-template 和 TemplateRef.createEmbeddedView
- 迁移DirectX11到VS2015 Win10
- Haar特征与积分图—概念解析
- POJ3292 UVA11105 Semi-prime H-numbers【筛法打表】
- eclipse可视化插件
- 单元刚度矩阵 C++
- win10设置电池养护模式
- 数独解法-变形数独(第三讲：数独进阶方法（摒除）)
- 苹果与宝马和奔驰关于自动驾驶汽车的谈判告吹，退而求其次选择与大众汽车合作
- 国民技术 MCU JLink仿真调试环境配置
- python字符串前加字母u或者r区
- cad.net 属性块（二）
- starUML教程-用例图/类图
- jQuery ajax 请求 和 Submit 提交 form 表单
- python内置函数可以返回数值型序列中所有元素之和_智慧职教: Python内置函数________________用来返回数值型序列中所有元素之和。...
- CAD如何转换成高清的黑白图片？
- Modbus学习记录（3）
- Linux dos2unix命令