大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语—不温不火,本意是希望自己性情温和。作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限,博客中难免会有一些错误出现,有纰漏之处恳请各位大佬不吝赐教!暂时只有csdn这一个平台,博客主页:https://buwenbuhuo.blog.csdn.net/

  此篇为大家带来的是Kylin的简单介绍及安装部署。

安装所需要的文件博主已经上传到百度云了,如有需要可自行下载
链接:https://pan.baidu.com/s/1ZAQ1Uns1H4Ph1NTXQU9ZiQ
提取码:nunu

目录

  • 一. Kylin的简单介绍
    • 1. Kylin定义
    • 2. Kylin架构
    • 3. Kylin特点
  • 二. 安装部署Kylin(下面的所有步骤所有虚拟机均需操作)
  • 三. 安装时可能会遇见的坑

一. Kylin的简单介绍

1. Kylin定义

  Apache Kylin是一个开源的分布式分析引擎,提供Hadoop/Spark之上的SQL查询接口及多维分析(OLAP)能力以支持超大规模数据,最初由eBay开发并贡献至开源社区。它能在亚秒内查询巨大的Hive表。

2. Kylin架构

  • 1.REST Server

  REST Server是一套面向应用程序开发的入口点,旨在实现针对Kylin平台的应用开发工作。 此类应用程序可以提供查询、获取结果、触发cube构建任务、获取元数据以及获取用户权限等等。另外可以通过Restful接口实现SQL查询。

  • 2.查询引擎(Query Engine)

  当cube准备就绪后,查询引擎就能够获取并解析用户查询。它随后会与系统中的其它组件进行交互,从而向用户返回对应的结果。

  • 3.路由器(Routing)

  在最初设计时曾考虑过将Kylin不能执行的查询引导去Hive中继续执行,但在实践后发现Hive与Kylin的速度差异过大,导致用户无法对查询的速度有一致的期望,很可能大多数查询几秒内就返回结果了,而有些查询则要等几分钟到几十分钟,因此体验非常糟糕。最后这个路由功能在发行版中默认关闭。

  • 4.元数据管理工具(Metadata)

  Kylin是一款元数据驱动型应用程序。元数据管理工具是一大关键性组件,用于对保存在Kylin当中的所有元数据进行管理,其中包括最为重要的cube元数据。其它全部组件的正常运作都需以元数据管理工具为基础。 Kylin的元数据存储在hbase中。

  • 5.任务引擎(Cube Build Engine)

  这套引擎的设计目的在于处理所有离线任务,其中包括shell脚本、Java API以及Map Reduce任务等等。任务引擎对Kylin当中的全部任务加以管理与协调,从而确保每一项任务都能得到切实执行并解决其间出现的故障。

3. Kylin特点

  Kylin的主要特点包括支持SQL接口、支持超大规模数据集、亚秒级响应、可伸缩性、高吞吐率、BI工具集成等。
  1.标准SQL接口:Kylin是以标准的SQL作为对外服务的接口。
  2.支持超大数据集:Kylin对于大数据的支撑能力可能是目前所有技术中最为领先的。早在2015年eBay的生产环境中就能支持百亿记录的秒级查询,之后在移动的应用场景中又有了千亿记录秒级查询的案例。
  3.亚秒级响应:Kylin拥有优异的查询相应速度,这点得益于预计算,很多复杂的计算,比如连接、聚合,在离线的预计算过程中就已经完成,这大大降低了查询时刻所需的计算量,提高了响应速度。
  可伸缩性和高吞吐率:单节点Kylin可实现每秒70个查询,还可以搭建Kylin的集群。
  4.BI工具集成
  Kylin可以与现有的BI工具集成,具体包括如下内容。
  ODBC:与Tableau、Excel、PowerBI等工具集成
  JDBC:与Saiku、BIRT等Java工具集成
  RestAPI:与JavaScript、Web网页集成
  Kylin开发团队还贡献了Zepplin的插件,也可以使用Zepplin来访问Kylin服务。

二. 安装部署Kylin(下面的所有步骤所有虚拟机均需操作)

  • 1.将apache-kylin-2.5.1-bin-hbase1x.tar.gz上传到Linux
  • 2. 解压apache-kylin-2.5.1-bin-hbase1x.tar.gz到/opt/module
[bigdata@hadoop002 kylin]$ tar -zxvf apache-kylin-2.5.1-bin-hbase1x.tar.gz -C /opt/module/// 注意:需要在/etc/profile文件中配置HADOOP_HOME,HIVE_HOME,HBASE_HOME并source使其生效。
[bigdata@hadoop003 software]$ sudo vim /etc/profile
#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_144
export PATH=$PATH:$JAVA_HOME/bin#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-2.7.2
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin#KAFKA_HOME
export KAFKA_HOME=/opt/module/kafka
export PATH=$PATH:$KAFKA_HOME/bin#HBASE_HOME
export HBASE_HOME=/opt/module/hbase
export PATH=$PATH:$HBASE_HOME/bin#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/binexport KYLIN_HOME=/opt/module/kylin
export PATH=$PATH:$KYLIN_HOME/bin// 使刚才的配置立即生效
[bigdata@hadoop002 kylin]$ source /etc/profile
  • 3. 修改文件名
[bigdata@hadoop002 module]$ mv apache-kylin-2.5.1-bin-hbase1x kylin
  • 4. 修改配置文件
[bigdata@hadoop002 conf]$ vim kylin.properties

  • 5. 启动Kylin
// 启动Kylin前要保证HDFS,YARN,ZK,HBASE相关进程是正常运行的
[bigdata@hadoop002 kylin]$ start-dfs.sh
[bigdata@hadoop003 software]$ start-yarn.sh
[bigdata@hadoop002 zookeeper-3.4.10]$ bin/start-allzk.sh
[bigdata@hadoop002 hbase]$ bin/start-hbase.sh
[bigdata@hadoop002 kylin]$ mr-jobhistory-daemon.sh start historyserver// 启动Kylin
[bigdata@hadoop002 kylin]$ bin/kylin.sh start// 结束Kylin
[bigdata@hadoop002 kylin]$ bin/kylin.sh stop

  • 6. web端查看
    http://hadoop002:7070/kylin

用户名为:ADMIN,密码为:KYLIN(系统已填)


三. 安装时可能会遇见的坑

  • 1. 遇到错误


  文字错误:

2020-05-20 18:31:39,675 DEBUG [main] hbase.HBaseConnection:180 : Using the working dir FS for HBase: hdfs://hadoop002:9000
2020-05-20 18:31:39,735 INFO  [main] imps.CuratorFrameworkImpl:224 : Starting
2020-05-20 18:31:39,738 INFO  [main] zookeeper.ZooKeeper:438 : Initiating client connection, connectString=hadoop002:2181:2181,hadoop003:2181:2181,hadoop004:2181:2181 sessionTimeout=120000 watcher=org.apache.curator.ConnectionState@10c8f62
2020-05-20 18:31:39,770 ERROR [main] imps.CuratorFrameworkImpl:546 : Background exception was not retry-able or retry gave up
java.net.UnknownHostException: hadoop002:2181: 未知的名称或服务at java.net.Inet6AddressImpl.lookupAllHostAddr(Native Method)
  • 2. 解决方法
// 修改hbase-site.xml 然后重启hbase和Kylin即可解决
<property><name>hbase.zookeeper.property.clientPort</name><value>2181</value></property><property><name>hbase.zookeeper.quorum</name><value>master,slave1,slave2,slave3</value></property>

  本次的分享就到这里了,


  好书不厌读百回,熟读课思子自知。而我想要成为全场最靓的仔,就必须坚持通过学习来获取更多知识,用知识改变命运,用博客见证成长,用行动证明我在努力。
  如果我的博客对你有帮助、如果你喜欢我的博客内容,请“点赞” “评论”“收藏”一键三连哦!听说点赞的人运气不会太差,每一天都会元气满满呦!如果实在要白嫖的话,那祝你开心每一天,欢迎常来我博客看看。
  码字不易,大家的支持就是我坚持下去的动力。点赞后不要忘了关注我哦!


Kylin快速入门系列(1) | Kylin的简单介绍及安装部署相关推荐

  1. Kylin快速入门系列(2) | Kylin的快速入门

      大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语-不温不火,本意是希望自己性情温和.作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己 ...

  2. elasticsearch从入门到入门系列(一)---简单介绍及安装

    1.什么是搜索引擎 全⽂文搜索引擎是⽬目前⼴广泛应⽤用的主流搜索引擎.它的⼯工作原理理是计算机索引程序通过扫描⽂文章中的每⼀一个词,对每⼀一个词建⽴立⼀一个索引,指明该词在⽂文章中出现的次数和位置,当 ...

  3. Ansible简单介绍及安装部署详解

    ansible简单介绍 ansible是新出现的自动化运维工具,基于Python开发,集合了众多运维工具(puppet.cfengine.chef.func.fabric)的优点,实现了批量系统配置. ...

  4. Kylin快速入门系列(6) | 如何通过Zepplin来访问Kylin服务

      大家好,我是不温卜火,是一名计算机学院大数据专业大二的学生,昵称来源于成语-不温不火,本意是希望自己性情温和.作为一名互联网行业的小白,博主写博客一方面是为了记录自己的学习过程,另一方面是总结自己 ...

  5. c# wpf listbox 高度_WPF快速入门系列(1)——WPF布局概览

    一.引言 关于WPF早在一年前就已经看过<深入浅出WPF>这本书,当时看完之后由于没有做笔记,以至于我现在又重新捡起来并记录下学习的过程,本系列将是一个WPF快速入门系列,主要介绍WPF中 ...

  6. WPF快速入门系列(6)——WPF资源和样式

    WPF快速入门系列(6)--WPF资源和样式 一.引言 WPF资源系统可以用来保存一些公有对象和样式,从而实现重用这些对象和样式的作用.而WPF样式是重用元素的格式的重要手段,可以理解样式就如CSS一 ...

  7. python r转义_Python快速入门系列之二:还学不会我直播跪搓衣板

    Python作为一个,目前最火的编程语言之一,已经渗透到了各行各业.它易学好懂,拥有着丰富的库,功能齐全.人生苦短,就用Python. 这个快速入门系列分为六篇,包含了Python大部分基础知识,每篇 ...

  8. NumPy 快速入门系列:应用统计学基础概念、相关统计指标与NumPy的实现

    NumPy 快速入门系列:应用统计学基础概念.相关统计指标与NumPy的实现 前言: 统计学导论: 统计学定义: 统计学分类: 统计学基本概念: 统计过程: 统计指标与NumPy: 用 Python ...

  9. RHEL8.0快速入门系列笔记--理论知识储备(一)

    RHEL8.0快速入门系列笔记–理论知识储备(一) 红帽公司发布Linux8.0系统已经有一段时间,最近准备学习关于RHEL8.0的相关新特性.根据官方介绍:RHEL8.0在云/容器化工作负载方面做了 ...

最新文章

  1. R语言ggplot2可视化:ggplot2可视化使用guide_axis(check.overlap=TRUE)选项删除重叠的轴文本、跳过部分中间轴标签
  2. Linux 创建yum源和软件仓库实例
  3. jpa连接mysql报错_Spring boot jpa mysql 连接数据库SSL错误
  4. [Jarvis OJ - PWN]——[XMAN]level0
  5. 被LTRIM(RTRIM())害死了,差点
  6. 开发软件不是闭卷考试
  7. git 上传代码到码云
  8. 如何获得物体的主要方向?
  9. 【Python】Matplotlib在直方图中添加概率密度曲线和数学表达式
  10. miui android 9q,小米 9 MIUI Android Q Beta 优先体验版正式推送:轻松升级
  11. kubernetes endpoints是什么
  12. css3渐变画斜线 demo
  13. linux连接交换机软件,如何用超级终端连接交换机 - 全文
  14. 使用GoodSync备份服务器文件
  15. 修复QQ群图片不显示的方法:qq图片一直转圈圈,qq群聊天图片显示不出来
  16. windows自带桌面管理工具使用方法
  17. 佐客牛排机器人餐厅_测评全球首家机器人餐厅综合体,AI味道竟不输“大厨”?...
  18. 数字游戏 -- 寻找缺失的数字
  19. 赵雅智_名片夹(5)_Android中listview可折叠伸缩仿手风琴效果(动态)
  20. 计算机科学与技术的年崭,计算机科学与信息技术学院举行2019届毕业典礼暨表彰大会...

热门文章

  1. GeoServer + openlayers
  2. html使用表格实现网页制作
  3. Tolua++技术文档
  4. seo推广绩效考核指标是什么(新媒体运营的绩效考核指标)
  5. 超简单、超实用的统计方法——因子分析
  6. wxPython 4.2.0 发布
  7. vue+openlayers实现地图打点
  8. windows+nginx+php运行环境部署
  9. 计算机作品画图板软件四年级,四年级计算机《用画图软件画画》.doc
  10. 瑞吉外卖项目:移动端导入用户地址簿与菜品展示功能实现