kylin2.1.0 + CHD5.7环境搭建
由于cloudera本身并没有集成kylin的服务,也并没有kylin的 parcel包, 所以需要我们单独配置kylin的集群环境,kylin的本身配置并不难,但是它需要依赖 HDFS,hive,hbase组件,所以在部署kylin之前,确认其相关组件是否正常安装。
软件下载
http://mirrors.hust.edu.cn/apache/kylin/apache-kylin-2.1.0/apache-kylin-2.1.0-bin-cdh57.tar.gz
1. 解压
tar -zxvf apache-kylin-2.1.0-bin-cdh57.tar.gz /opt
2. 添加环境变量(我习惯于在profile.d中设置环境变量,而不是直接编辑、etc/profile,个人感觉这种方式比较明了)
cd /etc/profile.d
touch kylin.sh
在kylin.sh中编辑一下内容
KYLIN_HOME=/opt/apache-kylin-2.1.0-bin-cdh57
HCAT_HOME=/opt/cloudera/parcels/CDH-5.11.0-1.cdh5.11.0.p0.34/lib/hive-hcatalog
PATH=$KYLIN_HOME/bin:\$PATH #把 \ 去掉
export PATH KYLIN_HOME HCAT_HOME
使环境变量生效
source /etc/profile
3. 修改kylin的配置信息
cd /opt/apache-kylin-2.1.0-bin-cdh57/conf
vim kylin.properties
修改其中的配置
kylin.job.jar=/opt/apache-kylin-2.1.0-bin-cdh57/lib/kylin-job-2.1.0.jar
kylin.job.yarn.app.rest.check.status.url=http://10.20.20.4:8088/ws/v1/cluster/apps/${job_id}?anonymous=true
kylin.rest.servers=10.20.20.4:7070,10.20.20.5:7070,10.20.20.6:7070,10.20.20.7:7070
kylin.metadata.url=kylin_metadata@hbase
kylin.server.model=query
kylin.hbase.cluster.fs=hdfs://10.20.20.4:8020
注意几点:
- http://10.20.20.4:8088 是hadoop job的URL地址
- kylin.rest.servers 指定的是kylin集群的地址,7070是默认的端口
- 如果是集群模式,则在集群中只能指定一个主机的kylin.server.model = all(job), 其他的主机必须是 query
4. 环境检查
cd ../bin
./check-env.shRetrieving hadoop conf dir…
KYLIN_HOME is set to /opt/apache-kylin-2.1.0-bin-cdh57
kylin会自动在hdfs上创建kylin的目录
5. 启动kylin
bin/kylin.sh start
6. 登录kylin
http:// ip :7070/kylin # ip可以是集群中任意一个主机的ip地址,因为集群共享一个元数据,所以不影响
默认账号:ADMIN, 密码:KYLIN
主界面如下
7.测试官方例子
ls /opt/apache-kylin-2.1.0-bin-cdh57/bin
运行这个脚本文件
./sample.sh
Sample cube is created successfully in project ‘learn_kylin’.
看到这句话表明,例子已经构建成功,工程名为learn_kylin
此时,再去kylin主界面上查看
有图中标记的model和cube即可,其他的是我自己用的。如果什么也没有出现,则按一下操作
即可完成cube和model的创建。
然后,还需要构建cube,前面做的只是定义model和cube结构,build cube才是真正的实例化。
提交build成功后,可在monitor中查看进度,build的时候和数据量,cube的维度等有关。可点击刷新按钮查看进度,
右边可现实构建的具体步骤
成功,此时,可对cube进行sql查询。
点击insight,在输入框内输入sql语句
select * from kylin_sales
提交。
完成!
在kylin部署的过程中,会遇到很多莫名的问题,现在具体的错误,我当时没记录,从以下几个方面说明以下。
1. 如果遇到用户权限问题,多半是当前没用没有操作HDFS的权限,我们先查看HDFS上kylin目录的拥有者和组
可以,看到kylin的用户是hdfs,是超级管理员,就算是root用户也没有hdfs的权限。
解决办法:
方法一,所以在进行sample.sh的过程中,先登录到hdfs用户下,再进行操作
su hdfs
方法二, 把kylin目录的权限改为777
hdfs fs -chmod R 777 /kylin
2. 遇到报错时,先去查看日志文件,
cd /opt/apache-kylin-2.1.0-bin-cdh57/log
cat kylin.log
kylin2.1.0 + CHD5.7环境搭建相关推荐
- Linux 0.11 实验环境搭建与调试
缘起 之前我写过一篇博文:Linux 0.11 实验环境搭建 本以为有了这个环境(gcc-3.4 & gdb-6.8),就可以调试无忧了.谁知遇到了以下问题: (1)用 gdb 调试 main ...
- spark-1.2.0 集群环境搭建
1.下载scala2.11.4版本 下载地址为:http://www.scala-lang.org/download/2.11.4.html ,也可以使用wget http://downloads.t ...
- Hadoop2.2.0伪分布式环境搭建(附:64位下编译Hadoop-2.2.0过程)
Hadoop2.2.0伪分布式环境搭建: 写在前面:Hadoop2.2.0默认是支持32位的OS,如果想要在64位OS下运行的话,可以通过在64位OS下面编译Hadoop2.2.0来实现,编译的操作步 ...
- 2W 字详解 Redis 6.0 集群环境搭建实践
原文链接:https://www.cnblogs.com/hueyxu/p/13884800.html 本文是Redis集群学习的实践总结(基于Redis 6.0+),详细介绍逐步搭建Redis集群环 ...
- Linux 0.11 实验环境搭建
如果想学习Linux 0.11,实验环境是必不可少的.最好是能编译,能运行,能调试. 如今大家都是用64位的Linux操作系统,而且是高版本的GCC(4.0以上),所以环境搭建是个难题.要么就是编译后 ...
- EOSIO:EOSIO最新版1.4.0 钱包开发环境搭建
EOSIO最新版1.4.0 开发环境钱包的搭建 前言 EOSIO1.4.0在2018年10月17日发布,相应的开发文档也于今天2018年10月29日在官网上线.在上周,博主 被领导要求开始看EOS合约 ...
- 微信公众平台开发之基于百度 BAE3.0 的开发环境搭建(MyEclipse + SVN)
转载请标明出处,谢谢! 版本说明: V1: 2014-3-30 版 前言: 因为要进行微信开发,就必须要成为微信开发者,要想成为微信开发者,就必须要有服务器响应微信的 To ...
- JavaApp自动化测试系列[v1.0.0][Appium开发环境搭建]
Appium 是一个开源工具,用于自动化 iOS 手机. Android 手机和 Windows 桌面平台上的原生.移动 Web 和混合应用.「原生应用」指那些用 iOS. Android 或者 Wi ...
- win10+1050ti+CUDA9.0+cudnn9.0的tensorflow-gpu环境搭建
原创文章,转载请注明本地址 由于前段时间在学tensorflow框架,一直没有仔细考虑如何整理学习的内容,现在打算开始系统的整理tensorflow的学习笔记,那就从环境搭建开始把,现从win10环境 ...
- marbles 4.0.0版本 Windows7 环境搭建
国内网站关于marbles运行环境搭建的相关文档很少,所以分享如下经验希望可以帮到更多的人. 正常流程根据官方文档安装即可,下面是官方文档没有明确说要安装的东西: 1.Python 2.7.3 我观察 ...
最新文章
- 深入php内核,从底层c语言剖析php实现原理
- python遍历文件目录_python遍历文件夹及其子目录
- Java 求阴历(C++ 求阴历方法的转换)
- Android 之自定义表情
- element-ui el-dialog 的form 表单验证关闭时清除错误验证信息
- PS图片素描化(画)
- 用单片机的RAM虚拟U盘(文件系统:Fat16)
- bat 使用 7z 压缩文件夹
- Android判断有无外置SD卡(TF卡),并读写文件
- 轴承座冲压模具设计(论文+CAD图纸+开题报告+任务书)
- poi操作excel之填充数据、删除行
- wifi设备名称android,Android设置WiFi设备名解析
- 海康威视 2021 春招面试题
- MySQL(一): 初涉MySQL
- 前后端微信小程序开发
- VisualSVN的下载与安装
- linux上u盘怎么加密,linux使用luks加密硬盘或u盘
- python 中文语音播报,用Python实现语音播报
- Vuex状态刷新状态丢失的处理方法
- 【java】序列化与反序列
热门文章
- OpenAI Whisper论文笔记
- (纪中)2162. 方格纸(square)【差分+前缀和】
- JQuery插件validate的Remote使用
- 怎么禁用计算机usb驱动程序,win7如何禁止USB自动安装驱动程序
- 软件工程期末试题及答案
- pacman 查询_Pacman 命令记录
- lighttpd使用
- 计算机科学与技术专业大学排名及录取分数,计算机科学与技术专业分数线各大学排名(湖南)...
- java exit code 137_运维:k8s pod erro exit code 137
- UG二次开发GRIP成品工具