Hive的元数据服务

之前讲了hive的元数据,它存储着hiveSQL映射和hdfs具体文件数据的对应关系。

但是元数据存在单独的mysql中 直接将它暴露给外部是不安全的,所以hive特别增加了一个元数据服务。 它作为元数据和外部客户端之间的一个中间人。

metastore有三种服务配置模式 同时也可以说这是hive的三种安装模式:

我们正常使用hive的时候 都是推荐远程模式 因为这种模式最接近我们日常的使用场景。

远程模式:


远程模式有新老两套配置。
现在都强烈用新配置了, 这里新配置由多了一个东西 叫做HS2,新手觉得很sb,本来元数据外面套一个元数据服务,现在元数据服务外面还有再套一个HS2.
只能说设计者刚开始就没想周全,所以后面新框架又加了这个组件。
所以现在我们通用的就是二代客户端,二代客户端怎么访问呢?
在 hive_home/bin/ 下面 有一个 beeline 他是一个jdbc客户端 他的性能和安全性都要比第一代优秀。


这里有个关键点要注意, beeline只能访问HS2服务 不能跳过去直接访问metastore, 所以我们在启动H2服务之前 必须先确定启动元数据服务


启动Hive服务

现在万事俱备,我们一步一步启动服务,先启动hadoop集群

start-all.sh

然后我们启动元数据服务

nohup /export/server/apache-hive-3.1.2-bin/bin/hive --service metastore &

启动完之后 打开jps 查看一下 发现多了一个runjar 这个就是metastore的后台进程

最后我们启动HS2服务:

nohup /export/server/apache-hive-3.1.2-bin/bin/hive --service hiveserver2 &

这样我们的hive服务就启动成功了!


这里又要画重点理解了, 注意 我们在集群的每天机器上 都安装了hadoop, 并且配置了主从节点。 但是hive我们并没有每天机器都安装,我们只安装第一台机器,所以从安装角度说他是单机的,但是它为什么优势分布式查询呢? 因为它的数据只存在hdfs 计算又用的是MR 所以它等于是自己是单机 但是白嫖了hdfs的集群特性。 所以它虽然只安装一台机器 但是背靠hadoop这颗大树 依然可以达到分布式的效果


理解hive的配置文件

理解配置文件是非常必要的,这个必要性就在于 从配置文件你能体会到hive的各个组合是怎么联系起来的,它是怎么和Hadoop配合的

这里主要放两个文件 其他文件就不多啰嗦了
我们找到hive目录的conf文件夹下面:

  • hive-env:


这里面配置环境相关的比如 这台机器上Hadoop的路径
比如总的配置目录指定了这个conf文件夹
比如指定了jar包的路径

  • hive-site:
    这个配置文件很重要:

    仔细读一下这个配置文件
    首先刚开始可以看到 他配置了存储元数据的mysql信息,既然远程模式元数据要单独存储mysql,那么你mysql的ip要有吧 端口要有吧 数据库名要有吧 jdbc连接驱动要有吧 用户名密码 肯定要有吧 这里都配齐全了,所以这就是为什么metastore能连接到mysql里的元数据了

然后它配置了H2运行绑定host 它绑定了node1 这台机器 作为H2服务的运行机器

然后它配置了远程模式部署metastore的地址, 你的元数据服务部署在哪台机器上? 部署在node这台机器上 它的端口号是9083.


客户端使用hive

前面一堆操作 我们已经正式启动了hive 装也装好了 配也配好了 服务也起来了,现在我们可以正式的使用它了。

然后我们启动beeline:

注意这里有个坑 启动beeline命令之后: 你需要输入具体的 hive2的url和端口,然后再输入用户名和密码
这个其实好理解 beeline 命令连接到hive2服务 h2服务再连接到metastore。 但是你连接hive2 你要告诉beeline hive服务的具体信息 它才能登进去 就像你从数据库管理软件 登入mysql一样。

*这里记一个h2服务的默认端口 10000,类似mysql是3306

然后一路下去 hive服务就算起来了!:

现在你可以输入各种基础的sql命令 来玩hive了!

Hadoop历险记(七 Hive配置和启动hiveservice2服务)相关推荐

  1. Kali Linux常用服务配置教程启动DHCP服务

    Kali Linux常用服务配置教程启动DHCP服务 通过前面的介绍,DHCP服务就配置好了.接下来,用户就可以使用该服务器来获取IP地址了.下面将对前面配置的服务进行测试. 1.启动DHCP服务 如 ...

  2. kali linux安装isc-dhcp-server,Kali Linux常用服务配置教程启动DHCP服务

    Kali Linux常用服务配置教程启动DHCP服务 通过前面的介绍,DHCP服务就配置好了.接下来,用户就可以使用该服务器来获取IP地址了.下面将对前面配置的服务进行测试. 1.启动DHCP服务 如 ...

  3. 服务器配置(未启用)修改,配置没有启动服务器服务怎么办

    配置没有启动服务器服务怎么办 内容精选 换一换 当您购买的弹性云服务器规格无法满足业务需要时,可参考本章节变更规格,升级vCPU.内存.对于部分类型的弹性云服务器,您还可以在变更规格时,更换弹性云服务 ...

  4. Dropbear 安装配置与启动ssh服务详解

    Dropbear 安装配置与启动ssh服务详解  扎啤 关注 2017.09.12 22:57* 字数 441 阅读 4160评论 0喜欢 0 一.介绍 dropbear作为一款基于ssh协议的轻量级 ...

  5. 配置PHP启动Apache服务报错

    为什么80%的码农都做不了架构师?>>>    在新的服务器(centos 6.3)编译安装完php-5.4.8,再配置好php.ini和httpd.conf后,启动apache-2 ...

  6. SQuirrel连接hive配置

    1.     简介 最近由于大数据部门相关同事离职,不得不研究一下大数据相关组件,今天成功安装配置Hive,简单记录,一是为了加深印象,二是为以后备用,三是为大家提供参考,避免少踩坑. 在Hive的官 ...

  7. 实验0-Hive配置与启动

    实验0-Hive配置与启动 实验目的 掌握Hive配置与启动的方法. 实验内容 预置环境:1.1.1 HDFS.1.1.2. zookeeper和1.1.3 yarn均正常启动. 将文件上传hdfs ...

  8. Hadoop集群环境配置搭建

    一.简单介绍 Hadoop最早诞生于Cutting于1998年左右开发的一个全文文本搜索引擎 Lucene,这个搜索引擎在2001年成为Apache基金会的一个子项目,也是 ElasticSearch ...

  9. cdh hive配置mysql_Hive学习(CDH版Hadoop、Hive安装)

    1.CDH简介 大家认知度比较高的Hadoop项目一般指的是Apache的Hadoop,但是该项目版本比较复杂,兼容性也很差,一般没法直接用于生产.所以针对这个情况,衍生了几个比较著名的第三方版本(C ...

最新文章

  1. Emacs Org-mode学习笔记
  2. MyBatis构建sql时动态传入表名以及字段名
  3. 杀毒软件原理进阶阶段
  4. python md5加密_Python MD5加密实例详解
  5. SAP License:你是工程师还是顾问
  6. 申通回应被京东“封杀”;Kotlin 1.4.0 发布 | 极客头条
  7. navigationBar设置透明度
  8. 配置ssh免密码登录
  9. vSphere 5.5 App HA学习-1、App HA概述
  10. 【现代版】为人处世三十六计详解,真的很受益!
  11. java native 方法和修饰符
  12. 全国地区对应身份证号码值关系----身份证号前6位
  13. matlab FCM算法实现
  14. 物联网技术,主要应用在哪些领域?
  15. Excel表格限制编辑,什么原因?
  16. Unity3D模型中的SubMesh
  17. 合力亿捷云客服3.0 开启“全员客服”新时代
  18. 关于利率的c语言程序,【c语言】储蓄利息的计算
  19. 曾经连过的WiFi密码查询
  20. 如何优雅的写一篇安利文-以Sugar ORM为例

热门文章

  1. SparkSQL存储数据到Parquet:AnalysisException: Parquet data source does not support null data type.
  2. 在淘宝开放平台创建应该步骤
  3. 【进制转换】0x7FFFFFFF 是 long int 的最大值
  4. markdown添加表情包 | markdown emoji
  5. vue动态路由(权限设置)
  6. PCL Getting Start.PCL(Point Cloud Library)入门文档整理
  7. h5页面和原生app页面的区别
  8. Coravel是.NetCore中开源的工具库,可以让你使用定时任务,缓存,队列,事件,广播等高级应用程序变得轻而易举!...
  9. windows真正体验3D效果桌面
  10. 高中就开始学的正态分布,原来如此重要!