Hive环境搭建(完整版)-配置
2024-06-11 18:11:01
Hive部署：
前提：
在安装Hive之前，要求先预装：
- 安装JDK 8
- 安装Hadoop-2.7.7
- 安装MySQL 5.6.x
！！！我这里主节点叫chun1，根据自己的进行修改
一、安装
1. 下载hive，并解压缩到用户主目录下：
tar -xzvf apache-hive-2.3.6-bin.tar.gz
改名：
mv apache-hive-2.3.6-bin hive
2. 设置环境变量：
sudo vim /etc/profile
在文件的最后，添加如下两句：
export HIVE_HOME=/usr/local/hive
export PATH=$HIVE_HOME/bin:$PATH然后执行：
source /etc/profile
二、配置管理
首先进入conf目录把所有带template后缀的文件移除后缀。
其中hive-default.xml移除后缀后，需要修改名为hive-site.xml。
1. 可通过以下方法对Hive进行配置：
1.1 修改hive-env.sh
cp hive-env.sh.template hive-env.sh
因为Hive使用了 Hadoop, 需要在 hive-env.sh 文件中指定 Hadoop 安装路径：vim hive-env.sh在打开的配置文件中，添加如下几行：export JAVA_HOME=/usr/local/hadoop/jdk1.8.0_221
export HADOOP_HOME=/usr/local/hadoop/hadoop-2.7.7
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
export HIVE_HOME=/usr/local/hive
export HIVE_CONF_DIR=$HIVE_HOME/conf
export HIVE_AUX_JARS_PATH=$HIVE_HOME/lib
1.2 修改hive-log4j2.properties，配置hive的log
cp hive-log4j2.properties.template hive-log4j2.propertiesvim conf/hive-log4j2.properties 配置下面的参数(如果没有logs目录，在hive根目录下创建它)：property.hive.log.dir=/usr/local/hive/logs
1.3 在/usr/local/hive-2.1.5/下新建一个tmp目录，在tmp/下新建一个hive目录。
cd /usr/local/hive
mkdir tmp
mkdir tmp/hive
1.4 修改hive-site.xml
cp hive-default.xml.template hive-site.xml将hive-site.xml文件中：凡是${system:java.io.tmpdir}都替换成:/home/hduser/hive/tmp凡是${system:user.name}都替换为chun1 //你的主节点名
2) hive-site.xml 中配置 MySQL 数据库连接信息：
下面的配置信息只把需要改的写出来了，vim命令行模式下输入/+内容进行搜索对应的name，将value做修改
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration><!-- 设置下面这些属性 --><property><name>hive.exec.scratchdir</name><value>/tmp/hive</value></property><property><name>hive.exec.local.scratchdir</name><value>/usr/local/hive/tmp/hive</value><description>Local scratch space for Hive jobs</description></property><property><name>hive.downloaded.resources.dir</name><value>/usr/local/hive/tmp/${hive.session.id}_resources</value><description>Temporary local directory for added resources in the remote file system.</description></property><property><name>hive.querylog.location</name><value>/usr/local/hive/tmp/hive</value><description>Location of Hive run time structured log file</description></property> <property><name>hive.aux.jars.path</name><value>/usr/local/hive/lib,/usr/local/hive/jdbc</value><description>These JAR file are available to all users for all jobs。</description></property><property><name>hive.metastore.warehouse.dir</name><value>hdfs://chun1:9000/user/hive/warehouse</value><description>相对于fs.default.name有关的目录，管理表存储的位置</description></property><!--配置Hive Metastore--><property><name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://chun1:3306/hive?createDatabaseIfNotExist=true&characterEncoding=UTF-8</value></property><property><name>javax.jdo.option.ConnectionDriverName</name><value>com.mysql.jdbc.Driver</value> //有些高版本的驱动需要在改成com.mysql.cj.jdbc.Driver</property><property><name>javax.jdo.option.ConnectionUserName</name><value>root</value></property><property><name>javax.jdo.option.ConnectionPassword</name><value>123</value> //这里是你mysql的密码</property> <!--配置hiveserver2主机(这里最好是配置ip地址，以便于从Windows连接)--><property><name>hive.server2.thrift.bind.host</name><value>chun1</value><description>Bind host on which to run the HiveServer2 Thrift service.</description></property><!--配置beeline远程客户端连接时的用户名和密码。这个用户名要在对应的hadoop的配置文件core-site.xml中也配置--> <property><name>hive.server2.thrift.client.user</name><value>chun1</value><description>Username to use against thrift client. default is 'anonymous'</description></property><property><name>hive.server2.thrift.client.password</name><value>123</value> //这里是你主机用户的密码<description>Password to use against thrift client. default is 'anonymous'</description></property> <!-- 配置下面两个属性，可以配置 hive 2.x web ui --><property><name>hive.server2.webui.host</name><value>chun1</value></property><!-- 重启HiveServer2，访问http://172.16.212.17:10002/ -->
</configuration>
1.4 配置Hive Metastore
默认情况下, Hive的元数据保存在了内嵌的derby数据库里, 但一般情况下生产环境使用MySQL来存放Hive元数据。
将 mysql-connector-java-x.x.x.jar 放入 $HIVE_HOME/lib 下。（mysql jdbc驱动程序）
！！！！这里注意mysql版本一定要比mysql-connector-java-x.x.x.jar版本低，要不然会报错，他是向下兼容！（这里很重要，当时我在这卡了很久，当你有问题的时候可以看看是不是这个问题）
四、运行
1. 运行Hive CLI:
在命令行运行hive命令时必须保证HDFS已经启动。可以使用start-dfs.sh来启动HDFS。
(特别说明：从 Hive 2.1 版本开始, 在第一次运行hive之前，需要先运行schematool命令来执行初始化操作。)
1。// 如果是使用MySQL数据库：
// 先启动mysql服务器：执行
systemctl enable mysqld.service
// 执行初始化操作
schematool -initSchema -dbType mysql
执行成功后，可以查看MySQL中元数据库hive是否已经创建成功。
2.// 如果是使用derby数据库：
schematool -initSchema -dbType derby
// 进入hive命令行：
hive
（或hive --service metastore &）
// 使用 show tables 来显示所有的表:
hive> show tables;// 退出hive
hive> quit;
创建个数据库然后创建表
hive> drop table chun;
OK
Time taken: 1.125 seconds
hive> create database chun;
OK
Time taken: 0.099 seconds
hive> use chun;
OK
Time taken: 0.024 seconds
下面进入HDFS 的web端来查看一下Hive的仓库
在浏览器输入：192.168.228.138:50070可以看到刚才创建的表
Hive环境搭建(完整版)-配置相关推荐
- 【重磅推荐】Win7+Appium+ Android-SDK+逍遥模拟器【兼容其他模拟器】环境搭建完整版
完整环境搭建视频课程[腾讯课堂]:https://ke.qq.com/course/3418559?taid=10984662330780095 Android SDK的安装与环境变量配置:https ...
- Hadoop基础环境搭建完整版
Hadoop基础环境搭建(转载尚硅谷) 说明 个人学习记录 基于虚拟机搭建,需要提前准备虚拟机环境 搭建版本:hadoop-3.1.3 搭建HDFS和yarn 提前准备Hadoop安装包:hadoop ...
- win10 64bit 深度学习环境搭建完整版
前言 文件准备 开始安装 1.安装 Visual Studio 2013 Community 2.安装 DXSDK_Jun10 3.安装 CUDA 8.0 3.安装 cuDNN v6.0 4.安装 A ...
- SharePoint2013开发环境搭建(完整版：图文并茂)
windows 8 系统下安装SharePoint 2013 开发环境 配置windows8 系统 12G内存包含虚拟机(windows server2012 系统 1.5G AD服务器),(wind ...
- Appium环境搭建-完整版
环境依赖 Node.js Appium Appium-desktop Appium-doctor Appium-Python-Client Python JDK Andriod SDK 以上所需的软件 ...
- flutter环境搭建-完整版
1.下载 flutter 安装包 https://storage.flutter-io.cn/flutter_infra/releases/stable/macos/flutter_macos_2.2 ...
- Hadoop+hive+flask+echarts大数据可视化项目之hive环境搭建与系统数据的分析思路
Hadoop+hive+flask+echarts大数据可视化项目(四) --------------hive环境搭建与系统数据的分析思路---------------- 关注过Hadoop+hive ...
- Mac上Hive环境搭建
本文介绍在Mac上搭建Hive环境. 建议首先配置好Hadoop,搭建与配置可以参考我之前的博文Mac Hadoop的安装与配置. 当然你也可以选择使用Docker搭建环境,本文不作介绍. 安装 对于 ...
- Hive环境搭建--轻量级安装so easy！
Hive环境搭建 一.准备工作 1.安装包下载 2.虚拟机需先安装好hadoop 3.安装mysql 二.安装hive 三.配置环境变量 1.配置环境变量 2.修改hive配置文件 四.启动hive ...
最新文章
- python在财务上的应用-python 与财务
- javascript 操作日期 测试(注意浏览器兼容问题）
- 【B站视频笔记】linux 进程间通信（ipc）信号（软中断信号）signal库函数、可靠信号和不可靠信号、信号集sigprocmask（信号掩码、信号递达Delivery、信号未决Pending）
- python将对象放入列表_将所有python-rom对象放入列表
- 设置导出目录oracle11g,Oracle11g不同目录的冷备份解决方案
- Autolayout代码实现举例-02-使用VFL
- 「前端早读君008」新手必踩坑之display: inline-block
- 从命令行安装IIS 7.0
- 绿盟科技网络安全威胁周报2017.02 请关注Microsoft Edge远程权限提升漏洞 CVE-2017-0002...
- 谈谈外贸自建站收款方式及优缺点有哪些？
- 【DM】Combating Web Spam with TrustRank - 用TrustRank对抗网络垃圾邮件
- 计算机键盘重复,win7系统电脑键盘打字时总是出现重复字符的解决方法
- 数据资产目录建设之数据分类全解（上）
- 人活到极致，一定是素与简
- python中setattr()，getattr(),hasattr()函数的使用
- 集成友盟的意见反馈功能
- 服务器10GE网卡识别失败
- 19考研报名系统今日关闭！记得检查！研招现场确认最全提醒
- 已知铁的密度是7.86g/cm3,从键盘输入铁球的直径(单位:cm)，计算出铁球的表面积和质量，并输出（保留两位小数)（使用标准库math模块得到pi的值)。...
- 互联网晚报 |10/27 星期四 | 段永平六次加仓腾讯；美团开始招聘香港业务人员；海南将面向全国发放5300万元旅游消费券...
热门文章
- NodeJS 学习记录
- LPC1768的SPI通讯
- vs2010 sp1 安装 Silverlight4_Tools 提示 错误 解决办法
- set row count
- [hackinglab][CTF][脚本关][2020] hackinglab 脚本关 writeup
- 【数据结构与算法】【算法思想】【推荐系统】向量空间
- [密码学基础][每个信息安全博士生应该知道的52件事][Bristol Cryptography][第9篇]香农对熵和信息的定义是什么?
- linux 识别文件类型,技术|Linux 中 7 个判断文件系统类型的方法
- 怎么实现hover_web前端CSS实现一个粒子动效的按钮
- Android实现圆角照片和圆形照片