JDBC 连接Hive 简单样例（开启Kerberos）

今天在移动的云平台上通过jdbc连接hive，发现云平台使用了 kerberos的认证。与宁波实验环境不同。

发现一文解决了问题，转载如下：

原文地址：http://blog.csdn.net/zengmingen/article/details/78605086

------------------------------

运用 Ambari 搭建的HDP 集群，由于开启了kerberos ，对外提供Hive数据时统一用JDBC 的方式，所以写了下面这么一个简单样例供第三方数据接入参考。

代码如下所示：

package com.bmsoft.hive.impl;import org.apache.hadoop.security.UserGroupInformation;
import java.io.IOException;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.sql.Statement;/*** 简单的jdbc连接hive实例（已开启kerberos服务)*/public class HiveSimple2 {/*** 用于连接Hive所需的一些参数设置 driverName:用于连接hive的JDBC驱动名 When connecting to* HiveServer2 with Kerberos authentication, the URL format is:* jdbc:hive2://<host>:<port>/<db>;principal=* <Server_Principal_of_HiveServer2>*/private static String driverName = "org.apache.hive.jdbc.HiveDriver";// 注意：这里的principal是固定不变的，其指的hive服务所对应的principal,而不是用户所对应的principalprivate static String url = "jdbc:hive2://bigdata40:10000/admin;principal=hive/bigdata40@BIGDATA.COM";private static String sql = "";private static ResultSet res;public static Connection get_conn() throws SQLException, ClassNotFoundException {/** 使用Hadoop安全登录 **/org.apache.hadoop.conf.Configuration conf = new org.apache.hadoop.conf.Configuration();conf.set("hadoop.security.authentication", "Kerberos");if (System.getProperty("os.name").toLowerCase().startsWith("win")) {// 默认：这里不设置的话，win默认会到 C盘下读取krb5.initSystem.setProperty("java.security.krb5.conf", "C:/Windows/krbconf/bms/krb5.ini");} // linux 会默认到 /etc/krb5.conf 中读取krb5.conf,本文笔者已将该文件放到/etc/目录下，因而这里便不用再设置了try {UserGroupInformation.setConfiguration(conf);UserGroupInformation.loginUserFromKeytab("test2/hdp39@BMSOFT.COM", "./conf/test2.keytab");} catch (IOException e1) {e1.printStackTrace();}Class.forName(driverName);Connection conn = DriverManager.getConnection(url);return conn;}/*** 查看数据库下所有的表** @param statement* @return*/public static boolean show_tables(Statement statement) {sql = "SHOW TABLES";System.out.println("Running:" + sql);try {ResultSet res = statement.executeQuery(sql);System.out.println("执行“+sql+运行结果:");while (res.next()) {System.out.println(res.getString(1));}return true;} catch (SQLException e) {e.printStackTrace();}return false;}/*** 获取表的描述信息** @param statement* @param tableName* @return*/public static boolean describ_table(Statement statement, String tableName) {sql = "DESCRIBE " + tableName;try {res = statement.executeQuery(sql);System.out.print(tableName + "描述信息:");while (res.next()) {System.out.println(res.getString(1) + "\t" + res.getString(2));}return true;} catch (SQLException e) {e.printStackTrace();}return false;}/*** 删除表** @param statement* @param tableName* @return*/public static boolean drop_table(Statement statement, String tableName) {sql = "DROP TABLE IF EXISTS " + tableName;System.out.println("Running:" + sql);try {statement.execute(sql);System.out.println(tableName + "删除成功");return true;} catch (SQLException e) {System.out.println(tableName + "删除失败");e.printStackTrace();}return false;}/*** 查看表数据** @param statement* @return*/public static boolean queryData(Statement statement, String tableName) {sql = "SELECT * FROM " + tableName + " LIMIT 20";System.out.println("Running:" + sql);try {res = statement.executeQuery(sql);System.out.println("执行“+sql+运行结果:");while (res.next()) {System.out.println(res.getString(1) + "," + res.getString(2) + "," + res.getString(3));}return true;} catch (SQLException e) {e.printStackTrace();}return false;}/*** 创建表** @param statement* @return*/public static boolean createTable(Statement statement, String tableName) {sql = "CREATE TABLE test_1m_test2 AS SELECT * FROM test_1m_test"; //  为了方便直接复制另一张表数据来创建表System.out.println("Running:" + sql);try {boolean execute = statement.execute(sql);System.out.println("执行结果 ：" + execute);return true;} catch (SQLException e) {e.printStackTrace();}return false;}public static void main(String[] args) {try {Connection conn = get_conn();Statement stmt = conn.createStatement();// 创建的表名String tableName = "test_100m";show_tables(stmt);// describ_table(stmt, tableName);/** 删除表 **/// drop_table(stmt, tableName);// show_tables(stmt);// queryData(stmt, tableName);createTable(stmt, tableName);conn.close();} catch (Exception e) {e.printStackTrace();} finally {System.out.println("!!!!!!END!!!!!!!!");}}
}

pom.xml 文件如下所示：

<dependencies><!-- https://mvnrepository.com/artifact/org.apache.hive/hive-jdbc --><dependency><groupId>org.apache.hive</groupId><artifactId>hive-jdbc</artifactId><version>1.2.1</version></dependency><!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-common --><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-common</artifactId><version>2.7.1</version></dependency><!-- https://mvnrepository.com/artifact/org.apache.hive/hive-exec --><dependency><groupId>org.apache.hive</groupId><artifactId>hive-exec</artifactId><version>1.2.1</version></dependency><!-- https://mvnrepository.com/artifact/org.apache.hive/hive-metastore --><dependency><groupId>org.apache.hive</groupId><artifactId>hive-metastore</artifactId><version>1.2.1</version></dependency><!-- https://mvnrepository.com/artifact/org.apache.hive/hive-common --><dependency><groupId>org.apache.hive</groupId><artifactId>hive-common</artifactId><version>1.2.1</version></dependency><!-- https://mvnrepository.com/artifact/org.apache.hive/hive-service --><dependency><groupId>org.apache.hive</groupId><artifactId>hive-service</artifactId><version>1.2.1</version></dependency><dependency><groupId>log4j</groupId><artifactId>log4j</artifactId><version>1.2.17</version><type>jar</type></dependency><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-client</artifactId><version>2.7.3</version></dependency>

参考文档：
https://cwiki.apache.org/confluence/display/Hive/HiveServer2+Clients

文档其中比较值得注意的一点是：

JDBC Client Setup for a Secure Cluster
When connecting to HiveServer2 with Kerberos authentication, the URL format is:
jdbc:hive2://<host>:<port>/<db>;principal=<Server_Principal_of_HiveServer2>

这里的principal是固定不变的，其指的hive服务所对应的principal,而不是用户所对应的principal; 对于这里的可以为不存在的数据库，但是如果这么做那么在查询表的时候则需要指出其所在的库（如db.tablename），否则默认会查询所对应的表。

JDBC 连接Hive 简单样例（开启Kerberos）相关推荐

NASBench101-安装及简单样例使用指南
NASBench101-安装及简单样例使用指南 github地址:https://github.com/google-research/nasbench paper原文地址:https://arxiv ...
MapReduce基础开发之九JDBC连接Hive
1.eclipse建工程,引入$HIVE_HOME/lib的包和$Hadoop_HOME/lib的包(一般核心包就可以,具体根据开发需求),导出jar包(不带第三方jar): 这里是Hive2,代码如 ...
重要性采样(Importance Sampling)简介和简单样例实现
重要性采样(Importance Sampling)简介和简单样例实现在渲染领域,重要性采样这个术语是很常见的,但它究竟是什么呢?我们首先考虑这样的一种情况: 如果场景里有一点P,我们想计算P点的最 ...
C语言单元测试之安装gtest教程及一个简单样例
准备工作安装包:gtest1.7.0版本(最新的1.8.0版本一直安装失败,1.7.0版本一次成功) 安装链接:百度网盘 https://pan.baidu.com/s/1mDy9sB3sBIMei ...
K8S Yaml 详细说明及简单样例
一.K8S Yaml 配置文件主要分为基本标签.元数据标签.资源内容 3 个部分基本标签 apiVersion: v1 #必选,版本号,例如v1 kind: Pod #必选,Pod 元数据标签 me ...
Argo Workflow简单样例——dag-阿里云开发者社区
什么是Argo Workflow Argo Workflow是一个开源项目,为Kubernetes提供Container-native工作流程,主要通过Kubernetes CRD实现.它有四大特点: ...
JDBC连接hive（附完整代码）
JDBC连接hive 一.创建maven工程 1.选择quickStart 2.导入依赖(如下)--依赖定时检查更新二.创建resource 1.HiveResource.properties 2. ...
jdbc连接Hive
jdbc连接Hive 1.使用sqoop将stu表导入到hive中数据库表位于hadoop102上的test数据库 bin/sqoop import \ --connect jdbc:mys ...
Netty 简单样例分析(io传输的框架)
http://linugb118.blog.51cto.com/272628/420738 messageReceived(ChannelHandlerContext ctx, MessageEven ...

JDBC 连接Hive 简单样例（开启Kerberos）

JDBC 连接Hive 简单样例（开启Kerberos）相关推荐

最新文章

热门文章