hive(3)HiveQL数据定义
HiveQL与传统SQL区别
HiveQL是Hive的查询语言。与mysql的语言最接近,但还是存在于差异性,表现在:Hive不支持行级插入操作、更新操作和删除操作,不支持事物。
基本语法
数据库操作
1、创建数据库hive> create database test; 或者 create database if not exists test;2、查看数据库对应的目录文件创建的数据库对应的数据目录或者存储在hdfs的目录为在hive配置文件里面定义的hive.metastore.warehouse.dir值比如:我的是/hive/warehouse查看刚刚创建的数据库对应的名称,如下所示:
# hadoop fs -ls /hive/warehouse
Found 3 items
drwxr-xr-x - root supergroup 0 2019-06-20 07:44 /hive/warehouse/myhive.db
drwxr-xr-x - root supergroup 0 2019-06-20 08:15 /hive/warehouse/test.db
drwxr-xr-x - root supergroup 0 2019-06-20 03:08 /hive/warehouse/user_info
或者,使用desc或者describe database 数据库名字也可以查看具体的存储目录
hive (myhive)> desc database test;
OK
db_name comment location owner_name owner_type parameters
test hdfs://EDPI-HBASE/hive/warehouse/test.db root USER
3、如果在创建数据库的时候,想要指定存储目录呢?
使用location关键字,如:hive (myhive)> create database test1 location "/test1" ;
hive (myhive)> desc database test1;
OK
db_name comment location owner_name owner_type parameters
test1 hdfs://EDPI-HBASE/test1 root USER
4、创建数据库时,指定描述信息使用关键字:commenthive (myhive)> create database test2 comment " create database" ; 5、给数据库增加一些键值对属性信息使用关键字:with dbpropertieshive (myhive)> create database test with dbproperties ('name' = 'yjt', 'data' = '2019-06-20');6、显示这些键值信息:使用关键字:extended
hive (default)> desc database extended test;
OK
test hdfs://EDPI-HBASE/hive/warehouse/test.db root USER {data=2019-06-20, name=yjt}
Time taken: 0.228 seconds, Fetched: 1 row(s)
7、显示数据库hive> show databases; 或者使用正则匹配:show databases like "my.*"; 表示匹配以my开头的数据库名称。 8、删除数据库使用关键字:drophive> drop database if exists test;默认情况下,Hive是不允许删除一个包含有表的数据库。如想要删除数据库,1、首先删除数据库中的表,然后在删除数据库;2、在删除命令最后面加上cascade关键字,这样Hive会自动先删除数据库当中的表。 9、修改数据库使用关键字alterhive (default)> alter database test set dbproperties ('name'= 'test');10、查询当前的数据库hive> select current_database();
表操作
一、内部表
1、创建表:
hive> create table if not exists myhive.employess(
name string comment "employess name",
salary float comment "employess salary",
subordinates array<string> comment 'name of subordinates',
deductions map<string,float> comment 'keys are deductions names,values are percentages',
address struct<street:string,city:string,state:string,zip:int> comment "home address")
comment 'Description of the table'
tblproperties ('creator'='me', 'created_at'='2019-06-20')
在创建表的时候,为每一个字段都指定了comment信息,也可以为这个表指定comment信息。
tblproperties关键字:按键值对的格式为这个表添加额外的文档说明。
Hive自懂增加的两个表属性:
last_modified_by:保存着最后修改这个表的用户名
last_modified_time:保存着最后修改一次的时间秒。
2、列举某个表的tblproperties属性
hive (myhive)> show tblproperties myhive.employess; OK COLUMN_STATS_ACCURATE {"BASIC_STATS":"true"} comment Description of the table created_at 2019-06-20 creator me numFiles 0 numRows 0 rawDataSize 0 totalSize 0 transient_lastDdlTime 1561023045 Time taken: 0.088 seconds, Fetched: 9 row(s)
3、拷贝表结构
使用关键字:likehive (myhive)> create table if not exists t1 like employess;这张t1表现在与employess表具有相同的表结构,只是没有数据。可以使用desc关键字查看t1表结构。
4、拷贝表数据
使用关键字:ashive> creat table t1 as select * from t2; //把t2表的数据插入到t1表
5、显示数据库下已经存在的表
hive<myhive>show tables; 如果想要在当前数据库显示其他数据库下的表,则需要使用in关键字hive<default> show tables in myhive; 在显示表的时候,同样可以使用正则表达式hive> show tables in myhive 'em.*';
6、查看表结构
1、直接使用desc或者describe关键字
hive (default)> desc user_info;
OK
user_id bigint
firstname string
lastname string
count string
Time taken: 1.336 seconds, Fetched: 4 row(s)
2、使用desc 配合extended关键字显示详细输出
hive (default)> desc extended user_info;
OK
user_id bigint
firstname string
lastname string
count string
Detailed Table Information Table(tableName:user_info, dbName:default, owner:root, createTime:1560823283, lastAccessTime:0, retention:0, sd:StorageDescriptor(cols:[FieldSchema(name:user_id, type:bigint, comment:null), FieldSchema(name:firstname, type:string, comment:null), FieldSchema(name:lastname, type:string, comment:null), FieldSchema(name:count, type:string, comment:null)], location:hdfs://EDPI-HBASE/hive/warehouse/user_info, inputFormat:org.apache.hadoop.mapred.TextInputFormat, outputFormat:org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat, compressed:false, numBuckets:-1, serdeInfo:SerDeInfo(name:null, serializationLib:org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe, parameters:{serialization.format=1}), bucketCols:[], sortCols:[], parameters:{}, skewedInfo:SkewedInfo(skewedColNames:[], skewedColValues:[], skewedColValueLocationMaps:{}), storedAsSubDirectories:false), partitionKeys:[], parameters:{totalSize=86, numRows=6, rawDataSize=80, COLUMN_STATS_ACCURATE={"BASIC_STATS":"true"}, numFiles=2, transient_lastDdlTime=1561000088}, viewOriginalText:null, viewExpandedText:null, tableType:MANAGED_TABLE)
Time taken: 0.068 seconds, Fetched: 6 row(s)
上面这一堆信息看的脑袋大,太混乱了
3、使用desc配合formatted关键字,也就是使用formatted替换extended,输出内容友好一些,这种方式更长用。
hive (default)> desc formatted user_info;
二、外部表
1、创建外部表
使用关键字:external hive (myhive)> create external table if not exists stocke(id int,ymd string)row format delimited fields terminated by ',' location '/tmp/stocke';字段分割使用','使用location关键字指定对应的存储目录
三、分区表:
1、创建分区表
使用关键字:partitioned bycreate table t4(id int,name string) partitioned by(country string, state string);
2、查看分区表
使用关键字:partitions hive (myhive)> show partitions t4; 显示具体某一个分区的数据使用关键字 partitionhive (myhive)> show partitions t4 partition(state)
3、插入数据的方法
格式1: INSERT INTO TABLE tablename [PARTITION (partcol1[=val1], partcol2[=val2] ...)] VALUES values_row [, values_row …];格式2:(推荐使用) load data local inpath '/home/had/data1.txt' into table employees partition (country =china,state=Asia)
四、修改表
1、表的重新命名
使用关键字:renamehive>alter table t4 rename to t6;
2、增加表分区(通常是外部表)
使用关键字:addhive> alter table t6 add partition(country='US',state='UA') location "/logs/country=US/state=UA";
3、修改分区路径
使用关键字:distcphadoop fs -distcp /logs/country=US/state=UA /logs_old/country=US/state=UA //这是在shell命令行执行的
使用关键字:setHive> alter table t6 partition(country='US',state='UA') set location "/logs_old/country=UA/state=UA"
4、删除某个分区
使用关键字:drophive> alter table t6 drop if exists partition(country='US',state='UA'); //对于内部表,删除分区以后,元数据和数据都会被删除。对于外部表,分区内的数据不会被删除
5、修改列信息
使用关键字:change column、after、first //对某个字段的重新命名,修改其位置、类型、和注释假设t1 表存在两个字段 id、name、cjhive> alter table t1 change column comment 'test alter change' name age int after cj; //修改字段name的名字、类型,并添加到cj之后,如果想要添加到第一列,可以使用first关键字代替after cj,里面的column 和comment可选
6、添加列
使用关键字:addhive>alter table t1 add columns(city string,address string); //如果新增的字段中有某个或者多个字段位置是错误的,那么需要使用alter column 表名 change column 语句逐一调整。
7、修改表属性
可以增加附加的表属性或者修改已经存在的属性,但是无法删除属性
使用关键字:sethive> alter table t1 set tblproperties('info' = 'this is a test');
8、修改表的存储属性
使用关键字:sethive> alter table t1 partition(country='US',state='UA') set fileformat sequencefile; //修改表的存储属性为sequencefile
9、其他操作
1,把一个分区打包成一个har包,只适用于分区表中独立的分区alter table employees archive partition (country="china",state="Asia") 2, 把一个分区har包还原成原来的分区alter table employees unarchive partition (country="china",state="Asia") 3, 保护分区防止被删除alter table employees partition (country="china",state="Asia") enable no_drop 4,保护分区防止被查询alter table employees partition (country="china",state="Asia") enable offline 5,允许分区删除和查询alter table employees partition (country="china",state="Asia") disable no_dropalter table employees partition (country="china",state="Asia") disable offline
转载于:https://www.cnblogs.com/yjt1993/p/11063666.html
hive(3)HiveQL数据定义相关推荐
- Hive之DDL数据定义
Hive之DDL数据定义 目录 创建数据库 查询数据库 修改数据库 删除数据库 创建表 分区表 修改表 删除表 1. 创建数据库 创建一个数据库,数据库在HDFS上的默认存储路径是/user/hive ...
- 大数据开发之Hive篇3-Hive数据定义语言
备注: Hive 版本 2.1.1 文章目录 一.Hive关系模型概述 1.1.Database 1.2 Table 1.2.1 管理表和外部表 1.2.2 永久表和临时表 1.3 Partition ...
- hive mysql类型,(二)Hive数据类型、数据定义、数据操作和查询
1.数据类型 1.1 基本数据类型Hive数据类型长度例子TINYINT1byte有符号整数20 SMALINT2byte有符号整数20 INT4byte有符号整数20 BIGINT8byte有符号整 ...
- HIVE之 DDL 数据定义 DML数据操作
DDL数据库定义 创建数据库 1)创建一个数据库,数据库在 HDFS 上的默认存储路径是/user/hive/warehouse/*.db.hive (default)> create data ...
- 【hadoop生态之Hive】Hive的DDL数据定义语言【笔记+代码】
四.DDL数据定义 4.1 创建数据库 1)创建一个数据库,数据库在HDFS上的默认存储路径是/user/hive/warehouse/*.db. hive (default)> create ...
- (8)Hive的DDL数据定义(表的操作)
文章目录 创建表 管理表 外部表 管理表和外部表的使用场景 案例实操 管理表与外部表的互相转换 分区表 分区表基本操作 创建分区表 加载数据到分区表中 单分区查询 增加分区 删除分区 查看分区 分区表 ...
- 数据仓库Hive编程——HiveQL的数据定义(一):Hive中的数据库
分类目录:商业智能<数据仓库Hive编程>总目录 相关文章: HiveQL的数据定义(一):Hive中的数据库 HiveQL的数据定义(二):修改数据库 HiveQL的数据定义(三):创建 ...
- 谈笑间学会大数据-Hive数据定义
Hive数据定义 目录 前言 Hive中的数据库 创建一个数据库 指定数据库存储路径 数据库操作及表操作 hive中的表 创建表 copy表结构 内部表 外部表 分区表 外部分区表 分区增删修改操作 ...
- 认识Hive,以及Hive的数据定义与数据操作,hive的数据查询和hive函数
认识Hive 为什么要出现hive 前面知识我们讲到mapreudce计算框架,各位需要通过java编码的形式来实现设计运算过程,这对各位的编程能力提出了更高的要求,难道没有门槛更低的方式来实现运算的 ...
最新文章
- 基于Golang的CLI 命令行程序开发
- c 提取引号中间的字符串_Python | 一文看懂Python列表、元组和字符串操作
- 复习下mybatis 中 useGeneratedKeys 和 keyProperty 含义
- 【精华】Linux用户Hive权限控制实践
- flashcache mysql_flashcache的实现与分析
- [armv9]-ARMV9 CCA 机密计算简介
- c语言dynamic变量,C# dynamic关键字的使用方法
- mysql报11004_使用mysqli扩展技术查看服务器连接错误报告的方法
- cocos2d-x lua 学习笔记(1) -- 环境搭建
- 耳机音量过大降低听力?世界卫生组织推出新政策
- 《剑指 Offer I》刷题笔记 1 ~10 题
- 虚拟机里ubuntu扩容主分区/dev/sda1
- oracle表update在等待,Oracle中如何更新一张大表记录
- win10打开internet信息服务器,Win10打开internet信息服务的方法
- 2000-2019年中国地级市人均GDP
- HDMI协议解析-从软硬件角度分析
- 【软件下载】换新电脑记录下下载的软件时所需地址
- AppStore审核
- 记一次 关于Android studio 编译报错compileDebugJavaWithJavac FAILED
- JAVA实现动态数组【代码】
热门文章
- docker运行dubbo-admin
- DotNetTextBox编辑器
- 使用OData协议查询Windows日志
- OXite 微软一款基于asp.net mvc架构的blog内容管理系统
- 没有钱,能做什么呢?(转载)
- Dying In The Sun
- 性能测试第一步——查看设备的硬件配置
- 谱比法计算岩石的品质因子的c语言程序,地层品质因子计算方法及系统与流程...
- linux删除文件夹命令6,Linux下创建、删除文件和文件夹命令
- 一篇文章搞懂前端学习方法与构建知识体系,怎么做自己的职业规划