hadoop元数据mysql中表字段_hive mysql元数据表说明
2019独角兽企业重金招聘Python工程师标准>>>
数据库相关的表
DBS
该表存储Hive中所有数据库的基本信息，字段如下：
元数据表字段
说明
示例数据
DB_ID
数据库ID
2
DESC
数据库描述
测试库
DB_LOCATION_URI
数据库HDFS路径
hdfs://namenode/user/hive/warehouse/lxw1234.db
NAME
数据库名
lxw1234
OWNER_NAME
数据库所有者用户名
lxw1234
OWNER_TYPE
所有者角色
USER
DATABASE_PARAMS
该表存储数据库的相关参数，在CREATE DATABASE时候用
WITH DBPROPERTIES (property_name=property_value, …)指定的参数。
元数据表字段
说明
示例数据
DB_ID
数据库ID
2
PARAM_KEY
参数名
createdby
PARAM_VALUE
参数值
lxw1234
DBS和DATABASE_PARAMS这两张表通过DB_ID字段关联。
表相关的表
TBLS
该表中存储Hive表、视图、索引表的基本信息。
元数据表字段
说明
示例数据
TBL_ID
表ID
1
CREATE_TIME
创建时间
1436317071
DB_ID
数据库ID
2，对应DBS中的DB_ID
LAST_ACCESS_TIME
上次访问时间
1436317071
OWNER
所有者
liuxiaowen
RETENTION
保留字段
0
SD_ID
序列化配置信息
86，对应SDS表中的SD_ID
TBL_NAME
表名
lxw1234
TBL_TYPE
表类型
MANAGED_TABLE、EXTERNAL_TABLE、INDEX_TABLE、VIRTUAL_VIEW
VIEW_EXPANDED_TEXT
视图的详细HQL语句
select `lxw1234`.`pt`, `lxw1234`.`pcid` from `liuxiaowen`.`lxw1234`
VIEW_ORIGINAL_TEXT
视图的原始HQL语句
select * from lxw1234
TABLE_PARAMS
该表存储表/视图的属性信息。
元数据表字段
说明
示例数据
TBL_ID
表ID
1
PARAM_KEY
属性名
totalSize、numRows、EXTERNAL
PARAM_VALUE
属性值
970107336、21231028、TRUE
TBL_PRIVS
该表存储表/视图的授权信息
元数据表字段
说明
示例数据
TBL_GRANT_ID
授权ID
1
CREATE_TIME
授权时间
1436320455
GRANT_OPTION
0
GRANTOR
授权执行用户
liuxiaowen
GRANTOR_TYPE
授权者类型
USER
PRINCIPAL_NAME
被授权用户
username
PRINCIPAL_TYPE
被授权用户类型
USER
TBL_PRIV
权限
Select、Alter
TBL_ID
表ID
22，对应TBLS表中的TBL_ID
存储相关的元数据表
SDS
该表保存文件存储的基本信息，如INPUT_FORMAT、OUTPUT_FORMAT、是否压缩等。
TBLS表中的SD_ID与该表关联，可以获取Hive表的存储信息。
元数据表字段
说明
示例数据
SD_ID
存储信息ID
1
CD_ID
字段信息ID
21，对应CDS表
INPUT_FORMAT
文件输入格式
org.apache.hadoop.mapred.TextInputFormat
IS_COMPRESSED
是否压缩
0
IS_STOREDASSUBDIRECTORIES
是否以子目录存储
0
LOCATION
HDFS路径
hdfs://namenode/hivedata/warehouse/ut.db/t_lxw
NUM_BUCKETS
分桶数量
5
OUTPUT_FORMAT
文件输出格式
org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat
SERDE_ID
序列化类ID
3，对应SERDES表
SD_PARAMS
该表存储Hive存储的属性信息，在创建表时候使用
STORED BY ‘storage.handler.class.name’ [WITH SERDEPROPERTIES (…)指定。
元数据表字段
说明
示例数据
SD_ID
存储配置ID
1
PARAM_KEY
存储属性名
PARAM_VALUE
存储属性值
SERDES
该表存储序列化使用的类信息
元数据表字段
说明
示例数据
SERDE_ID
序列化类配置ID
1
NAME
序列化类别名
SLIB
序列化类
org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe
SERDE_PARAMS
该表存储序列化的一些属性、格式信息,比如：行、列分隔符
元数据表字段
说明
示例数据
SERDE_ID
序列化类配置ID
1
PARAM_KEY
属性名
field.delim
PARAM_VALUE
属性值
,
表字段相关的元数据表
PARTITIONS
该表存储表分区的基本信息。
元数据表字段
说明
示例数据
PART_ID
分区ID
1
CREATE_TIME
分区创建时间
LAST_ACCESS_TIME
最后一次访问时间
PART_NAME
分区名
pt=2015-06-12
SD_ID
分区存储ID
21
TBL_ID
表ID
2
PARTITION_KEYS
该表存储分区的字段信息。
元数据表字段
说明
示例数据
TBL_ID
表ID
2
PKEY_COMMENT
分区字段说明
PKEY_NAME
分区字段名
pt
PKEY_TYPE
分区字段类型
string
INTEGER_IDX
分区字段顺序
1
PARTITION_KEY_VALS
该表存储分区字段值。
元数据表字段
说明
示例数据
PART_ID
分区ID
2
PART_KEY_VAL
分区字段值
2015-06-12
INTEGER_IDX
分区字段值顺序
0
PARTITION_PARAMS
该表存储分区的属性信息。
元数据表字段
说明
示例数据
PART_ID
分区ID
2
PARAM_KEY
分区属性名
numFiles、numRows
PARAM_VALUE
分区属性值
15、502195
示例
建表语句：
CREATE TABLE lxw1234 (
cookieid STRING,
url STRING,
ua STRING,
ip STRING,
createtime STRING
)
COMMENT 'This is the page view table'
partitioned BY (day STRING,site STRING)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY ','
stored AS ORC;
建表执行之后，元数据中以下表的数据会有所变化：
TBLS
生成了表lxw1234的基本信息
SELECT * FROM TBLS WHERE TBL_NAME = ‘lxw1234’;
元数据表字段
数据
TBL_ID
41509
CREATE_TIME
1436324659
DB_ID
11
LAST_ACCESS_TIME
0
OWNER
liuxiaowen
RETENTION
0
SD_ID
91740
TBL_NAME
lxw1234
TBL_TYPE
MANAGED_TABLE
VIEW_EXPANDED_TEXT
NULL
VIEW_ORIGINAL_TEXT
NULL
TABLE_PARAMS
select * from TABLE_PARAMS WHERE TBL_ID=41509
TBL_ID
PARAM_KEY
PARAM_VALUE
41509
comment
This is the page view table
41509
transient_lastDdlTime
1436324659
SDS
SELECT * FROM SDS WHERE SD_ID = 91740
元数据表字段
数据
SD_ID
91740
CD_ID
41564
INPUT_FORMAT
org.apache.hadoop.hive.ql.io.orc.OrcInputFormat
IS_COMPRESSED
0
IS_STOREDASSUBDIRECTORIES
0
LOCATION
hdfs://namenode/hivedata/warehouse/liuxiaowen.db/lxw1234
NUM_BUCKETS
-1
OUTPUT_FORMAT
org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat
SERDE_ID
91740
SERDES
select * from SERDES WHERE SERDE_ID = 91740
元数据表字段
数据
SERDE_ID
91740
NAME
SLIB
org.apache.hadoop.hive.ql.io.orc.OrcSerde
SERDE_PARAMS
select * from SERDE_PARAMS WHERE SERDE_ID=91740
SERDE_ID
PARAM_KEY
PARAM_VALUE
91740
field.delim
,
91740
serialization.format
,
COLUMNS_V2
select * from COLUMNS_V2 WHERE CD_ID=41564 ORDER BY INTEGER_IDX
CD_ID
COMMENT
COLUMN_NAME
TYPE_NAME
INTEGER_IDX
41564
cookieid
string
0
41564
url
string
1
41564
ua
string
2
41564
ip
string
3
41564
createtime
string
4
PARTITION_KEYS
select * from PARTITION_KEYS WHERE TBL_ID=41509
TBL_ID
PKEY_COMMENT
PKEY_NAME
PKEY_TYPE
INTEGER_IDX
41509
day
string
0
41509
site
string
1
再插入数据：
INSERT OVERWRITE TABLE lxw1234 PARTITION (day = '2015-07-08', site = 'lxw1234.com')
SELECT
'cookie1' AS cookieid,
'http://lxw1234.com' AS url,
'firefox' AS ua,
'127.0.0.1' AS ip,
'2015-07-08 11:00:01' AS createtime
FROM dual
limit 1;
插入数据执行完之后，以下表的元数据发生变化：
PARTITIONS
select * from `PARTITIONS` WHERE TBL_ID=41509
PART_ID
CREATE_TIME
LAST_ACCESS_TIME
PART_NAME
SD_ID
TBL_ID
54472
1436325812
0
day=2015-07-08/site=lxw1234.com
91746
41509
SDS
select * from SDS WHERE SD_ID=91746
注意：这里的存储和表的存储是不同的，因为每个分区也会有一个SD
元数据表字段
数据
SD_ID
91746
CD_ID
41564
INPUT_FORMAT
org.apache.hadoop.hive.ql.io.orc.OrcInputFormat
IS_COMPRESSED
0
IS_STOREDASSUBDIRECTORIES
0
LOCATION
hdfs://namenode/hivedata/warehouse/liuxiaowen.db/lxw1234/day=2015-07-08/site=lxw1234.com
NUM_BUCKETS
-1
OUTPUT_FORMAT
org.apache.hadoop.hive.ql.io.orc.OrcOutputFormat
SERDE_ID
91746
PARTITION_KEY_VALS
select * from PARTITION_KEY_VALS where PART_ID=54472
PART_ID
PART_KEY_VAL
INTEGER_IDX
54472
2015-07-08
0
54472
lxw1234.com
1
PARTITION_PARAMS
select * from PARTITION_PARAMS where PART_ID = 54472
PART_ID
PARAM_KEY
PARAM_VALUE
54472
COLUMN_STATS_ACCURATE
true
54472
numFiles
1
54472
numRows
1
54472
rawDataSize
408
54472
totalSize
703
54472
transient_lastDdlTime
1436325813
在分区的属性里面，生成的该分区的统计信息(Statistics)。
hadoop元数据mysql中表字段_hive mysql元数据表说明相关推荐
- hadoop元数据mysql中表字段_Hive元数据表汇总分析
线上Hive 0.11 metastore包括39个表,可以分为以下几类 : 1 存储Hive版本的元数据表(VERSION) 该表比较简单,但很重要.VER_IDSCHEMA_VERSIONVERS ...
- hadoop元数据mysql中表字段_Hive 元数据表结构详解
元数据是基础,这篇文章值得一读. 本文介绍Hive元数据库中一些重要的表结构及用途,方便Impala.SparkSQL.Hive等组件访问元数据库的理解. 1.存储Hive版本的元数据表(VERSIO ...
- php mysql 添加字段,php mysql如何增加字段
php mysql如何增加字段 php mysql增加字段的方法:首先创建一个PHP示例文件:然后通过语句"alter table diy_form add name_1 varchar(5 ...
- mysql explain字段含义,Mysql explain中的关键字段(通俗易懂篇)
作者:可爱猪猪 - 帅锅一枚 作者的网名很阔爱,如果喜欢本文章一定要点 喜欢 或者 打赏,拜托~ 作者一直在进步,需要你们的支持和鼓励,谢谢! 人生理想:在程序猿界混出点名堂! 请读者,认真读完这篇文 ...
- mysql清空字段 1_mysql数据库 清空表 字段 1
1,查看数据库状态 及启动停止 /etc/init.d/mysqld status/etc/init.d/mysqld start/etc/init.d/mysqld stop 2,给用户配置初始密码 ...
- hive 安装mysql报错_hive的元数据存储在mysql后,报错的解决方法
最近,因为工作的需要,一直在研究hadoop系统.许多分析工作都将通过hive来解决,所以特将所碰到的问题和解决方案,陆续整理出来,既做为回顾又供需要的朋友参考! 因为要实现多人开发Hive,所以需要 ...
- mysql 加字段_MySQL8.0大表秒加字段，是真的吗？
前言: 很早就听说 MySQL8.0 支持快速加列,可以实现大表秒级加字段.笔者自己本地也有8.0环境,但一直未进行测试.本篇文章我们就一起来看下 MySQL8.0 快速加列到底要如何操作. 1.了解 ...
- mysql 添加字段 描述_mysql新建表 中是否自带描述字段?
展开全部 可以直接自己添加描述字段. DROP TABLE IF EXISTS `user`; CREATE TABLE user ( idBIGINT(20) UNSIGNED NOT NULL A ...
- hive mysql 不兼容_Hive+mySql遇到的问题和解决办法
问题1: Exception in thread "main" java.lang.RuntimeException: org.apache.hadoop.ipc.RemoteEx ...
最新文章
- idea 批量修改同一列_学会这个，1秒就可以批量处理文件
- 后端 消息 转发_小程序转发探索示例
- 「Excel技巧」Excel技巧之如何看文件里的宏？
- C#GDI+图像处理
- 安装 SharePoint 2013
- 一文带你认识：Liunx的历史
- Keras-数据准备
- python netifaces模块 获取本机IP，网关等信息
- python画轮廓_python 分割 画图像的轮廓 - 程序园
- 我在用的浏览器插件利器
- tensorrt 分割_超多，超快，超强！百度飞桨发布工业级图像分割利器PaddleSeg
- 福建农林大学统计学和计算机,福建农林大学特色专业介绍_统计学_专业课程介绍_专业排名_就业方向...
- 大作都是怎么诞生的，游戏开发全过程揭秘 ！零基础小白入门须知
- OC block的回环引用
- 12306排队是什么意思_12306订单请求排队中是什么意思
- linux下Ftp客户端程序与Makefile
- tp-link 拨号失败 服务器无响应,无线路由器拨号无响应怎么办
- ArcGIS地理坐标投影坐标转换和显示（浅浅记录一下）
- 华为服务器修改root密码,华为esc服务器root密码
- 求一个3×3矩阵对角线元素之和。
热门文章
- U盘装XP系统(含截图，2012最新原创超简单方法)
- IIS 启动不了(服务没有及时响应启动或控制请求)解决
- 动态表格数据序号从1开始_EXCEL对面的表姐看过来，你真的会给表格添加序号吗？...
- PMP读书笔记(第3章)
- 为什么只推荐入主流版本华强北耳机？
- onSaveInstanceState与onRestoreInstanceState何时调用、如何使用
- Unable to delete directory: D:\Downloads\githubdownfive\tianxmyapp\library\
- 微信公众号 自定义菜单栏目
- linux线程引起jvm崩溃,JVM宕机分析
- 什么是框架?spring mvc框架