概述数据仓库这个概念是由 Bill Inmon 所提出的,其功能是将组织通过联机事务处理(OLTP)所积累的大量的资料和数据,通过数据仓库理论所特点有的信息存储架构,进行系统的分析整理,利用各种的分析方法,比如联机分析处理(OLAP),数据挖掘(Data Mining),进而支持如决策支持系统(DSS)、主管资讯系统(EIS)的创建,帮助决策者能快速有效的自大量资料中,分析出有价值的资讯,以利决策拟定及快速回应外在环境变动,帮助建构商务智能(BI)。Bill Inmon 在 "Build the Data Warehouse" 一书中所提出了数据仓库的定义—— 数据仓库(Data Warehouse)是一个面向主题的(Subject Oriented)、集成的(Integrated)、相对稳定的(Non-Volatile)、反映历史变化(Time Variant)的数据集合,用于支持管理决策(Decision Making Support)。数据仓库的建模方法有很多种,每一种建模方法代表了哲学上的一个观点,代表了一种归纳、概括世界的一种方法。常见的有 范式建模法、维度建模法、实体建模法等,每种方法从本质上将是从不同的角度看待业务中的问题,不管是从技术层面还是从业务层面,都代表了哲学上的一种世界观。范式建模法(Third Normal Form,3NF)范式建模法其实是我们在构建数据模型常用的一个方法,该方法的主要由 Inmon 所提倡,主要解决关系型数据库得数据存储,利用的一种技术层面上的方法。目前,我们在关系型数据库中的建模方法,大部分采用的是三范式建模法。范式 是符合某一种级别的关系模式的集合。构造数据库必须遵循一定的规则,而在关系型数据库中这种规则就是范式,这一过程也被称为规范化。目前关系数据库有六种范式:第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、Boyce-Codd范式(BCNF)、第四范式(4NF)和第五范式(5NF)。在数据仓库的模型设计中,一般采用第三范式。一个符合第三范式的关系必须具有以下三个条件 :    每个属性值唯一,不具有多义性 ;    每个非主属性必须完全依赖于整个主键,而非主键的一部分 ;    每个非主属性不能依赖于其他关系中的属性,因为这样的话,这种属性应该归到其他关系中去。根据 Inmon 的观点,数据仓库模型得建设方法和业务系统的企业数据模型类似。在业务系统中,企业数据模型决定了数据的来源,而企业数据模型也分为两个层次,即主题域模型和逻辑模型。同样,主题域模型可以看成是业务模型的概念模型,而逻辑模型则是域模型在关系型数据库上的实例话。

范式建模法

从业务数据模型转向数据仓库模型时,同样也需要有数据仓库的域模型,即概念模型,同时也存在域模型的逻辑模型。这里,业务模型中的数据模型和数据仓库的模型稍微有一些不同。主要区别在于:数据仓库的域模型应该包含企业数据模型得域模型之间的关系,以及各主题域定义。数据仓库的域模型的概念应该比业务系统的主题域模型范围更加广。在数据仓库的逻辑模型需要从业务系统的数据模型中的逻辑模型中抽象实体,实体的属性,实体的子类,以及实体的关系等。Inmon 的范式建模法的最大优点就是从关系型数据库的角度出发,结合了业务系统的数据模型,能够比较方便的实现数据仓库的建模。但其缺点也是明显的,由于建模方法限定在关系型数据库之上,在某些时候反而限制了整个数据仓库模型的灵活性,性能等,特别是考虑到数据仓库的底层数据向数据集市的数据进行汇总时,需要进行一定的变通才能满足相应的需求。维度建模法(Dimensional Modeling)维度模型是数据仓库领域另一位大师Ralph Kimall所倡导,他的《The Data Warehouse Toolkit-The Complete Guide to Dimensonal Modeling,中文名《数据仓库工具箱》,是数据仓库工程领域最流行的数仓建模经典。维度建模以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能。典型的代表是我们比较熟知的星形模型(Star-schema),以及在一些特殊场景下适用的雪花模型(Snow-schema)。维度建模中比较重要的概念就是 事实表(Fact table)和维度表(Dimension table)。其最简单的描述就是,按照事实表、维度表来构建数据仓库、数据集市。事实表:发生在现实世界中的操作型事件,其所产生的可度量数值,存储在事实表中。从最低的粒度级别来看,事实表行对应一个度量事件。事实数据表的主要特点是包含数字数据(事实),并且这些数字信息可以汇总,以提供有关单位作为历史的数据,每个事实数据表包含一个由多个部分组成的索引,该索引包含作为外键的相关性维度表的主键,而维度表包含事实记录的特性。事实数据表不应该包含描述性的信息,也不应该包含除数字度量字段及使事实与维度表中对应项的相关索引字段之外的任何数据。 包含在事实数据表中的“度量值”有两种:一种是可以累计的度量值,另一种是非累计的度量值。最有用的度量值是可累计的度量值,其累计起来的数字是非常有意义的。用户可以通过累计度量值获得汇总信息,例如。可以汇总具体时间段内一组商店的特定商品的销售情况。非累计的度量值也可以用于事实数据表,但汇总结果一般是没有意义的,例如,在一座大厦的不同位置测量温度时,如果将大厦中所有不同位置的温度累加是没有意义的,但是求平均值是有意义的。一般来说,一个事实数据表都要和一个或多个维度表相关联,用户在利用事实数据表创建多维数据集时,可以使用一个或多个维度表。维度表:维度表可以看作是用户来分析数据的窗口,维度表中包含事实数据表中事实记录的特性,有些特性提供描述性信息,有些特性指定如何汇总事实数据表数据,以便为分析者提供有用的信息,维度表包含帮助汇总数据的特性的层次结构。每个维度表都包含单一的主键列。维度表的主键可以作为与之关联的任何事实表的外键,当然,维度表行的描述环境应与事实表行完全对应。 维度表通常比较宽,是扁平型非规范表,包含大量的低粒度的文本属性。

维度建模法

上图的这个架构中是典型的星型架构。星型模式之所以广泛被使用,在于针对各个维作了大量的预处理,如按照维进行预先的统计、分类、排序等。通过这些预处理,能够极大的提升数据仓库的处理能力。特别是针对 3NF 的建模方法,星型模式在性能上占据明显的优势。同时,维度建模法的另外一个优点是,维度建模非常直观,紧紧围绕着业务模型,可以直观的反映出业务模型中的业务问题。不需要经过特别的抽象处理,即可以完成维度建模。这一点也是维度建模的优势。但是,维度建模法的缺点也是非常明显的,由于在构建星型模式之前需要进行大量的数据预处理,因此会导致大量的数据处理工作。而且,当业务发生变化,需要重新进行维度的定义时,往往需要重新进行维度数据的预处理。而在这些与处理过程中,往往会导致大量的数据冗余。另外一个维度建模法的缺点就是,如果只是依靠单纯的维度建模,不能保证数据来源的一致性和准确性,而且在数据仓库的底层,不是特别适用于维度建模的方法。维度建模的领域主要适用与数据集市层,它的最大的作用其实是为了解决数据仓库建模中的性能问题。维度建模很难能够提供一个完整地描述真实业务实体之间的复杂关系的抽象方法。实体建模法(Entity Modeling)

实体建模法并不是数据仓库建模中常见的一个方法,它来源于哲学的一个流派。从哲学的意义上说,客观世界应该是可以细分的,客观世界应该可以分成由一个个实体,以及实体与实体之间的关系组成。那么我们在数据仓库的建模过程中完全可以引入这个抽象的方法,将整个业务也可以划分成一个个的实体,而每个实体之间的关系,以及针对这些关系的说明就是我们数据建模需要做的工作。虽然实体法粗看起来好像有一些抽象,其实理解起来很容易。即我们可以将任何一个业务过程划分成 3 个部分,实体,事件和说明,如下图所示:

实体建模法

上图表述的是一个抽象的含义,如果我们描述一个简单的事实:“小明开车去学校上学”。以这个业务事实为例,我们可以把“小明”,“学校”看成是一个实体,“上学”描述的是一个业务过程,我们在这里可以抽象为一个具体“事件”,而“开车去”则可以看成是事件“上学”的一个说明。从上面的举例我们可以了解,我们使用的抽象归纳方法其实很简单,任何业务可以看成 3 个部分:实体,主要指领域模型中特定的概念主体,指发生业务关系的对象。事件,主要指概念主体之间完成一次业务流程的过程,特指特定的业务过程。说明,主要是针对实体和事件的特殊说明。由于实体建模法,能够很轻松的实现业务模型的划分,因此,在业务建模阶段和领域概念建模阶段,实体建模法有着广泛的应用。从笔者的经验来看,再没有现成的行业模型的情况下,我们可以采用实体建模的方法,和客户一起理清整个业务的模型,进行领域概念模型的划分,抽象出具体的业务概念,结合客户的使用特点,完全可以创建出一个符合自己需要的数据仓库模型来。但是,实体建模法也有着自己先天的缺陷,由于实体说明法只是一种抽象客观世界的方法,因此,注定了该建模方法只能局限在业务建模和领域概念建模阶段。因此,到了逻辑建模阶段和物理建模阶段,则是范式建模和维度建模发挥长处的阶段。总结上述的这些方法都有自己的优点和局限性,在创建自己的数据仓库模型的时候,可以参考使用上述的三种数据仓库得建模方法,在各个不同阶段采用不同的方法,从而能够保证整个数据仓库建模的质量。以上的资料都来自于一些百科和一些社区整理,算是数据仓库模型的基础理论介绍。

作者:无敌的肉包

链接:https://www.jianshu.com/p/8378b80e4b21

来源:简书

简书著作权归作者所有,任何形式的转载都请联系作者获得授权并注明出处。

hive中的绣花模型_hive建模方法相关推荐

  1. hive中的绣花模型_跨界媒介的碰撞:蜂巢+刺绣 | Ava Roth 「艺术访谈」

    欢迎来到木牙Make Unique Young Arts,让我们来探索跨领域/有机材料艺术与蜜蜂的世界 - 说到蜜蜂,我们最先想到的是传播花粉.花粉也是蜜蜂的营养,油脂来源,而蜜蜂将花蜜消化和处理后的 ...

  2. hive中的绣花模型_几何图案 - 面料花型设计 GeoHive_9x_Red - MyDigitex

    75D佳丽纱 120GSM 148CM 100% P 有库存 32*32 190*80全棉弹力贡缎 200GSM 148CM 97% C + 3% SP 有库存 16MM真丝双绉 68GSM 140C ...

  3. hive中的绣花模型_- 面料花型设计 GeoHive_9x_Airforce - MyDigitex

    75D佳丽纱 120GSM 148CM 100% P 有库存 32*32 190*80全棉弹力贡缎 200GSM 148CM 97% C + 3% SP 有库存 16MM真丝双绉 68GSM 140C ...

  4. SWAT模型(建模方法、实例应用、高级进阶)技能提升

    第一部分[从小白到精通]:SWAT建模及在水文水资源.面源污染模拟中的实践技术应用与典型案例分析 第二部分[高级进阶]:SWAT模型高阶应用暨无资料地区建模.不确定分析与气候变化.土地利用对面源污染影 ...

  5. hive中如何读取数组_hive解析json嵌套数组

    hive怎么统计json中某一项的内容 Hive提供json抽取函数get_json_object,根据json_path来获取你所抽取的项 get_json_object函数第一个参数填写json对 ...

  6. Composer中的ThingWorx模型定义—建模

    1. 建模 模型是物理和解决方案环境的逻辑表示.它通过一组 REST API 来表现,这使得该模型易于使用. 事物中的各个 API 为您和您的合作伙伴创建的应用程序提供了句柄. 构建模型的过程类似于面 ...

  7. 软件测试设计之MFQ模型PRDCS建模方法

    上面介绍了M.F和Q三个维度的测试分析和测试设计,F和Q其实是相对简单的是一种表格模型,只要对系统足够熟悉就没有问题,但是M这个维度是相对比较难的.虽然可能每次分析的测试对象不同,但测试设计的技术都是 ...

  8. hive中字段长度函数_Hive常用函数总结

    hive函数的分类 hive的客户端 显示当前会话有多少函数可用 SHOW FUNCTIONS; 如: hive> show functions ; OK ! != % 显示函数的描述信息 DE ...

  9. tensorflow中sparse_placeholder在saved_model中保存pb模型的使用方法

    # coding:utf-8# @author: liu # @file: sparse_tensor_pb.py # @time: 2020/4/3 11:00 # @desc:# coding:u ...

最新文章

  1. 海啸级后浪!“天才少年”曹原再次连发2篇Nature!
  2. C# DataGridView控件用法
  3. html5开发之viewport使用
  4. 模板插件aTpl.js新增功能
  5. fastDFS分布式文件系统--文件上传/下载/查询完整代码实现
  6. vector源码剖析
  7. javascript经典问题总结及代码实例(未完待续)
  8. 对话机器人70年:科幻与现实的交融
  9. (c语言)近似计算π
  10. webpack+vue动态加载组件尝试
  11. [情感]富裕的女人守不住爱情
  12. 支持移动触摸的jQuery图片Lightbox插件 1
  13. 智慧能源一体化管控平台
  14. 百度地图API秘钥问题
  15. 初中数学抽象教学的案例_初中数学教学案例分析-初中数学教学案例分析100例...
  16. stm32f4 ov7670 屏幕一直显示,OV7670 ERR 且MID(PID) 读出来是65535(0xffff)的解决办法
  17. QScrollArea手指触摸屏滑动
  18. WaWa的奇妙冒险(第一周集训自闭现场)
  19. jquery editplus
  20. 初识C语言,一起迈入编程世界的大门

热门文章

  1. 简单入门循环神经网络RNN:时间序列数据的首选神经网络
  2. 深入了解JavaScript对象(2)--函数、对象
  3. NameValueCollection详解
  4. 随着加密货币市场稳定 比特币价格不可避免的会下降
  5. 微信公众号中ip白名单用谁的ip
  6. Katana-CookieAuthenticationMiddleware-源码浅析
  7. Ubuntu15.04安装IPSec/L2TP
  8. 与servlet Api 的集成
  9. 优化内核报错及解决方法
  10. HLG 1376 能量项链