本文来自网易云社区。

数据仓库作为企业提供决策支持而构建的集成化数据环境,本身并不产生或者消费数据,基本架构包含的是数据流入流出的过程,首先放上一张数据仓库的架构图。数据仓库作为中间集成化数据管理的一个平台,底层有多种数据来源,流入数据仓库之后对上层应用开放。

1、分析业务需求,确定数据仓库主题

数据模型的创建依赖数据仓库主题的确定,在搭建数据仓库之前,首先就是要充分了解业务部门的问题需求,明确我们所要创建的数据仓库真正可以解决的问题,在多次沟通的前提下,可以准确的确定系统能够实现的功能。在这个过程中,基于双方理解问题的不同,还需要我们对需求做出一些原型的演示,避免理解上的分歧。

需要做到包括:从业务方需求中提取出重要的业务数据主题,并对业务数据主题进行详细的解释;对提取出的业务数据主题进行主题域的划分,并对主题域进行详细的解释;根据主题域的划分,对内部的组织结构和业务关系细节化,构建出主题域的概念模型。

2、构建逻辑模型

在概念模型的基础上,对其进行进一步的细化和分解,通过实体和实体之间的关系描述业务的需求和系统实现的技术领域。逻辑模型的构建在数据仓库的实施中最为重要,是业务需求人员和技术人员进行沟通的桥梁和平台,能够直接反映业务部门实际的需求和对业务的规划,同时对下面物理模型的构建也具有指导意义。逻辑模型通过实体与实体之间的关系勾勒出了整个业务部门的数据蓝图和规划。

逻辑模型主要关注细节性的业务规则,同时也需要解决每个主题域包含的概念范畴和跨主题域的集成和共享问题,构建的步骤一般包括:分析需求,列出需要分析的主题,明确需求目标、维度指标、分析的指标、分析的方法、数据的来源以及需要关注的对象等;选择用户感兴趣的数据,通过业务需求将需要分析的指标分离抽取出来,转换为实体;在实体中增加时间戳属性;考虑粒度层次的划分,粒度决定了数据仓库的实现方式、性能、灵活性以及数据仓库的数据量;在粒度层次划分的基础上,进行关系模式的定义,关系模式一般采取第三范式的特点进行定义;同时在逻辑模型的基础上对实体的属性、属性的值域等信息进行明确、完善和细化,保证真实的反映业务的逻辑关系和业务的规则。

3、逻辑模型转换为物理模型

基于逻辑模型,接下来就是为应用环境选择一个合适的物理结构,包括合适的存储结构以及合适的存储方法。将逻辑模型转换为物理模型主要包括:实体名转换为表名;属性名转换为列名,并且确定列的属性;在物理模型的创建过程中,必须要对列的属性进行明确,包括列名、数据类型、是否是空值以及长度等。确定物理模型之后,对于数据的存放位置和存储空间的分配等也需要进行规划。

4、数据源接入

在数据仓库的建立之前,需采集底层多种数据源数据,明确数据源中的数据种类,采用合适的工具。比如,Flume NG作为实时日志收集系统,支持在日志系统中定制各类数据发送方,用于收集数据,同时,对数据进行简单处理,并写到各种数据接收方;NDC,Netease Data Canal,直译为网易数据运河系统,可以实现结构化数据库的数据实时迁移;Sqoop可以将关系型数据库中的数据导入到平台中;Logstash作为开源的服务端数据处理管道,也可以轻松的将日志、WEB应用等数据采集到平台中。

5、数据存储清洗和转换

对数据进行清洗和转换,保证进入到数据仓库中的数据的一致性。结合业务需求,采用合适的数据清洗转换工具。

6、对接BI,数据展示

为业务部门选择合适的工具实现对数据仓库中的数据进行分析的目的,正确清晰的展现用户的功能需求。

数据仓库搭建成功之后,还需对其安全性、备份恢复等方面进行管理。

利益相关:网易云打造的大数据平台,能够提供更好的建设方案,欢迎免费试用

网易有数 则定位于敏捷数据可视化分析平台,可便捷地嵌入企业经营的业务模块,且面对不同客户的需求提供定制化服务,数据分析效率最高提升80%。

网易猛犸是一个大数据应用开发与数据管理平台,覆盖了数据传输、计算及作业流调度等多个环节,日处理数据量达到 PB 级。

原文:如何建设数据仓库?

转载于:https://www.cnblogs.com/163yun/p/9365893.html

数据仓库建设之六脉神剑相关推荐

  1. 6000字详解数据仓库建设

    01 前言 互联网行业,除了数据量大之外,业务时效性要求也很高,甚至很多是要求实时的.另外,互联网行业的业务变化非常快,不可能像传统行业一样,可以使用自顶向下的方法建立数据仓库,一劳永逸,它要求新的业 ...

  2. hive数据仓库建设

    hive数据仓库建设 1.设计原生日志表 原生日志表用来存放上报的原始日志,数据经过清洗加工后会进入到各个日志表中. 1.1 创建数据库 #创建数据库 $hive>create database ...

  3. 数据仓库建设从0到1-一文带你深入建设金融数仓体系

    前言 本文讲述了金融数据仓库从无到有的整体设计思路,以及对数据建模.质量控制.元数据管理及开发规范各方面的经验思考,希望对大家在数仓建设工作方面有所帮助. 背景 自2018年以来,随着业务体系的不断丰 ...

  4. 浅谈数据仓库建设中的数据建模方法

    http://www.ibm.com/developerworks/cn/data/library/techarticles/dm-0803zhousb/ 所谓水无定势,兵无常法.不同的行业,有不同行 ...

  5. 数据仓库建设中的数据建模方法(转)

    简介: 本文的主要内容不是介绍现有的比较流行的主要行业的一些数据模型,而是将笔者在数据仓库建设项目中的一些经验,在这里分享给大家.希望帮助大家在数据仓库项目建设中总结出一套能够合乎目前业界规范的,满足 ...

  6. 美团点评酒旅数据仓库建设实践

    在美团点评酒旅事业群内,业务由传统的团购形式转向预订.直连等更加丰富的产品形式,业务系统也在迅速的迭代变化,这些都对数据仓库的扩展性.稳定性.易用性提出了更高要求.对此,我们采取了分层次.分主题的方式 ...

  7. 数据建模_浅谈数据仓库建设中的数据建模方法

    所谓水无定势,兵无常法.不同的行业,有不同行业的特点,因此,从业务角度看,其相应的数据模型是千差万别的.目前业界较为主流的是数据仓库厂商主要是 IBM 和 NCR,这两家公司的除了能够提供较为强大的数 ...

  8. 数据仓库建设---数据建模

    首先我们先查看三个问题:①什么是数据模型:②为什么需要数据模型:③如何创建数据模型: 一.什么是数据模型 数据模型是抽象描述现实世界的一种工具和方法,是通过抽象的实体及实体之间联系的形式,来表示现实世 ...

  9. 银行数据仓库体系实践_【实战剖析】某国际性商业银行的数据仓库建设经验分享...

    原标题:[实战剖析]某国际性商业银行的数据仓库建设经验分享 编者按 全面的信息体系架构,是支持商业银行战略决策.经营管理和风险控制的坚实基础.在中国科学院大学金融科技研究中心主任.吉贝克董事长刘世平博 ...

最新文章

  1. 数据蒋堂 | 存储和计算技术的选择
  2. Linux信号列表(非实时信号和实时信号)
  3. TypeScript 入门
  4. Python 多种算法模型对比
  5. [Bug]Object reference not set to an instance of an object.
  6. 更换mysql_安利给你,关于MySQL字符集乱码与解决方案
  7. Rabbitmq消息可靠投递和重复消费等问题解决方案
  8. CentOS添加明细路由
  9. 在MOSS2007中使用收集反馈工作流
  10. web应用,HTTP协议以及Django初次认识与安装
  11. 手把手,从零开始搭建个人博客网站(附源码)
  12. tar和其他一些压缩解压工具
  13. 线性时间选择(C++):求第k小的数
  14. ssm 竞赛管理系统
  15. Android HttpClient介绍
  16. 网络信息安全攻防实验室
  17. blender 简单的浮雕制作
  18. 一无所知学编程:Jargon File(1)
  19. Canvas实现3D效果-可旋转的立方体
  20. 安装STM32Cubemx-5.6.1报错,需要64位java1.8.0_45 (64-bit)JRE

热门文章

  1. 学生用计算机电池能用多久,笔记本电脑的电池又坏了?这些方法能够延长它的使用寿命...
  2. python+django+vue搭建前后端分离项目Part2——前端Vue
  3. 算法练习1——约德尔测试
  4. 从人工智障到人工智能:人工智能在数字化转型中的应用案例
  5. 【计算机组成原理】一、基本运算器实验
  6. Oil Deposits 石油储量
  7. Unexpected server response (0) while retrieving PDF pdf.js加载url资源的问题
  8. 浏览器安装Copper插件
  9. 【优化算法】基于树种优化算法求解单目标优化问题附matlab代码
  10. 玩客云安装好armbian5.9后后续安装宝塔7.x版本