数据操作管理是提供从数据获取到数据清理的全过程支持,关联图:

一、概念

数据操作管理是结构化数据的开发、维护和支持活动。包括两个职能:数据库支持和数据技术管理。数据管理员(DBA)在该活动中起着重要的作用。

数据操作管理的目标:

  • 保护和确保结构化数据资产的完整性;
  • 管理数据在其生命周期内的可用性;
  • 优化数据库事务性能;

二、数据库支持

数据库支持由DBA完成,DBA分为开发DBA和产品DBA。开发DBA关注开发活动,产品DBA关注实施数据操作管理活动。因此,数据库支持更准确的说是由产品DBA完成的。

DBA的数据库支持工作主要包括:

1、创建产品数据库环境、配置环境

管理工作包括:

  • 安装、更新DBMS以及其他相关数据技术工具;
  • 管理数据库的连通性,包括为相关操作用户提供技术指导和服务支持;
  • 划分适当空间,优化不同存储技术不同种类的数据;
  • 与其他工作人员合作调整与DBMS协作的操作系统、网络和事务处理中间层的性能;

可以准备一份清单,列出上述工作的步骤,建立数据库管理机制和工作流程。这样DBA可以有效的实施管理和控制,将应用程序的数据库修改实施到质控环境和产品环境中,加强环境管理。

DBA是所有数据库修改的监管人,其他人员只能提出修改请求,由DBA定义准确的修改方案,并实施和控制更改。

2、数据采集管理:获取来自外部的数据

外部数据可能是许可的,也可能是免费的。它们以不同的格式一次性、或通过订阅服务定期更新。数据采集的管理需要把数据订阅服务职责交给数据分析人士。

  • 数据分析师把外部数据源记录在逻辑数据模型和数据辞典内;
  • 开发人员据此设计并外部数据的读取程序;
  • DBA负责将数据加载到数据库中,供其他程序使用;

3、规划数据恢复

数据治理委员会与IT数据管理部门建立数据可用性及恢复的服务水平协议。协议设定数据可用性期望,允许进行数据库维护和备份时间,设定不同场景下的数据恢复期望时间,包括潜在的灾难事件等。

DBA保证制定的所有计划(数据库、数据库服务器恢复),要覆盖所有导致数据丢失、损坏的可能场景。

管理层和组织的业务连续性管理部门(如果存在)应该评审并批准数据恢复规划。所有的计划可以被DBA访问。DBA备份所有恢复计划联同所有相关软件,以及有关安装、DBMS配置说明、安全码等应存放于除现场外的安全地方,以备灾难发生时应用。数据库备份亦同样处理。

4、备份和恢复数据

DBA定期备份数据库、OLTP数据库和数据库事务日志。在数据库服务水平协议中定义备份频率。DBA需要对数据的重要性和保护数据所需付出的代价(存储资源空间)之间做出权衡。每个数据库每天至少要进行一次完全备份。

同时,数据库的存储区域需要根据数据的情况进行设置,并根据数据更新频率和数据量来设置数据备份策略、日志数据转储策略等内容。以便可以提供更好的数据保护,并减少备份对服务器资源以及程序带来的影响和冲击。

对于重要数据或者业务应用场景要求高的,还需要考虑数据库发生事故时的切换,以保障应用服务的继续运行。根据需要设置切换的方案,包括其他数据保护选项,比如服务器集群,热备份等。必要时,DBA也需要负责通过重新加载必要的数据库和事务日志备份最大可能的恢复丢失的数据或损坏的数据。

提供恰当的保护机制,可确保数据的持续可用性、完整性、可恢复性,安全性。

5、设定数据库性能服务水平

数据库的性能服务水平有两方面:可用性和性能。性能是以可用性做为前提的。数据服务管理部门与数据所有人之间通过服务水平协议定义数据库的性能期望。一般来说,协议中规定了数据库的可用性时间和有选择的几个应用程序事务(复杂查询和更新的组合),在确定的可用性时间范围内指定最大允许执行时间。

可用性是系统或数据库能提供正常生产工作的时间百分比。

以下4个因素影响数据库的可用性:

  • 可管理性:产生可维护有效环境的能力;
  • 可恢复性:发生中断时重建服务的能力,更正不可预料事件发生所导致错误的能力;
  • 可靠性:在规定时期内提供指定服务水平的能力;
  • 可服务性:确定问题所在、诊断错误原因以及修复和解决问题的能力;

很多因素都有可能导致数据库丧失可用性。DBA的责任是采取有效措施保证数据库在线运行正常。(P99页列举了可能导致数据库不可用的因素)

6、监控并调整数据库性能

通过监控数据库性能和问题,DBA可以主动或被动的优化数据库性能。根据DBMS提供性能监听功能,生成分析报告。DBA应当保存不同时期和版本的报告,以便进行新旧对比分析,通过报告中数据的发展趋势,来分析是否出现了问题,也有助于分析哪些问题是伴随时间推移而产生的。

书中列举了大量可能导致性能低下的原因(P100),可重点关注这些方面,并有针对性的采取相应措施,改善数据库性能。但是需要注意的是,反范式化只能在其他行动无效后方可使用,并且在使用时仔细考虑其可能导致的其他后果。

7、规划数据留存方案

不是所有的数据都会永远存留的主存储器上,所以物理数据库设计的一个重要部分是数据的留存规划。不再有效支持应用程序处理的数据应当归档并转移到次存储器上,对于废弃、无用的数据也需要定期进行清理。

数据库设计期间就需要与数据的所有者讨论数据保留问题,并达成数据有效期内如何使用数据的协议。

数据管理的主要原则之一就是维护数据的代价永远不应该超过这些数据带给组织的价值。

8、归档、留存和清除数据

DBA应当同应用开发人员以及其操作人员合作实施已经批准的数据留存规划。对副存储区、数据库作业周期以及清理规则进行设置。

9、支持专用数据库

特殊情况下可以使用特殊类型的数据库,并进行专用的数据库管理。在支持特殊数据库管理上,DBA负责确保定期备份数据库,执行数据库恢复测试。这个并不存在管理难度,核心是如果要将这个特殊的数据库上的数据融合到其他的一个或多个关系数据库中时,数据整合是极具挑战性的工作。所以组织在购买数据库时应进行充分的考虑和讨论,并给出妥善的解决方案。

三、数据技术管理

DBA需要理解数据技术需求,在了解数据技术原理,并且能够知道数据技术在怎样的情况下提供有效价值。

选择数据技术的出发点:

  • 解决的问题是什么?
  • 提供其他数据技术没有的功能吗?
  • 没有而其他数据技术可提供的功能?
  • 是否需要特殊硬件要求?
  • 是否有特别的操作系统需求?
  • 需要特殊的软件才能获得该数据技术所宣称的功能?
  • 是否有特殊的存储需求?
  • 对网络或连接有特殊需求?
  • 是否包括数据安全功能?
  • 是否需要特殊技能来支持?是否需要从外面引进人才?

数据技术管理是对数据管理过程中需要的各类工具进行管理。包括:数据库软件、数据库管理及辅助工作工具、数据建模和模型管理软件、智能分析软件、数据整合工具、数据质量和清理工具、元数据管理软件、虚拟化工具,以及涉及到版本管理、故障处理、测试等方面的工具。

数据技术管理工作包括:

  • 定义数据技术架构
  • 评估数据技术
  • 安装和管理数据技术
  • 备案和跟踪数据技术的使用许可
  • 支持数据技术的使用和问题

培训是做到有效地理解和应用各种技术的关键。企业应该针对每个参与实施人员、支持人员、使用数据人员、数据库技术人员制定有效的培训计划和预算。

四、数据操作管理的指导原则

实施数据操作管理的指导原则:(参考Craig Mullins编著的《数据库管理》)

  • 记录所有事件;
  • 保留所有记录;
  • 尽可能程序自动化处理;
  • 集中理解每个任务的目的,管理范围,简化事情,一次做一件事;
  • 三思而后行;
  • 沉着冷静,避免更多错误;
  • 不仅了解技术,也要了解业务;
  • 相互协作,提供帮助,彼此评审,共享知识;
  • 利用所有资源;
  • 持续更新;

五、过程总结

详见链接:

DAMA数据管理各职能总结​note.youdao.com

六、组织和文化的影响

企业往往从应用的角度去看待数据,安全的、可再利用的、高质量的数据所带来的的长期价值以及“将数据视为企业资源”的观点,通常还不被企业认可和重视。

DBA与组织内的其他角色,通常处于对立状态,对技术的改变适应慢。可以通过一些方法和策略来促进更有效的合作方式,满足企业数据和信息需求。了解谁是利益相关者,需求是什么?设立一套清晰、简洁、实际、以业务为中心的标准,传播和实施这些标准,为利益相关者提供最大的价值,以达到最佳的效果。

组织可以依据实际情况设置DBA的数量和区分DBA的类型,比如应用DBA、过程DBA等。

dama数据管理知识体系指南_DAMA知识体系解读(6)数据操作管理相关推荐

  1. DB2 9 使用开辟(733 检验)认证指南,第 2 部分: DB2 数据操作(1)

    学习根基不美概念 级别: 中级 Sunil Sabat, 技术同盟司理, PeopleSoft 在本教程中,您将学习 DB2 数据库中数据操作的根基不美概念.这是分 9 部分的系列教程的第 2 部分, ...

  2. DB2 9 使用拓荒(733 检讨)认证指南,第 2 部分: DB2 数据操作(6)

    学习根柢根底观观点 操作游标 游标措置概述 在本节中,您将更进一步看到若安在嵌入式 SQL 使用次第中运用游标.异常,根柢根底的步骤照旧是声明.翻开.获取.更新/删除(可选)和封闭. 为了赞助看法游标 ...

  3. DAMA数据管理知识体系指南-读书笔记6

    第六章 数据存储和操作 一.引言 定义:数据存储与操作包括对存储数据的设计.实施和支持,最大化实现数据资源的价值,贯穿于数据创建/获取到处置的整个生命周期. 2个活动: 数据库操作支持:主要关注与数据 ...

  4. dama数据管理知识体系指南第二版pdf_DMBOK数据管理 - CDMP认证培训

    专业数据从业者的体系课程和权威认证 1. DAMA和CDMP介绍 DAMA International成立于1988年,是一个由技术和业务专业人员组成的全球领域的非营利的独立于厂商的数据管理专业协 会 ...

  5. 《DAMA数据管理知识体系指南》读书笔记-第十二章(元数据管理)

    目录 一.前言 二.内容结构 三.主要内容 1.引言 2.活动 3.工具 4.方法 5.实施指南 6.元数据治理 四.思考与总结 一.前言 本文是<DAMA数据管理知识体系指南>第12章的 ...

  6. 【数仓】DAMA数据管理知识体系指南

    [数仓]DAMA数据管理知识体系指南 金融类公司非常爱问数据治理.数据质量.元数据管理等问题. 中金公司笔试也考了 DAMA 数据治理的内容. 金融公司的开发工作较少,更多的是管理类工作 今天分享一本 ...

  7. DAMA数据管理知识体系指南之数据管理和数据治理

    全网最全大数据面试提升手册! 简介:DAMA:国际数据管理协会,是一个全球性数据管理和业务专业志愿人士组成的非营利协会,是当前国际上在数据治理领域最权威的机构.DMBOK2则是DAMA组织众多数据管理 ...

  8. DAMA数据管理知识体系指南-读书笔记3

    第三章 数据治理 一.引言 职能:指导所有其他数据管理领域的活动: 目的:确保数据管理制度和最佳实践正确地管理数据. 1.1 业务驱动因素 数据治理的驱动因素大多聚焦于减少风险或改进流程. (1)减少 ...

  9. DAMA数据管理知识体系指南之数据架构和建模

    全网最全大数据面试提升手册! 一.数据架构语境关系图 企业架构包括多种不同类型,如包括业务架构.数据架构.应用架构和技术架构等.其中数据架构的主要目标是有效地管理数据,以及有效地管理存储和使用数据的系 ...

最新文章

  1. [HDOJ2819]Swap(二分图最大匹配, 匈牙利算法)
  2. vscode编辑器自动格式化
  3. (原創) 鐵拳4真是超級好玩~~ (日記)
  4. 除留余数法构造哈希表_哈希表算法原理
  5. Linux vi编辑器常见命令的使用
  6. Android开发之使用Android studio进行两个项目合并的方法
  7. mesos marathon mysql_Mesos以及Marathon安装总结
  8. C++语言基础 —— STL —— 容器与迭代器 —— bitset
  9. 文件服务器数据备份方案,BACKUPPC服务器数据备份方案.pdf
  10. Ubuntu 16.04的k8s安装配置
  11. I2C总线协议原理介绍
  12. 移动网络安全_徐州市“移动杯”网络安全技能竞赛 即将开始!
  13. TO B的百度云新品问世/价格腰斩 智能化DNA能撑起百度野心?
  14. Dynamics 365 IFD设置反向代理后无法跳转登录页的解决方法
  15. ANSYS FLUENT——最基本操作(以一个简单的案例为例)
  16. arcgis农田图例_ArcGIS在高标准农田建设项目图件制作中的应用
  17. 对数似然函数值/最大近然估计/log likelihood
  18. 记录梦幻手游PC端辅助开发及设计思路之整体架构
  19. 长城欧拉,一个最伤女人“芯”的汽车品牌
  20. Linux学习 邮件

热门文章

  1. 机器学习中有哪些距离度量方式
  2. 两个链表生成相加链表
  3. android getprop 分辨率,Android getprop 读取的属性哪里来的?
  4. Vue项目如何提高效率?大厂2大实践总结告诉你
  5. Hbase2.1.0-CDH6.3.2 Region in Transition (永久RIT) 异常解决
  6. 验证:使用node 12.18.4版本安装vue cli4没有问题(先卸载vue cli2再安装)
  7. python2/python3安装pip/pip3及使用国内镜像源(python2/3同时安装)
  8. 详解各种锁:CAS、共享锁、排它锁、互斥锁、悲观锁、乐观锁、行级锁、表级锁、页级锁、死锁、JAVA对CAS的支持、ABA问题、AQS原理
  9. MySQL多表与分组练习题及答案
  10. Java基础--通过反射获取成员方法并使用