数据生命周期管理(Lifecycle Management)
概述:
oracle的生命周期管理叫做Information Lifecycle Management(ILM)
SQL server的生命周期管理叫做Database Lifecycle Managemet(DLM)
Elasticsearch的生命周期管理叫做Index Lifecycle Management(ILM)SQL server的生命周期管理:数据库生命周期管理 (DLM) 是一种基于策略的方法,用于管理数据库和数据资产。 DLM 不是一种产品而是管理数据库应
用程序的数据库架构、 数据和元数据的一套全面的方法。DLM采用深思熟虑且主动的方法,组织可以根据相应的性能、保护、可用性和成本的级别来管理数据资源。DLM从项目设计和目标开始,从而进行数据库开发,测试,构建,部署,维护,监视和备份活动,最后是数据存档。
在此期间还包括数据管理活动和数据可移植性操作,如导入/导出,备份和还原,迁移和同步。
SQL server的生命周期管理:
Elasticsearch的生命周期管理:
ES的生命周期管理的API能随着时间的推移自动化的管理Index索引数据。除了简化基于indics索引数据的定时行为的管理操作,
还可以基于其他因素如性能要求和分片数的操作。可以通过将生命周期策略附加到索引模块用于控制索引如何处理老化的索引,索引策略可以修改新的索引和既有的索引的生命周期。可以通过将生命周期策略附加到索引模块用于控制索引如何处理老化的索引,索引策略可以修改新的索引和既有的索引的生命周期。对于时间序列索引,索引生命周期中有四个阶段:
hot - 索引数据正在活跃的更新和查询
warm - 索引数据不再被更新,但是仍被查询
cold - 索引已经不被更新且很少查询。但是索引数据的信息还需要被搜索,若被搜索则比较慢。
delete - 索引不再被需要可以安全的删除。Hot-索引正在积极更新和查询。
暖 - 索引不再更新,但仍在查询中。
冷 - 索引不再被更新,很少被查询。信息仍然需要搜索,但如果这些查询速度较慢也没关系。
删除 - 不再需要索引,可以安全删除。
生命周期策略控制索引数据如何在这些阶段中转换以及在每个阶段对索引执行的操作。该政策可以指定:要转移到新索引的最大大小或年龄。
索引不再更新的点和主分片的数量可以减少。
何时强制合并以永久删除标记为删除的文档。
索引何时可以移动到性能较低的硬件的时间点。
可用性不那么重要 和副本的数量可以减少的点。
何时索引数据可以安全删除。
例如,如果要将一组ATM中的度量标准数据写入到Elasticsearch,则可以定义一个策略:当索引达到50GB时,转到新索引。
将旧索引移动到warm阶段,将其标记为只读,并将其缩小为单个分片。
7天后,将索引移至cold阶段并将其移至较便宜的硬件。
一旦达到所需的30天保留期后,删除索引。
重要
索引生命周期管理不支持混合版本集群使用。尽管可以针对较新版本的节点创建此类新策略,
但无法保证它们可以按预期工作。使用旧版本节点中不存在的新操作的新策略将导致错误。
参考:
https://www.elastic.co/guide/en/elasticsearch/reference/current/index-lifecycle-management.html
https://docs.microsoft.com/zh-cn/sql/relational-databases/database-lifecycle-management?view=sql-server-2017
数据生命周期管理(Lifecycle Management)相关推荐
- oracle12c生命周期,Oracle 12c 新特性之: ILM 数据生命周期管理
张乐奕 云和恩墨副总经理,Oracle ACE总监,ACOUG 联合创始人 ILM 全称是 Information Lifecycle Management,意思是信息生命周期管理,听上去很高端洋气的 ...
- Oracle 12c 新特性之: ILM 数据生命周期管理
张乐奕 云和恩墨副总经理,Oracle ACE总监,ACOUG 联合创始人 ILM 全称是 Information Lifecycle Management,意思是信息生命周期管理,听上去很高端洋气的 ...
- 数据治理之数据生命周期管理
大数据业务系统,在运行过程中会产生大量历史数据,这些历史数据日积月累下来,除了增加集群的存储成本,也会影响大数据集群之上的应用系统的运行效率(因为整个大数据集群的hdfs, hive, hbase等存 ...
- 数据生命周期管理的初步实现
这是学习笔记的第 2013 篇文章 最近几天在整理数据生命周期的一些东东,也码了几篇文章. 开始的调研只是验证了这个可行性,当然也是想的过于乐观,导致在实现的时候翻车. 就好比我要榨果汁,本来是用火龙 ...
- 数据治理-数据生命周期管理-大数据归档与销毁
数据归档 在大数据时代,存储成本显著降低的情况,企业希望在技术方案的能力范围之内尽量存储更多的数据.但大数据时代同样带来了数据的急剧增长,因此数据归档仍然是数据管理必须考虑的问题.与传统的数据备份和数 ...
- 数据治理-数据生命周期管理-大数据采集
大数据采集 为满足企业或组织不同层次的管理与应用的需求,数据采集分为三个层次. 第一层次,业务电子化.为满足业务电子化的需求,实现业务流程的信息化记录,在本阶段中,主要实现对于手工单证的电子化存储,并 ...
- npm scripts的生命周期管理
2019独角兽企业重金招聘Python工程师标准>>> 我们平时阅读一些开源项目,可能会发现有些项目的package.json里的scripts区域定义的脚本很复杂,令人眼花缭乱. ...
- 从全生命周期管理角度看大数据安全技术研究
从全生命周期管理角度看大数据安全技术研究 李树栋1,2, 贾焰2, 吴晓波3, 李爱平2, 杨小东4, 赵大伟5 1. 广州大学网络空间先进技术研究院,广东 广州 510006 2. 国防科技大学计算 ...
- 热温冷冰,数据存储需要全生命周期管理
随着云计算.大数据等新兴应用广泛普及,业务数据呈现爆炸式增长,海量数据的高效访问.经济存储和智能管理变得越来越重要. 从数据生命周期来看,在数据刚生成并使用时,属于在线数据,在线数据访问的频率最高,数 ...
最新文章
- QT中如何读写ini配置文件
- Go语言MD5加密用法实例
- Gitlab代码托管服务器安装
- 64win7+64Oracle+32plsql
- 在vue中使用代理地址出现将代理拦截地址拼接到了接口请求中的情况
- Ollydbg使用教程学习总结(一)
- java 自动类型转换_彻底理解Java中的基本数据类型转换(自动、强制、提升)
- pythonlambda菜鸟教程-Python reduce() 函数
- CleanCodeHandbook Chapter 4: Binary Tree(25-32)
- springBoot整合rabbitmq并测试五种常用模型
- 简单的二维数组问题,不用不知道,一用吓一跳
- 【转】小议Bug敏感度---Bug敏感度的故事(一)
- java 关于System类下的arraycopy方法
- 2-Centos7下安装部署RabbitMQ
- 计算机it互联网有什么区别,什么叫“IT”技术
- 辣椒app软件测试,testflight辣椒视频APP
- 【前端】基于layui写的一个高级搜索(筛选)功能
- QtCreator中Kits选项变灰,有感叹号
- Intel前CEO欧德宁的“功“与”过”
- 解决 C# GetPixel 和 SetPixel 效率问题