我们跟数据打交道的人都应该知道,数据在存储系统传输中,经过了多个部件、多种传输通道和复杂的软件处理过程,其中任意一个环节发生错误都可能会导致数据错误。但是这种错误一般无法被立即检测出来,而是后续通过应用在访问数据过程中,才发现数据已经出错,这种数据很难在数据发生错误那一刻被检查出来的错误,我们称为静默数据破坏,即Silent Data Corruption。

静默数据破坏产生原因

数据产生静默数据破坏的原因有很多种,但大致可以归结为以下几类。

  • 硬件错误:内存、CPU、硬盘、数据传输链路等

  • Firmware错误:HBA、硬盘等

  • 软件bug:系统软件、操作系统、应用程序等

  • 其他因素:如噪声、电磁等原因。

数据一致性标准和组织

在2007年,由Emulex、Oracle、LSI、希捷成立了DII (Data Integrity Initiative)。由SNIA建立了DITWG(SNIA Data Integrity Working Group)。他们主要关注两个技术,T10 Protection Information—DIF和Data Integrity Extensions—DIX。

T10标准是通过对每个数据块加入保护信息(PI,Protection Information),曾被称作数据完整性域(DIF,Data Integrity Field)的方法来保护数据完整性。在每个逻辑扇区扩充了8字节的保护信息用来保证数据一致性,8字节包括2字节的Logical Block Guard,2字节的Logical Block Application Tag和4字节的Logical Block Reference Tag。

T10 PI只包含了从主机HBA卡通过存储阵列到硬盘的数据保护,DIX为了延伸DIF的保护范围。将数据完整性保护扩充到了应用层到HBA。DIX使用和T10 PI一样的8字节数据完整性信息作为数据校验字段。不同的是,DIX中使用了IP Checksum作为Logical Block Guard,降低主机CPU的计算开销。

DIX+DIF可以实现从应用到硬盘的端到端数据保护。DIX保证应用、HBA卡的数据完整性,T10 PI(DIF)保证HBA 、阵列和硬盘的数据完整性。

DIX和DIF数据读写流程

数据完整性额外添加的8字节校验数据分若干段,在存储侧叫DIF,后改名为T10 PI;在主机侧叫DIX。写数据时,主机HBA总线适配器、阵列目标器芯片或者其它组件根据用户数据生成 8字节PI,数据传输过程中会经过检查点,校验数据和PI是否匹配,如果发现错误,向上返回错误,如果没有错误,则继续向下传输,最终写入硬盘。

写数据流程:当数据写到主机内存的时候,Oracle ASM library会对每512字节数据增加8字节DIX校验,8字节校验会随IO请求一起,穿过OS,到达HBA卡驱动;HBA卡进行DIX校验检查后删除DIX校验,并生成8字节PI校验和数据一起发送给阵列,阵列校验数据完整性,并将数据发送到硬盘。

读数据流程:从硬盘读出数据和T10 PI并校验完整性。若发现错误,则通过RAID重建修复数据,如果没有错误则继续向上传输。HBA进行T10 PI校验后删除T10 PI,并生成DIX保护信息返回主机。DIX保护信息会随IO请求一起,穿过OS,返回应用层。ASM Library对数据和DIX保护信息进行校验。

支持DIX的必要条件

要使用数一致性特性,首先阵列需要支持标准的T10 PI,及时不支持DIX,也可以在存储上支持T10 PI; 其次需要特定配置的数据库、操作系统和HBA等组件。

  • 数据库:Oracle 11g级以上。

  • OS:Oracle Linux 5 or 6 running the UEK2-200 kernel。

  • HBA:Emulex、Qlogic特定型号的FC HBA卡

支持DIX的存储厂商

由于DIX和P10在企业Oracle数据库应用比较广泛,且是存储一大亮点,所以主流的存储厂商都支持该特性,如EMC VNX系列支持自定义PI、VMAX支持标准的T10 PI,且支持DIX;HDS HUS系列支持自定义PI、HDS VSP支持PI;IBM DS8000支持标准的T10 PI,DS5000某些特定型号支持PI;HP P10000支持标准的T10 PI,华为 OceanStor 18000和V3全系列。

文件系统是否要DIF

需要提及一点的是,T10 PI需要磁盘提供520扇区来支持(512用来存放数据,8字节用来存储T10 PI校验数据),希捷支持这种磁盘。一般文件系统不需要DIF,原因是文件系统通过元数据管理数据,会造成IO的页面数据布局不断变化,且数据库和网卡厂商相应力度不足,并未形成类似规范和标准。搜索“ICT_Architect”加入微信公众号“架构师技术联盟”获取更多精彩内容。

DIX和DIF该诉你,什么叫端到端数据一致性相关推荐

  1. CSDN日报20170312——《成功人士的七个习惯》

    [程序人生]成功人士的七个习惯 作者:liumiaocn 所谓温故而知新,重读往往会带来新的收获,即使没有新的收获,能够带来新的思考也是非常不错.在个人成长的历程中,习惯所扮演的角色不言而喻,Step ...

  2. 如何保护您的数据免遭未经授权的访问

    Data protection is one of the primary concerns of organizations around the world today. Information ...

  3. SkyNet:字节跳动泛客诉问题挖掘与风险监控中台实践

    背景 随着互联网和智能手机的普及,人们的生活大多时候都离不开移动 App,在信息量与日俱增的大数据时代,用户反馈数据可以帮助发现热点问题.避免安全问题.优化产品体验.提升产品质量等. 简介 SkyNe ...

  4. 特斯拉诉旗下二手分公司侵权;雷军晒与小米自动驾驶测试车合照;中国努力探索元宇宙“新蓝海” | 每日大事件...

    数据智能产业创新服务媒体 --聚焦数智 · 改变商业 01.特斯拉诉自家旗下二手车分公司侵权 8月29日消息,近日,特斯拉(上海)有限公司新增一则立案信息,被告为特斯拉二手车(广州)有限公司武侯分公司 ...

  5. Trax:客户的业务诉求在哪里 解决方案就在哪里

    如果你是一个经常"留恋"超市的人,稍加观察也许你会注意到:蔬果区或面包区总是设置在超市的入口,冷冻食品总是要走完超市才能看到,而收银台前总是摆满各种低价的商品--超市经营者如此布局 ...

  6. oracle手机怎么样,ORACLE环境存储哪家强?

    大家周四好. 今天北京的天气非常有诗意,白天也懂夜的黑,大家见面第一家话就是,今天你吸了吗? 昨天我们聊了the Power of MONEY.西瓜哥记得有一首歌叫the power of love. ...

  7. 《NVM-Express-1_4-2019.06.10-Ratified》学习笔记(1)

    材料说明: 文档<NVM-Express-1_4-2019.06.10-Ratified.pdf>来自于NVMe网站:https://nvmexpress.org/ 笔记目的是学习NVMe ...

  8. 《NVM-Express-1_4-2019.06.10-Ratified》学习笔记(8)

    8 Feature(特性) 8.1 固件升级过程 固件升级通过重启激活的过程是: 1. 主机发一个Firmware Image Download命令,下载固件映像版本到controller.可能有多个 ...

  9. 存储技术对比:NVMe与SATA孰强孰弱?

    闪存的性能表现,可以说对得起它的名号了,但是它的速度还是有提升空间的,特别是在数据中心领域. 为了追求更快的存储性能,企业对NVMe越来越感兴趣.这是一项"闪存友好型"技术,可以极 ...

最新文章

  1. 利用线程下载网页中的程序并另存到本地
  2. 趣谈设计模式 | 代理模式(Proxy):利用代理来控制对象的访问
  3. 嵌入式Linux启动过程中的问题积累
  4. python关键字的意思_python 关键字(Keywords)
  5. 风压和功率计算公式轴流式_水泵和风机的功率计算及风量、风压的附加系数
  6. 关于CSS兼容IE与Firefox要点分析
  7. python输入整数n计算并输出1+22+333_Python 经典练习题-016
  8. PyCharm 的初始设置
  9. 选择JSF不选Struts的十大理由
  10. HPZ420 工作站主板图
  11. pip 在c盘的文件路径
  12. Java越学越迷茫,应该怎么办?
  13. jQuery 事件冒泡
  14. easyUI详解教程
  15. c语言做相册影集,制作DIY相册影集教程-如何制作影集
  16. 校内互测题 by LMY (FSN)
  17. Hive基础(安装)
  18. python视频网站项目_Python Flask 项目实战—构建微电影视频网站
  19. IT职场人生系列之二十三 知识体系(专家与杂家)
  20. 量子超级计算机概念,从超级计算机到量子计算机的飞跃,或将解开物理学中最神秘概念!...

热门文章

  1. android状态栏高度px,安卓720*1280界面尺寸规范参考
  2. 从零开始之uboot、移植uboot2017.01(四、uboot的重定位)
  3. 前端怎么从H5调起微信扫描二维码?小程序使用扫码功能.
  4. 【Axure交互教程】利用全局变量实现跨页面传值
  5. 【关于QT QMediaPlayer 打包后不能播放声音(plugins文件问题引起)】
  6. python excel表格排序_Python实现EXCEL表格的排序功能
  7. RK3399 Android7.1修改系统默认USB功能
  8. html手机自动放大,解决HTML5手机端页面缩放的问题
  9. singleTask 与 taskAffinity 缠绵的那些事
  10. 积分不等式证明的三种方法_20160416