HP存储raid5两块硬盘离线lvm下vxfs文件系统恢复数据方案

故障描述
HP FC MSA2000存储，由于RAID5阵列中出现2块硬盘损坏并离线，而此时只有一块热备盘成功激活，因此导致RAID5阵列瘫痪，上层LUN无法正常使用，用户联系联系北亚数据，整个存储空间由8块450GB SAS的硬盘组成，其中7块硬盘组成一个RAID5的阵列，剩余1块做成热备盘使用。
由于存储是因为RAID阵列中某些磁盘掉线，从而导致整个存储不可用。因此接收到磁盘以后先对所有磁盘做物理检测，检测完后发现没有物理故障。接着使用坏道检测工具检测磁盘坏道，发现也没有坏道。
解决方法：
1、备份数据
考虑到数据的安全性以及可还原性，在做数据恢复之前需要对所有源数据做备份，以防万一其他原因导致数据无法再次恢复。使用dd命令或winhex工具将所有磁盘都镜像成文件。备份完部分数据如下图：

2、分析故障原因
由于前两个步骤并没有检测到磁盘有物理故障或者是坏道，由此推断可能是由于某些磁盘读写不稳定导致故障发生。因为HP MSA2000控制器检查磁盘的策略很严格，一旦某些磁盘性能不稳定，HP MSA2000控制器就认为是坏盘，就将认为是坏盘的磁盘踢出RAID组。而一旦RAID组中掉线的盘到达到RAID级别允许掉盘的极限，那么这个RAID组将变的不可用，上层基于RAID组的LUN也将变的不可用。目前初步了解的情况为基于RAID组的LUN有6个，均分配给HP-Unix小机使用，上层做的LVM逻辑卷，重要数据为Oracle数据库及OA服务端。
3、分析RAID组结构
HP MSA2000存储的LUN都是基于RAID组的，因此需要先分析底层RAID组的信息，然后根据分析的信息重构原始的RAID组。分析每一块数据盘，发现4号盘的数据同其它数据盘不太一样，初步认为可能是hot Spare盘。接着分析其他数据盘，分析Oracle数据库页在每个磁盘中分布的情况，并根据数据分布的情况得出RAID组的条带大小，磁盘顺序及数据走向等RAID组的重要信息。
4、分析RAID组掉线盘
根据上述分析的RAID信息，尝试通过北亚自主开发的RAID虚拟程序将原始的RAID组虚拟出来。但由于整个RAID组中一共掉线两块盘，因此需要分析这两块硬盘掉线的顺序。仔细分析每一块硬盘中的数据，发现有一块硬盘在同一个条带上的数据和其他硬盘明显不一样，因此初步判断此硬盘可能是最先掉线的，通过北亚自主开发的RAID校验程序对这个条带做校验，发现除掉刚才分析的那块硬盘得出的数据是最好的，因此可以明确最先掉线的硬盘了。
5、分析RAID组中的LUN信息
由于LUN是基于RAID组的，因此需要根据上述分析的信息将RAID组最新的状态虚拟出来。然后分析LUN在RAID组中的分配情况，以及LUN分配的数据块MAP。由于底层有6个LUN，因此只需要将每一个LUN的数据块分布MAP提取出来。然后针对这些信息编写相应的程序，对所有LUN的数据MAP做解析，然后根据数据MAP并导出所有LUN的数据。

6、解析LVM逻辑卷
分析生成出来的所有LUN，发现所有LUN中均包含HP-Unix的LVM逻辑卷信息。尝试解析每个LUN中的LVM信息，发现其中一共有三套LVM，其中45G的LVM中划分了一个LV，里面存放OA服务器端的数据，190G的LVM中划分了一个LV，里面存放临时备份数据。剩余4个LUN组成一个2.1T左右的LVM，也只划分了一个LV，里面存放Oracle数据库文件。编写解释LVM的程序，尝试将每套LVM中的LV卷都解释出来，但发现解释程序出错。
7、修复LVM逻辑卷
仔细分析程序报错的原因，安排开发工程师debug程序出错的位置，并同时安排高级文件系统工程师对恢复的LUN做检测，检测LVM信息是否会因存储瘫痪导致LMV逻辑卷的信息损坏。经过仔细检测，发现确实因为存储瘫痪导致LVM信息损坏。尝试人工对损坏的区域进行修复，并同步修改程序，重新解析LVM逻辑卷。
8、解析VXFS文件系统
搭建HP-Unix环境，将解释出来的LV卷映射到HP-Unix，并尝试Mount文件系统。结果Mount文件系统出错，尝试使用“fsck –F vxfs” 命令修复vxfs文件系统，但修复结果还是不能挂载，怀疑底层vxfs文件系统的部分元数据可能破坏，需要进行手工修复。
9、修复VXFS文件系统
仔细分析解析出来的LV，并根据VXFS文件系统的底层结构校验此文件系统是否完整。分析发现底层VXFS文件系统果然有问题，原来当时存储瘫痪的同时此文件在系统正在执行IO操作，因此导致部分文件系统元文件没有更新以及损坏。人工对这些损坏的元文件进行手工修复，保证VXFS文件系统能够正常解析。再次将修复好的LV卷挂载到HP-Unix小机上，尝试Mount文件系统，文件系统没有报错，成功挂载。
10、恢复所有用户文件
在HP-Unix机器上mount文件系统后，将所有用户数据均备份至指定磁盘空间。所有用户数据大小在1.2TB左右。部分文件目录截图如下：

11、检测数据库文件是否完整
使用Oracle数据库文件检测工具“dbv”检测每个数据库文件是否完整，发现并没有错误。再使用北亚自主研发的Oracle数据库检测工具（检验更严格），发现有部分数据库文件和日志文件校验不一致，安排高级数据库工程师对此类文件进行修复，并在次校验，直到所有文件校验均完全通过。
12、启动Oracle数据库
由于我们提供的HP-Unix环境没有此版本的Oracle数据，因此和用户协调将原始生成环境带至北亚数据恢复中心，然后将恢复的Oracle数据库附加到原始生产环境的HP-Unix服务器中，尝试启动Oracle数据库，Oracle数据库启动成功。部分截图如下：

13、数据验证
由用户方配合，启动Oracle数据库，启动OA服务端，在本地笔记本安装OA客户端。通过OA客户端对最新的数据记录以及历史数据记录进行验证，并且有用户安排远程不同部门人员进行远程验证。最终数据验证无误，数据完整，数据恢复成功。
由于故障发生后保存现场环境良好，没用做相关危险的操作，对后期的数据恢复有很大的帮助。整个数据恢复过程中虽然遇到好多技术瓶颈，但也都一一解决。最终在预期的时间内完成整个数据恢复，恢复的数据用户方也相当满意，Oracle数据库服务，OA服务端等所有服务能够正常启动。

HP存储raid5两块硬盘离线lvm下vxfs文件系统恢复数据方案相关推荐

HP存储raid5两块硬盘离线lvm下vxfs文件系统恢复数据过程
故障描述 HP FC MSA2000存储,由于RAID5阵列中出现2块硬盘损坏并离线,而此时只有一块热备盘成功激活,因此导致RAID5阵列瘫痪,上层LUN无法正常使用,用户联系联系北亚数据,整个存储空 ...
【服务器数据恢复】HP StorageWorks系列存储RAID5两块盘离线的数据恢复
服务器存储数据恢复环境: HP StorageWorks系列存储: VMWARE ESX虚拟主机平台,VMFS文件系统: 8块硬盘组成RAID5,1块热备盘. 服务器存储故障: 服务器在正常运行中两块 ...
HP P2000 RAID-5两块盘离线的数据恢复报告
1. 故障描述本案例是HP P2000的存储vmware exsi虚拟化平台,由RAID-5由10块lT硬盘组成,其中6号盘是热备盘,由于故障导致RAID-5磁盘阵列的两块盘掉线,表现为两块硬盘亮黄 ...
Dell 2850服务器磁盘阵列两块硬盘离线恢复过程
服务器故障描述: 客户使用Dell 2850服务器组建了raid5磁盘阵列,阵列中包含有6块硬盘(SCSI硬盘,单盘容量300G),服务器操作系统为linux Redhat4:文件系统为ext3文件系 ...
又一例两块硬盘离线的数据恢复成功案例
服务器数据恢复背景北京某国企的一台服务器在正常运行过程中突然崩溃,该服务器共有240块硬盘,其中元数据存储使用了24块硬盘,硬盘搭配情况为9组raid1磁盘阵列和1组raid10磁盘阵列.其余所有硬 ...
两块硬盘离线数据恢复全过程
服务器数据恢复背景北京某国企的一台服务器在正常运行过程中突然崩溃,该服务器共有240块硬盘,其中元数据存储使用了24块硬盘,硬盘搭配情况为9组raid1磁盘阵列和1组raid10磁盘阵列.其余所有硬 ...
Raid5两块硬盘掉线数据恢复方法和数据恢复过程
本案例中发生故障的存储类型是HP P2000,虚拟化平台为vmware exsi,共有10块硬盘组成raid5(硬盘容量为1t,其中6号盘是热备盘),由于某些故障导致阵列中两块硬盘亮黄灯掉线,硬盘无法 ...
raid5两块硬盘掉线数据恢复成功
[故障是怎么发生的] 服务器型号:Dell POWEREDGE服务器 Raid级别:12*500G 硬盘组成raid5 系统平台:Linux平台文件系统:ext3文件系统故障描述:在正常工作中卷突 ...
P2000 RAID-5两块盘离线数据恢复过程
服务器数据恢复故障描述服务器型号:HP P2000 服务器操作系统:VMWARE ESX 服务器文件系统:VMFS 磁盘阵列级别:RAID-5 需要进行数据恢复的服务器挂载了8块 ...

HP存储raid5两块硬盘离线lvm下vxfs文件系统恢复数据方案

HP存储raid5两块硬盘离线lvm下vxfs文件系统恢复数据方案相关推荐

最新文章

热门文章