Linux磁盘存储和文件系统
2024-05-13 18:13:22
磁盘存储和文件系统
设备文件
I/O Ports: I/O设备地址
一切皆文件：open(), read(), write(), close()
设备类型：块设备：block，存取单位“块”，磁盘字符设备：char，存取单位“字符”，键盘
设备文件：关联至一个设备驱动程序，进而能够跟与之对应硬件设备进行通信
设备号码：主设备号：major number, 标识设备类型次设备号：minor number, 标识同一类型下的不同设备
硬盘接口类型
并行：IDE：133MB/sSCSI：640MB/s
串口：SATA：6GbpsSAS：6GbpsUSB：480MB/s
机械硬盘和固态硬盘
机械硬盘（HDD）：Hard Disk Drive，即是传统普通硬盘，主要由：盘片，磁头，盘片转轴及控制电机，磁头控制器，数据转换器，接口，缓存等几个部分组成。机械硬盘中所有的盘片都装在一个旋转轴上，每张盘片之间是平行的，在每个盘片的存储面上有一个磁头，磁头与盘片之间的距离比头发丝的直径还小，所有的磁头联在一个磁头控制器上，由磁头控制器负责各个磁头的运动。磁头可沿盘片的半径方向运动，加上盘片每分钟几千转的高速旋转，磁头就可以定位在盘片的指定位置上进行数据的读写操作。数据通过磁头由电磁流来改变极性方式被电磁流写到磁盘上，也可以通过相反方式读取。硬盘为精密设备，进入硬盘的空气必须过滤固态硬盘（SSD）：Solid State Drive，用固态电子存储芯片阵列而制成的硬盘，由控制单元和存储单元（FLASH芯片、DRAM芯片）组成。固态硬盘在接口的规范和定义、功能及使用方法上与普通硬盘的完全相同，在产品外形和尺寸上也与普通硬盘一致相较于HDD，SSD在防震抗摔、传输速率、功耗、重量、噪音上有明显优势，SSD传输速率性能是HDD的2倍 相较于SSD，HDD在价格、容量占有绝对优势硬盘有价，数据无价，目前SSD不能完全取代HHD
设备文件
磁盘设备的设备文件命名：/dev/DEV_FILE
SCSI, SATA, SAS, IDE,USB: /dev/sd
虚拟磁盘：/dev/vd 、/dev/xvd
不同磁盘标识：a-z,aa,ab…/dev/sda, /dev/sdb, ...
同一设备上的不同分区：1,2, .../dev/sda1, /dev/sda5
硬盘存储术语head：磁头track：磁道cylinder：柱面 sector：扇区，512bytes
CHS和LBA
CHS采用24bit位寻址其中前10位表示cylinder，中间8位表示head，后面6位表示sector最大寻址空间8GB
LBA（logical block addressing） LBA是一个整数，通过转换成CHS格式完成磁盘具体寻址ATA-1规范中定义了28位寻址模式，以每扇区512位组来计算，ATA-1所定义的28位LBA上限达到128 GiB。2002年ATA-6规范采用48位LBA，同样以每扇区512位组计算容量上限可达128 Petabytes
由于CHS寻址方式的寻址空间在大概8GB以内，所以在磁盘容量小于大概8GB时，可以使用CHS寻址方式或是LBA寻址方式；在磁盘容量大于大概8GB时，则只能使用LBA寻址方式
使用分区空间
设备识别
设备分区
创建文件系统
标记文件系统
在/etc/fstab文件中创建条目
挂载新的文件系统
磁盘分区
为什么分区优化I/O性能实现磁盘空间配额限制提高修复速度隔离系统和程序安装多个OS采用不同文件系统分区
两种分区方式：MBR，GPT
MBR: Master Boot Record，1982年，使用32位表示扇区数，分区不超过2T
如何分区：按柱面
0磁道0扇区：512bytes446bytes: boot loader64bytes：分区表，其中每16bytes标识一个分区2bytes: 55AA
MBR分区中一块硬盘最多有4个主分区，也可以3主分区+1扩展(N个逻辑分区)
MBR分区结构
硬盘主引导记录MBR由4个部分组成
主引导程序（偏移地址0000H--0088H），它负责从活动分区中装载，并运行系统引导程序
出错信息数据区，偏移地址0089H--00E1H为出错信息，00E2H--01BDH全为0字节
分区表（DPT,Disk Partition Table）含4个分区项，偏移地址01BEH--01FDH,每个分区表项长16个字节，共64字节为分区项1、分区项2、分区项3、分区项4
结束标志字，偏移地址01FE--01FF的2个字节值为结束标志55AA
MBR结构
MBR中DPT结构
GPT分区
GPT:GUID（Globals Unique Identifiers） partition table 支持128个分区，使用64位，支持8Z（ 512Byte/block ）64Z （ 4096Byte/block）
使用128位UUID(Universally Unique Identifier) 表示磁盘和分区 GPT分区表自动备份在头和尾两份，并有CRC校验位
UEFI (Unified Extensible Firmware Interface 统一可扩展固件接口)硬件支持GPT，使操作系统启动
GPT分区结构
BIOS+MBR与UEFI+GPT
管理分区
列出块设备• lsblk
创建分区使用：• fdisk 创建MBR分区• gdisk 创建GPT分区• parted 高级分区操作
重新设置内存中的内核分区表版本• partprobeparted命令
parted的操作都是实时生效的，小心使用
用法：parted [选项]... [设备 [命令 [参数]...]...]parted /dev/sdb mklabel gpt|msdosparted /dev/sdb printparted /dev/sdb mkpart primary 1 200 （默认M）parted /dev/sdb rm 1parted –l 列出分区信息分区工具fdisk和gdisk
gdisk /dev/sdb 类fdisk 的GPT分区工具
fdisk -l [-u] [device...] 查看分区
fdisk /dev/sdb 管理分区
子命令：p 分区列表t 更改分区类型n 创建新分区d 删除分区v 校验分区u 转换单位w 保存并退出q 不保存并退出
同步分区表
查看内核是否已经识别新的分区cat /proc/partations
centos6通知内核重新读取硬盘分区表新增分区用partx -a /dev/DEVICEkpartx -a /dev/DEVICE -f: force删除分区用partx -d --nr M-N /dev/DEVICE
CentOS 5，7: 使用partprobepartprobe [/dev/DEVICE]
文件系统
文件系统是操作系统用于明确存储设备或分区上的文件的方法和数据结构；即在存储设备上组织文件的方法。操作系统中负责管理和存储文件信息的软件结构称为文件管理系统，简称文件系统从系统角度来看，文件系统是对文件存储设备的空间进行组织和分配，负责文件存储并对存入的文件进行保护和检索的系统。具体地说，它负责为用户建立文件，存入、读出、修改、转储文件，控制文件的存取，安全控制，日志，压缩，加密等支持的文件系统：/lib/modules/`uname –r`/kernel/fs
各种文件系统：https://en.wikipedia.org/wiki/Comparison_of_file_systems
文件系统类型
Linux文件系统：ext2(Extended file system) :适用于那些分区容量不是太大，更新也不频繁的情况，例如 /boot 分区ext3:是 ext2 的改进版本，其支持日志功能，能够帮助系统从非正常关机导致的异常中恢复。它通常被用作通用的文件系统ext4:是 ext 文件系统的最新版。提供了很多新的特性，包括纳秒级时间戳、创建和使用巨型文件(16TB)、最大1EB的文件系统，以及速度的提升xfs：SGI，支持最大8EB的文件系统btrfs（Oracle）, reiserfs, jfs（AIX）, swap光盘：iso9660
Windows：FAT32, exFAT,NTFS
Unix: FFS（fast）, UFS（unix）, JFS2
网络文件系统：NFS, CIFS
集群文件系统：GFS2, OCFS2（oracle） 分布式文件系统： fastdfs,ceph, moosefs, mogilefs, glusterfs, Lustre
RAW：未经处理或者未经格式化产生的文件系统
文件系统分类
根据其是否支持"journal"功能：日志型文件系统: ext3, ext4, xfs, ...非日志型文件系统: ext2, vfat
文件系统的组成部分：内核中的模块：ext4, xfs, vfat用户空间的管理工具：mkfs.ext4, mkfs.xfs,mkfs.vfat
Linux的虚拟文件系统：VFS
查前支持的文件系统：cat /proc/filesystems
VFS
文件系统选择
创建文件系统
mkfs命令：
(1) mkfs.FS_TYPE /dev/DEVICEext4xfsbtrfsvfat
(2) mkfs -t FS_TYPE /dev/DEVICE-L 'LABEL' 设定卷标创建ext文件系统
mke2fs：ext系列文件系统专用管理工具-t {ext2|ext3|ext4} 指定文件系统类型-b {1024|2048|4096} 指定块大小-L ‘LABEL’ 设置卷标-j 相当于 -t ext3mkfs.ext3 = mkfs -t ext3 = mke2fs -j = mke2fs -t ext3-i # 为数据空间中每多少个字节创建一个inode；不应该小于block大小-N # 指定分区中创建多少个inode-I 一个inode记录占用的磁盘空间大小，128---4096-m # 默认5%,为管理人员预留空间占总空间的百分比-O FEATURE[,...] 启用指定特性-O ^FEATURE 关闭指定特性文件系统标签
指向设备的另一种方法
与设备无关
blkid：块设备属性信息查看blkid [OPTION]... [DEVICE]-U UUID 根据指定的UUID来查找对应的设备-L LABEL 根据指定的LABEL来查找对应的设备e2label：管理ext系列文件系统的LABELe2label DEVICE [LABEL]findfs ：查找分区findfs [options] LABEL=<label>findfs [options] UUID=<uuid>tune2fs
tune2fs：重新设定ext系列文件系统可调整参数的值-l 查看指定文件系统超级块信息；super block-L 'LABEL’ 修改卷标-m # 修预留给管理员的空间百分比-j 将ext2升级为ext3-O 文件系统属性启用或禁用, –O ^has_journal-o 调整文件系统的默认挂载选项，–o ^acl-U UUID 修改UUID号 dumpe2fs：显示ext文件系统信息，将磁盘块分组管理-h：查看超级块信息，不显示分组信息 xfs_info：显示已挂载的 xfs 文件系统信息xfs_info mountpoint
超级块和INODE TABLE
文件系统检测和修复
文件系统夹故障常发生于死机或者非正常关机之后，挂载为文件系统标记为“no clean”
注意：一定不要在挂载状态下执行下面命令修复fsck: File System Checkfsck.FS_TYPEfsck -t FS_TYPE 注意：FS_TYPE 一定要与分区上已经文件类型相同-a 自动修复-r 交互式修复错误e2fsck：ext系列文件专用的检测修复工具-y 自动回答为yes-f 强制修复-p 自动进行安全的修复文件系统问题xfs_repair：xfs文件系统专用检测修复工具-f 修复文件，而设备-n 只检查-d 允许修复只读的挂载设备，在单用户下修复 / 时使用，然后立即reboot
挂载mount
挂载:将额外文件系统与根文件系统某现存的目录建立起关联关系，进而使得此目录做为其它文件访问入口的行为
卸载:为解除此关联关系的过程
把设备关联挂载点：mount Pointmount
卸载时：可使用设备，也可以使用挂载点umount 设备名|挂载点
挂载点下原有文件在挂载完成后会被临时隐藏
挂载点目录一般为空用mount命令挂载文件系统
挂载方法：mount DEVICE MOUNT_POINT
mount：通过查看/etc/mtab文件显示当前已挂载的所有设备
mount [-fnrsvw] [-t vfstype] [-o options] device dirdevice：指明要挂载的设备；(1) 设备文件：例如/dev/sda5(2) 卷标：-L 'LABEL', 例如 -L 'MYDATA'(3) UUID, -U 'UUID'：例如 -U '0c50523c-43f1-45e7-85c0-a126711d406e'(4) 伪文件系统名称：proc, sysfs, devtmpfs, configfsdir：挂载点事先存在，建议使用空目录进程正在使用中的设备无法被卸载mount常用命令选项-t vsftype 指定要挂载的设备上的文件系统类型-r readonly，只读挂载-w read and write, 读写挂载-n 不更新/etc/mtab，mount不可见-a 自动挂载所有支持自动挂载的设备(定义在了/etc/fstab文件中，且挂载选项中有auto功能) -L 'LABEL' 以卷标指定挂载设备-U 'UUID' 以UUID指定要挂载的设备-B, --bind 绑定目录到另一个目录上
查看内核追踪到的已挂载的所有设备cat /proc/mounts-o options：(挂载文件系统的选项)，多个选项使用逗号分隔async 异步模式 sync 同步模式,内存更改时，同时写磁盘atime/noatime 包含目录和文件diratime/nodiratime 目录的访问时间戳auto/noauto 是否支持自动挂载,是否支持-a选项exec/noexec 是否支持将文件系统上运行应用程序dev/nodev 是否支持在此文件系统上使用设备文件suid/nosuid 是否支持suid和sgid权限remount 重新挂载ro 只读 rw 读写user/nouser 是否允许普通用户挂载此设备，/etc/fstab使用acl 启用此文件系统上的acl功能loop 使用loop设备defaults：相当于rw, suid, dev, exec, auto, nouser, async卸载命令
查看挂载情况findmnt MOUNT_POINT|device
查看正在访问指定文件系统的进程lsof MOUNT_POINTfuser -v MOUNT_POINT
终止所有在正访问指定的文件系统的进程fuser -km MOUNT_POINT
卸载umount DEVICEumount MOUNT_POINT挂载点和/etc/fstab
配置文件系统体系
被mount、fsck和其它程序使用
系统重启时保留文件系统体系
可以在设备栏使用文件系统卷标
使用mount -a 命令挂载/etc/fstab中的所有文件系统文件挂载配置文件
/etc/fstab每行定义一个要挂载的文件系统
1、要挂载的设备或伪文件系统设备文件LABEL：LABEL=""UUID：UUID=""伪文件系统名称：proc, sysfs
2、挂载点
3、文件系统类型：ext4，xfs，iso9660，nfs，none
4、挂载选项：defaults ，acl，bind
5、转储频率：0：不做备份 1：每天转储 2：每隔一天转储
6、fsck检查的文件系统的顺序：允许的数字是0 1 20：不自检1：首先自检；一般只有rootfs才用 2：非rootfs使用
处理交换文件和分区
swap交换分区是系统RAM的补充，Swap 分区支持虚拟内存。当没有足够的RAM 保存系统处理的数据时会将数据写入 swap 分区
当系统缺乏 swap 空间时，内核会因 RAM 内存耗尽而终止进程。配置过多swap 空间会造成存储设备处于分配状态但闲置，造成浪费，过多 swap 空间还会掩盖内存泄露
推荐系统 swap 空间
挂载交换分区
基本设置包括：• 创建交换分区或者文件• 使用mkswap写入特殊签名• 在/etc/fstab文件中添加适当的条目• 使用swapon -a 激活交换空间
启用：swaponswapon [OPTION]... [DEVICE]-a：激活所有的交换分区-p PRIORITY：指定优先级/etc/fstab 在第4列中：pri=value
禁用：swapoff [OPTION]... [DEVICE]SWAP的优先级
可以指定swap分区0到32767的优先级，值越大优先级越高
如果用户没有指定，那么核心会自动给swap指定一个优先级，这个优先级从-1开始，每加入一个新的没有用户指定优先级的swap，会给这个优先级减一
先添加的swap的缺省优先级比较高，除非用户自己指定一个优先级，而用户指定的优先级(是正数)永远高于核心缺省指定的优先级(是负数)
优化性能：分布存放，高性能磁盘存放
移动介质
挂载意味着使外来的文件系统看起来如同是主目录树的一部分
访问前，介质必须被挂载
摘除时，介质必须被卸载
按照默认设置，非根用户只能挂载某些设备（光盘、DVD、软盘、USB等等）
挂载点通常在/media 或/mnt下使用光盘
在图形环境下自动启动挂载/run/media/<user>/<label>
否则就必须被手工挂载mount /dev/cdrom /mnt/
操作光盘：eject 弹出光盘eject -t 弹入光盘
创建ISO文件cp /dev/cdrom /root/centos.isomkisofs -r -o /root/etc.iso /etc
刻录光盘wodim –v –eject centos.iso挂载USB介质
查看USB设备是否识别• lsusb
被内核探测为SCSI设备• /dev/sdaX、/dev/sdbX或类似的设备文件
在图形环境中自动挂载• 图标在[计算机]窗口中创建• 挂载在/run/media/<user>/<label>
手动挂载• mount /dev/sdb1 /mnt
常见工具
文件系统空间占用等信息的查看工具
df [OPTION]... [FILE]...-H 以10为单位-T 文件系统类型-h human-readable-i inodes instead of blocks-P 以Posix兼容的格式输出
查看某目录总体空间占用状态du [OPTION]... DIR-h human-readable-s summary --max-depth=# 指定最大目录层级工具dd
dd 命令：convert and copy a file
用法：dd if=/PATH/FROM/SRC of=/PATH/TO/DEST bs=# count=#if=file 从所命名文件读取而不是从标准输入of=file 写到所命名的文件而不是到标准输出ibs=size 一次读size个byteobs=size 一次写size个bytebs=size block size, 指定块大小（既是是ibs也是obs)cbs=size 一次转化size个byteskip=blocks 从开头忽略blocks个ibs大小的块seek=blocks 从开头忽略blocks个obs大小的块count=n 复制n个bsconv=conversion[,conversion...] 用指定的参数转换文件
转换参数: ascii 转换 EBCDIC 为 ASCIIebcdic 转换 ASCII 为 EBCDIClcase 把大写字符转换为小写字符ucase 把小写字符转换为大写字符nocreat 不创建输出文件noerror 出错时不停止notrunc 不截短输出文件sync 把每个输入块填充到ibs个字节，不足部分用空(NUL)字符补齐fdatasync 写完成前，物理写入输出文件备份MBRdd if=/dev/sda of=/tmp/mbr.bak bs=512 count=1
破坏MBR中的bootloaderdd if=/dev/zero of=/dev/sda bs=64 count=1 seek=446
有一个大与2K的二进制文件fileA。现在想从第64个字节位置开始读取，需要读取的大小是128Byts。又有fileB, 想把上面读取到的128Bytes写到第32个字节开始的位置，替换128Bytes，实现如下dd if=fileA of=fileB bs=1 count=128 skip=63 seek=31 conv=notrunc备份：dd if=/dev/sdx of=/dev/sdy将本地的/dev/sdx整盘备份到/dev/sdydd if=/dev/sdx of=/path/to/image将/dev/sdx全盘数据备份到指定路径的image文件dd if=/dev/sdx | gzip >/path/to/image.gz备份/dev/sdx全盘数据，并利用gzip压缩，保存到指定路径
恢复：dd if=/path/to/image of=/dev/sdx将备份文件恢复到指定盘gzip -dc /path/to/image.gz | dd of=/dev/sdx将压缩的备份文件恢复到指定盘拷贝内存资料到硬盘dd if=/dev/mem of=/root/mem.bin bs=1024将内存里的数据拷贝到root目录下的mem.bin文件
从光盘拷贝iso镜像dd if=/dev/cdrom of=/root/cd.iso拷贝光盘数据到root文件夹下，并保存为cd.iso文件
销毁磁盘数据dd if=/dev/urandom of=/dev/sda1利用随机的数据填充硬盘，在某些必要的场合可以用来销毁数据，执行此操作以后，/dev/sda1将无法挂载，创建和拷贝操作无法执行
Linux磁盘存储和文件系统相关推荐
- Linux磁盘存储与文件系统
成功不易,加倍努力! 1 磁盘结构 1.1 设备文件 1.2 硬盘类型 1.3 机械硬盘和固态硬盘 1.4 硬盘存储术语 2 管理存储 2.1 磁盘分区 2.1.1 为什么分区 2.1.2 分区方式 ...
- Linux篇 | 磁盘存储和文件系统
磁盘存储和文件系统 分区 文件系统 挂载设备 管理虚拟内存 RAID管理 LVM管理 我们从一个新硬盘安装到Linux系统,期间的配置,一直到正常使用的角度,来学习磁盘存储和文件系统,过程如下: 选择 ...
- Linux九阴真经之无影剑残卷2（磁盘存储和文件系统）
一.磁盘简介 计算机的外部存储器中也采用了类似磁带的装置,比较常用的一种叫磁盘,将圆形的磁性盘片装在一个方的密封盒子里,这样做的目的是为了防止磁盘表面划伤,导致数据丢失. 1.硬盘的chs模式 是指c ...
- 七、Linux入门之磁盘存储和文件系统
在Linux系统上一切皆文件,各种硬件设备在Linux上可以找到对应的设备文件,系统通过这些设备文件对硬件进行各种操作 设备文件:关联至一个设备驱动程序,进而能够跟与之对应硬件设备进行通信 常用操作接 ...
- linux的虚拟文件系统二（数据结构）
1.概念 从本质上讲,文件系统是特殊的数据分层存储结构,它包含文件.目录和相关的控制信息.为了描述 这个结构,linux引入了一些基本概念: 文件 一组在逻辑上具有完整意义的信息项的系列.在Linux ...
- Linux 指令篇:文件系统--fstab
Linux 指令篇:文件系统-----FSTAB 指令:FSTAB 使用权限 : 超级使用者 使用方式 : 使用编辑器来修改 /etc/fstab (eg. vi /etc/fstab) 说明 : 存 ...
- 【转】Linux世界驰骋——文件系统和设备管理
http://www.linuxdiyf.com/viewarticle.php?id=2662 Linux系统的一个重要特征就是支持多种不同的文件系统,如ext.FAT.ext2.ext3.MINI ...
- Linux 操作系统原理 — 文件系统 — 存储布局
目录 文章目录 目录 磁盘分区 MBR 与分区表 创建 MBR 分区 创建 GPT 分区 分区的格式化 分区的特性 引导块 空闲空间块 inode 区块.data block 区块与超级块 LVM 与 ...
- Linux 操作系统原理 — 文件系统 — 虚拟文件系统
目录 文章目录 目录 为什么需要文件系统? Linux 的虚拟文件系统 创建 Linux 文件系统 为什么需要文件系统? 程序 = 数据结构 + 算法,所有的应用程序都需要存储和检索信息,进程运行时它 ...
最新文章
- 【GDI+】 线段 文字 定位的问题（二）
- java多线程封装_Java 多线程处理任务的封装
- 一位Java大牛的BAT面试心得与经验总结，挥泪整理面经
- golang经典书籍--go并发编程
- wince支持多线程编程吗_以前面试只问多线程，现在都开始问响应式编程了！我懵了...
- 中国人自己的框架——蚂蚁金服RPC框架结构分析
- cgi备份还原和ghost有什么区别_手动GHOST还原重装系统详细教程
- 从源码分析快速实现对新开源软件的检测
- TensorBoard：嵌入可视化
- 关于java是最好的语言的段子_疯狂java——第一章 java语言概述与开发环境
- 数据链路层的介质访问控制协议
- 元胞自动机模型之格子气自动机模拟气体扩散模型
- 怀旧服服务器一般什么时候维护,魔兽世界怀旧服9月16日重启维护结束时间 9.16怀旧服登录不了游戏解决方法_蚕豆网新闻...
- mbp网速很慢_mac网速慢的解决办法_mac上网速度极其慢如何处理-win7之家
- java中的throw new Exception();和throw e;异常抛出
- SSM框架项目：米米商城后台管理系统
- 基于单片机的温控热水器电路设计(#0214)
- 公安情报指挥一体化合成作战平台建设，指挥调度系统开发
- FPGA学习之串口发送程序设计（来自小梅哥的教程学习者）
- Vue3 的生命周期函数