文件和磁盘存储器管理

1、文件和文件系统

文件管理：把所管理的程序和数据组织成一系列的文件，并能进行合理的存储、使用等操作。
1 ）基本概念
数据项：描述对象某种属性的字符集；是数据组织中可以命名的最小逻辑数据单位。
记录：一组相关数据项集合，描述对象某方面的属性；
关键字：一个记录中的一个或几个数据项的集合，用于唯一的标识一个记录。
文件：由创建者定义的、具有文件名的一组相关元素的集合。
有结构：由相关记录组成
无结构：字符流的形式
属性：类型、长度、物理位置、创建时间
不同的系统对文件的管理方式不同
大多用扩展名标志文件类型，按如下几种方式分类文件
按用途：系统、用户、库文件
按数据形式：源文件、目标文件、可执行文件
按存取控制属性：只执行、只读、读写
按组织和处理方式：普通文件、目录文件、特殊（设备）文件
2 ）文件类型
不同的系统对文件的管理方式不同
大多用扩展名标志文件类型，按如下几种方式分类文件
按用途：系统、用户、库文件
按数据形式：源文件、目标文件、可执行文件
按存取控制属性：只执行、只读、读写
按组织和处理方式：普通文件、目录文件、特殊（设备）文件
3）文件系统模型

4）文件操作
操作系统提供哪些文件操作？
最基本的操作
创建/删除文件：分空间，形成FCB及目录（名，地址）
读、写：按名检索目录，找到文件地址，开始读、写
设置文件读写位置，实现随机存取（尤其适用于记录文件）
还需要：“打开”与“关闭”：
文件读/写操作 = 检索 + 读/写。
每次读写前都要重复检索增大开销。所以为了方便对同一文件的多次读写，一次检索到文件后就在内存中记录其位置，避免重复检索。被记录下位置的文件就是“打开”文件；
不需要再操作文件时，通过“关闭”这个系统调用关闭文件——即从打开文件表上删除其路径信息即可。
其他操作：改名、改所属用户、改访问权限等属性的操作。

2、文件的逻辑结构

文件系统设计的关键要素：
如何构成一个文件，以及如何存储在外存。
文件结构：
文件的逻辑结构file logical structure：按用户观点如何组织数据；又称文件组织file organization
基本要求：检索速度高、方便修改、降低存储空间费用（不连续）
文件的物理结构：根据外存上的物理块的分配机制，记录文件外存的存储结构。用户感知不到的。
1）文件逻辑结构的类型
有结构文件（记录式）
①定长记录
②变长记录
如何组织记录：
顺序文件。系统需按该类型记录“长度”，通常定长。
索引文件。系统需为文件建立索引表。
索引顺序文件。建索引表，记录每组记录的第一个记录位置。
无结构文件（字符流式）
字节为单位，利用读写指针依次访问。
系统对该类文件不需格式处理。
①顺序文件
两种记录排列方式
串结构：按记录形成的时间顺序串行排序。记录顺序与关键字无关；
顺序结构：按关键字排序。
检索方法：
从头检索，顺序查找要找的记录，定长的计算相对快。
顺序结构，可用折半查找、插值查找、跳步查找等算法提高效率
具体的寻址过程：
第i条记录地址（定长）：
读写指针 + 记录长度： ptr + i*L
第i条记录地址（变长）：
扫描或读取前面0~i-1条记录
第i条记录地址（变长）
变长记录数据前用1字节保存每条记录长度，顺序扫描，但不用把记录全扫描完
j-1
(Lj +1)
j=0
顺序结构记录按关键字排序，可按关键字检索
定长：结合折半查找算法等提高检索速度

变长：从第1个记录开始顺序扫描，直到扫描到要检索的关键字标识的记录（例如：数据库、文件系统的基于文件名排序的目录检索）
顺序文件的优缺点：
不方便随机存取某条记录，但适用批量存取的场合。
适合磁带等特殊介质。
单记录的查找、修改等交互性差；增减不方便（改进办法：把增删改的记录登记在一个事务文件中，在某段时间间隔后再与原文件合并更新）。
②索引文件
为了方便单个记录的随机存取，为文件建立一个索引表，记录每项记录在文件的逻辑地址及记录长度；该索引表按关键字排序，。
索引表内容：
索引号、长度、记录地址指针
检索效率
索引表本身即是个按记录键排序的定长顺序文件，所以能利用算法提高索引表检索速度
折半检索过程举例
给出用户关键字
检索索引表(设有n条记录,设一个索引表项占x字节)，则索引表的x*n/2字节处记录着n/2号记录的地址
根据第2步的地址，读一条记录，若记录中关键字不匹配，再判断找第n/4还是第n/2+n/4条记录
一个索引文件可以有多个索引表
为方便用户根据不同记录属性检索记录，为顺序文件建立多个索引表，每种能成为检索条件的域都配备一张索引表。
索引文件的优缺点
适用于变长记录，可提高检索速度，实现直接存取
索引表增加了存储开销
③索引顺序文件
既要方便，又要降低开销
本方式是最常见的一种逻辑文件形式。
将顺序文件的所有记录分组
还是建立索引表，但每个表项记录的是每组第1条记录的键值和地址。
组内记录仍按顺序方式检索和使用。
检索一条记录的过程：
先计算记录是在第几组，然后再检索索引确定组在哪里后，在组内顺序查找。
可利用多级索引，进一步提高检索效率。
④直接文件
给定键值（如学号）不需顺序检索直接得到记录的物理地址

用户对文件的操作由操作系统按文件结构分析执行
而操作归根到底要到外存中进行实质操作。

3、外存分配方式

目标：有效利用外存空间，提高文件访问速度
常用三种方式：
连续分配
链接分配（不连续）
索引分配
通常一个系统中仅采用一种方式
采用的磁盘分配方式决定了文件的“物理结构”
顺序结构；链接式结构；索引式结构。
注意与逻辑结构名类似但不是一回事。

缺点：
会产生外存碎片。可紧凑法弥补，但需要额外的空间，和内存紧凑相比更花时间。
创建文件时要给出文件大小；存储空间利用率不高，不利于文件的动态增加和修改；
适用于变化不大顺序访问的文件，在流行的UNIX系统中仍保留了连续文件结构。如对换区
2）链接分配
可以为每一个文件分配一组不相邻的盘块。
设置链接指针，将同属于一个文件的多个离散盘块链接成一个链表，这样形成的文件称为链接文件。会有链接成本。
优点：
离散分配，消除外部碎片，提高利用率
同时适用于文件的动态增长；修改容易

3）索引链接的不足
顺序检索的时间成本：不能支持高效的盘块直接存取。要对一个文件进行直接存取，仍需在FAT中顺序的查找许多盘块号。
链接信息的空间成本：FAT需占用较大的内存空间。当磁盘容量较大时，FAT可能要占用数MB以上的内存空间。这是令人难以忍受的
改进：
系统运行时只涉及部分文件，FAT表无需全部调入内存
每个文件单独建索引表（物理盘块索引），记录所有分配给它的盘块号；
建立文件时，便分配一定的外存空间用于存放文件盘块索引表信息；
分配

③混合组织索引（增量式索引组织方式）
多种索引方式相结合，以UNIX system V的索引结点为例：
一个索引结点定义为13个地址项：iaddr（0）~iaddr（12），总的来说分为两种：直接地址、间接地址
iaddr（0）~iaddr（9）存放直接地址，即存文件数据的盘块号；
iaddr（10）存放单级索引的索引盘块号；
剩余的用于文件较大时存放多级索引数据。
iaddr（11）存放二级索引的主索引盘块号
iaddr（12）存放三级索引的主索引盘块号

4、存储空间的管理

为实现存储空间分配，系统需要：
记住空闲存储空间使用情况；为空间设置相应的数据结构；
提供对存储空间分配、回收的操作手段。
典型的管理方法：
1）空闲表和空闲链表法
2）位示图法
3）成组链接法

1）空闲表法和空闲链表法
空闲表法
常用于连续分配管理方式
1.数据结构
系统为外存上的所有空闲区建立一张空闲表
每个空闲区对应一个空闲表项
（表项包括序号、空闲区的第一个盘块号、空闲盘块数等。）
将所有空闲区按其起始盘块号递增的次序排列，如右图。
存储空间的分配与回收操作
2.与内存的动态分配类似，同样可采用首次适应算法、循环首次适应算法等。
回收主要解决对数据结构的数据修改。
应该说明，虽然很少采用连续分配方式，然而在外存的管理中，由于它具有较高的分配速度，可减少访问磁盘的I/O频率，故它在诸多分配方式中仍占有一席之地。（如实现虚拟用的部分外存就是连续分配方式）

空闲盘块链
分配回收简单。链表长，大量分配时需要操作的指针多
空闲盘区链
2）位示图法——位示图表长度不定，分配时操作的指针数量相对较少，但分配回收操作相对复杂
利用二进制的一位来表示一个盘块的使用情况。
值为0表示对应的盘块空闲，为1表示已分配。有的系统则相反。
磁盘上的所有盘块都有一个二进制位与之对应，这样由所有盘块所对应的位构成一个集合，称为位示图。
总块数=mn。可用mn个位数来构成位示图，可看成是二维数组（数据结构）。
盘块的分配与回收
根据位示图进行盘块分配：
顺序扫描位示图。找到为0的二进制位。
将所找到的一个或一组二进制位，转换成与之对应的盘块号。进行分配操作。
盘块号计算公式为：盘块号 = 列总数*（i-1）+ j;
（注意下标i，j从1开始）
修改位示图。
根据位示图进行盘块回收：
将回收盘块的盘块号转换成位示图中的行号和列号。转换公式为：i=(盘块号-1)div列数+1；j=(盘块号-1)mod列数+1
Div 求商，mod 取余，公式中的i、j都是从1开始的
（如12号盘块转换后为1，12）
修改位示图。
3）成组链接法
大型文件系统，空闲表或空闲链表太长不方便管理操作。
UNIX系统中采用成组链接法，这是将两种方法结合而形成的一种空闲盘块管理方法。
中心思想：
所有盘块按规定大小划分为组；
组间建立链接；
组内的盘块借助一个系统栈可快速处理，且支持离散分配回收。

空闲盘块的组织
空闲盘块号栈。
用来存放当前可用的一组空闲盘块的盘块号（最多含100个号）
栈中尚有的空闲盘块号数N。
（N兼具栈顶指针用。栈底为S.free(0)，栈满时栈顶到达S.free(99)，N=100，表示有100个盘块供使用。

空闲盘块的分配与回收
分配盘块时，须调用分配过程来完成。
先检查空闲盘块号栈是否上锁，如没有，便从栈顶取出一空闲盘块号，将与之对应的盘块分配给用户，然后将栈顶指针下移一格。
若该盘块号已是栈底，即S.free(0)，到达当前栈中最后一个可供分配的盘块号。
读取该盘块号所对应的盘块中的信息：即下一组可用的盘块号入栈。
原栈底盘块分配出去。修改栈中的空闲盘块数。
回收
回收盘块号记入栈顶，空闲数N加1
N达到100时，若再回收一块，则将该100条信息填写入新回收块。
文件控制块—FCB
为了能对一个文件进行正确的存取，必须为文件设置用于描述和控制文件的数据结构，称之为“文件控制块”（FCB）
文件与文件控制块一一对应
记录文件名及其存放地址、文件的说明和控制信息。（是谁？在哪里？什么权？）
文件管理程序借助于文件控制块中的信息对文件施以各种操作。
把文件控制块的有序集合称为文件目录，即一个文件控制块就是一个目录项。通常一个文件目录也被看作是一个文件，称为目录文件
5、目录管理
对文件实施有效的管理，必须对它们加以妥善组织，主要是两大操作：
基本信息记录(FCB,目录项)
方便检索、管理（目录操作）
目录管理的要求如下：
实现“按名存取”；（最基本功能）
提高对目录的检索速度；
文件共享；
允许文件重名。
1）FCB内容
在文件控制块中，通常含有以下三类信息。
基本信息类
包括文件名，文件物理位置，文件逻辑结构，文件的物理结构。
存取控制信息类
包括文件主的存取权限，核准用户的存取权限和一般用户的存取权限。
使用信息类
建立日期和时间、文件上次修改的日期和时间
当前使用信息：打开该文件的进程数、是否被进程锁住、是否已修改等。
关于文件检索的速度：
文件FCB组成的“目录”文件存放于磁盘；需要时，要从磁盘将目录内容调入内存进行检索和使用。
如果目录占用5个盘块，则至多需启动5次磁头读写，如何提高检索速度？
2）索引结点
索引结点的引入
文件目录占越大量的盘块，需进行的磁盘读写开销越大。减少实际检索的信息量就减少移动磁头的开销，提高速度；
目录一般是按名检索。而直到找到正确文件前，只关心文件名，不需要其它的文件描述信息，目录中这部分内容的调入不是必须的。
所以：将文件名、文件具体信息分开，使文件描述信息单独形成一个索引结点。
３）目录结构
目录结构的组织，关系到文件系统的存取速度，也关系到文件的共享性和安全性。
组织好文件的目录，是设计好文件系统的重要环节。
目前常用的目录结构形式有
单级目录
两级目录
多级目录

①单级目录结构

最简单的目录结构。
整个文件系统中只建立一张目录表，每个文件一个目录项，含有文件相关信息。
每建立一个新文件：
先检索所有的目录项，保证文件名唯一。
获得一空白目录项，填入相关信息，修改状态位（表明每个目录项是否空闲）。
删除一个文件：
找到对应目录项，回收文件所占用空间
清除目录项
优点：简单、能实现目录管理的基本功能——按名存取。
缺点：
文件检索时需搜遍整个目录文件，范围大速度慢。
不允许重名。名字过多难于记忆，对于多用户环境重名难以避免。
不便于实现文件共享（因为不能重名，不同用户使用的共享文件必须不同名字，标识哪些用户共享文件也不方便），一般只适用单机环境。
②两级目录结构

为每一个用户建立一个单独的用户文件目录UFD，UFD由用户所有文件的文件控制块组成。
系统建立一个主文件目录MFD， MFD中每个用户目录文件都占有一个目录项，其中包括用户名和指向UFD的指针。
两级目录的特点
基本克服了单级目录的缺点，并具有以下优点：
提高了检索目录的速度。
在不同的目录中可重名。
不同用户还可以使用相同/不同的文件名来访问系统中的同一个共享文件。
不提供子目录操作，还不方便；各用户之间被完全隔离的话用户访问其他用户文件时，不方便合作。
③多级目录结构

适用于较大的文件系统管理。又称为树状目录(tree-like)
在文件数目较多时，便于系统和用户将文件分散管理。
层次结构更清晰、提供更灵活的权限管理等
但目录级别太多时也会增加路径检索层次，增加磁盘访问时间。
4）目录查询技术
用户要访问一个已存文件
目录数据调入内存；
按名检索：系统利用提供的文件名对目录(根据目录层次，需要做的检索次数也不同)进行查询
找该文件控制块
读FCB或对应索引结点；
从文件物理地址换算出文件在磁盘上的物理位置；
最后通过磁盘驱动程序，将所需文件读入内存。
目录查询方式：线性检索法和Hash方法。

6、文件共享与保护

1）文件共享
多个用户共享一份文件，只保留文件的一份副本，节约存储空间
共享范围：单机系统/多主机系统/网络范围
20世纪六七十年代，出现了若干文件早期共享方法，绕弯路法、连访法等，逐渐发展为现代一些共享方式
索引结点
符号链
①索引结点法

基本FCB法：
名+详细信息。
直接在文件目录中包含文件的物理地址，该方法实现的共享不适用文件动态变化。一个用户对文件的修改（如物理块号增加），对其他用户不可见，共享文件的FCB信息记录同步更新困难。
文件名+索引结点指针。
一个用户修改指针指向地址里的内容，指针不变，其他用户通过指针总能感知索引结点中的最新内容
索引结点中增加count计数
主人删除操作问题：
删，共享用户访问错误；不删，计费问题。
②符号链法
创建一个link类型的文件：“文件名+共享文件路径”（类似快捷方式）
文件主人删除文件，共享者只会出现找不到文件错误。不会发生共享文件删除后出现悬空指针的情况。
该方法适用于网络文件共享，但根据路径检索共享文件的目标位置增加了访问开销，link文件独占索引结点也耗费一定的空间。
无论哪种共享，链接就对应一个文件，如果遍历复制整个目录内的文件，可能会从多条路径对共享文件进行多次访问
2）磁盘容错
SFT，system fault tolerance
防止磁盘故障造成的文件不安全
SFT I:磁盘表面故障
双目录、双文件分配表（空间冗余）
写后读校验、热修复重定向（时间操作冗余）
写入磁盘后再读回内存做一致性校验
热修复写过程：从坏道重定向到专区并记录
SFT II：磁盘驱动器、控制器故障
驱动器故障：磁盘镜像
控制器故障：磁盘双工——并行控制器，分离搜索加快读取