1、错误现象

运维的监控系统发来通知,报告一台服务器空间满了,登录服务器查看,根分区确实没有空间了:

[root@localhost ~]# df -h

这里首先说明一下服务器的一些删除策略,由于Linux没有回收站功能,所以线上服务器上所有要删除的文件都会先移动到系统/tmp目录下,然后定期清除/tmp目录下的数据。这个策略本身没有问题,但是通过检查发现这台服务器的系统分区中并没有单独划分/tmp分区,这样/tmp下的数据其实占用了根分区的空间。既然找到了问题,那么删除/tmp目录下一些占空间较大的数据文件即可,检查/tmp下最大的三个数据文件。

[root@localhost ~]# du -sh /tmp/*|sort -nr|head -3

通过命令输出发现在/tmp目录下有个66GB大小的文件access_log,这个文件应该是Apache产生的访问日志文件,从日志大小来看,应该是很久没有清理Apache日志文件了,基本判定是这个文件导致的根空间爆满,在确认此文件可以删除后,执行如下删除操作:

[root@localhost ~]# rm /tmp/access_log

接着查看系统根分区空间是否释放:

[root@localhost ~]# df -h
或者
du -sh * 查看目录下所有文件夹大小

从输出可以看到,根分区空间仍然没有释放,这是怎么回事?

原因分析:

在Linux系统中**,通过rm或者文件管理器删除文件**,只是将它会从文件系统的目录结构上解除链接(unlink),也就是说只是删除了文件和系统目录结构的链接;如果文件在删除时是被打开的(有一个进程正在使用该文件,文件被进程锁定或者有进程一直在向这个文件写数据等)状态,那么进程将仍然可以读取该文件,也就是说没有删除掉文件在读取的状态,所以磁盘空间也就会一直被占用。

一个文件在文件系统中的存放分为两个部分:**数据部分和指针部分,指针位于文件系统的meta-data中,数据被删除后,这个指针就从meta-data中清除了,而数据部分存储在磁盘中,**数据对应的指针从meta-data中清除后,文件数据部分占用的空间就可以被覆盖并写入新的内容,之所以出现删除文件后,空间还没释放,就是因为有进程还在一直向这个文件写入内容,导致虽然删除了文件,但文件对应的指针部分由于进程锁定,并未从meta-data中清除,而由于指针并未被删除,那么系统内核就认为文件并未被删除,因此通过df命令查询空间并未释放也就不足为奇了。

2、解决思路

一般来说不会出现删除文件后空间不释放的情况,但是也存在例外,比如文件被进程锁定,或者有进程一直在向这个文件写数据等,要理解这个问题,就需要知道Linux下文件的存储机制和存储结构。

一个文件在文件系统中的存放分为两个部分:数据部分和指针部分,指针位于文件系统的meta-data中,在将数据删除后,这个指针就从meta-data中清除了,而数据部分存储在磁盘中。在将数据对应的指针从meta-data中清除后,文件数据部分占用的空间就可以被覆盖并写入新的内容,之所以在出现删除access_log文件后,空间还没释放,就是因为httpd进程还在一直向这个文件写入内容,导致虽然删除了access_log文件,但是由于进程锁定,文件对应的指针部分并未从meta-data中清除,而由于指针并未删除,系统内核就认为文件并未删除,因此通过df命令查询空间并未释放也就不足为奇了。

3、问题排查

既然有了解决问题的思路,那么接下来看看是否有进程一直在向access_log文件中写数据,这里需要用到Linux下的lsof命令,通过这个命令可以获取一个仍然被应用程序占用的已删除文件列表,命令执行如下:

[root@localhost ~]# lsof | grep delete
其中被标记为deleted的文件,就是这样的一些文件。

其实在前面的例子中,我们也可以很容易观察到(openFile程序运行,test.txt文件被删除):

$ ls -al /proc/`pidof openFile`/fd
total 0
lrwx------ 1 root root 64 5月   4 09:27 0 -> /dev/pts/25
lrwx------ 1 root root 64 5月   4 09:27 1 -> /dev/pts/25
lrwx------ 1 root root 64 5月   4 09:27 2 -> /dev/pts/25
lrwx------ 1 root root 64 5月   4 09:27 3 -> /boot/test.txt (deleted)

看见没有,test.txt后面还有deleted字样。

既然我们都说了,这样的情况下文件是没有被删除的,那么还能不能恢复呢?实际上还是可以读取的。

从输出结果可以看到,/tmp/access_log文件被进程httpd锁定,而httpd进程还一直向这个文件写入日志数据。从第7列可知,这个日志文件大小约70GB,而系统根分区总大小才100GB,由此可知,这个文件就是导致系统根分区空间耗尽的罪魁祸首。最后一列的“deleted”状态说明这个日志文件已经被删除,但由于进程还在一直向此文件写入数据,因此空间并未释放。

解决措施有以下几种

1.通过lsof|grep deleted命令获取到已经被删除但是仍然被应用程序占用的文件列表,然后kill掉还在占用所删除文件的进程。需要注意的是:如果有很多进程都在使用所删除文件,那么采用第1种方式kill进程就有点麻烦了,而且风险也比较大。因为kill进程是通过截断proc文件系统中的文件可以强制要求系统回收分配给正在使用的的文件。必须要确定不会对运行中的进程造成影响时才能使用,应用程序对这种方式支持的并不好,当一个正在使用的文件被截断可能会引发不可预知的问题。

2.或停掉或重启使用这个所删除文件的应用,让OS自动回收磁盘空间。
3.也可以重启操作系统,不过这并不是最好的方法
4.对待这种进程不停对文件写日志的操作,要释放文件占用的磁盘空间,最好的方法是在线清空这个文件。通过这种方法,磁盘空间不但可以马上释放,也可保障进程继续向文件写入日志。

用 /usr/sbin/lsof|grep deleted 查看哪些进程占用

然后kill 掉

在线清空文件(比如/home/wangshibo.log)的方式:

a)# echo " " > /home/wangshibo.log
b)# cat /dev/null > /home/wangshibo.log
c)# > /home/wangshibo.log

通过这种方法,磁盘空间不但可以马上释放,也可保障进程继续向文件写入日志,这种方法经常用于在线清理Apache、Tomcat、Nginx等Web服务产生的日志文件。

还有一种磁盘空间使用问题的现象:明明使用df -h命令查看磁盘空间使用率不算高,还有很多空余空间,但是创建文件或写入数据时一直报错磁盘写满:" no space left on device"!

一般这种问题都是由于分区目录下deleted删除后的资源空间没有真正释放出来导致的, 具体处理流程如下:

1.先df -lh查看一下磁盘使用状况, 发现/data分区下的Used已用空间很大, 但是实际查看并没有占用那么大的空间!
2.找到被删除文件所在的分区, 比如/data分区
3.查看被删除了的所有文件:lsof -n /data |grep deleted
4.杀死这些文件的delete进程, 释放空间: lsof -n /data |grep deleted|awk ‘{print $2}’|xargs kill -9
5.接着再运行lsof -n /data |grep delete,应该就没有结果了。
6.注意: 刚杀死deleted进程时, df -h查看/data 分区, Used已用空间可能时瞬间显示过大, 但随着deleted进程杀死, 资源逐渐释放, /data分区下的Used已用空间会逐渐变小, Avail可用空间会逐渐变大)
大多数文件系统都会保留一部分空间留作紧急情况时用(比如硬盘空间满了),这样能保证有些关键应用(比如数据库)在硬盘满的时候有点余地,不致于马上就 crash,给监控系统和管理员一点时间去察觉。不过有时候这部分预留的硬盘空间不用的话有点浪费。

在Linux系统中,ext2、ext3、ext4文件系统上通常会默认预留5%的磁盘空间,比如磁盘如果是2TB,这就意味着有100GB的空间会被预留下来,这样的话会不会显得有点浪费了。可以通过"tune2fs"命令来改变5%的默认设置,比如只预留2%的空间。但是不建议设成0%,现实环境中这样做不安全。

[root@ss-server ~]# df -T
Filesystem     Type     1K-blocks    Used Available Use% Mounted on
/dev/vda1      ext4      41151808 4962148  34076228  13% /
devtmpfs       devtmpfs   1931468       0   1931468   0% /dev
tmpfs          tmpfs      1941204       0   1941204   0% /dev/shm
tmpfs          tmpfs      1941204     652   1940552   1% /run
tmpfs          tmpfs      1941204       0   1941204   0% /sys/fs/cgroup
tmpfs          tmpfs       388244       0    388244   0% /run/user/0[root@ss-server ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/vda1        40G  4.8G   33G  13% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.9G     0  1.9G   0% /dev/shm
tmpfs           1.9G  620K  1.9G   1% /run
tmpfs           1.9G     0  1.9G   0% /sys/fs/cgroup
tmpfs           380M     0  380M   0% /run/user/0

比如上面"/"分区是ext4文件系统,默认系统预留了5%也就是2G的空间。现在可以通过"tune2fs"命令将系统预留空间改为2%。

[root@ss-server ~]# tune2fs -m 2 /dev/vda1
tune2fs 1.42.9 (28-Dec-2013)
Setting reserved blocks percentage to 2% (209704 blocks)

执行后,发现"/"分区腾出了1G的空间,这时系统预留空间也就是2%了。

[root@ss-server ~]# df -h
Filesystem      Size  Used Avail Use% Mounted on
/dev/vda1        40G  4.8G   34G  13% /
devtmpfs        1.9G     0  1.9G   0% /dev
tmpfs           1.9G     0  1.9G   0% /dev/shm
tmpfs           1.9G  620K  1.9G   1% /run
tmpfs           1.9G     0  1.9G   0% /sys/fs/cgroup
tmpfs           380M     0  380M   0% /run/user/0

注意:Linux下只有ext2、ext3、ext4文件系统时,系统才会默认预留5%的磁盘空间。如果文件系统是xfs、tmpfs、devtmpfs、overlay等,则系统默认不会预留磁盘空间。

扩展

1、在 Linux 下,如何删除一个目录下的所有 log 文件?

find -name \*.log -exec rm -f {} \;

注:这里的两个斜杠都不是笔误。这里除了 -exec …,也可以用 -delete,或者用管道结合 xargs 来完成;又或者 ls -r | grep 也行。

给它加了个 crontab:

0 4 * * * find /home/ -type f -name "*.log*" -size +100M -exec bash -c "echo -n > '{}'" \;

注:".log*" 后面的 * 是考虑了 log rotate。

注意,这个命令没有用 rm ,而是使用重定向来清空文件,原因后面会讲。

如何在 Linux 下快速找到被删除的文件

日常运维过程中,我们经常需要处理磁盘空间问题,当接到告警后,第一时间会去找那些大文件,一般比如 Centos,可能大文件就是 /var/log/messages。
但有的时候,会出现怎么也查不到大文件的情况,通过 du 查找的时候,统计出来的大小,跟 df 显示的占用空间对应不上。
如果通过 df -i 查看inode没有满的话,那么极有可能,是有大文件被直接rm了,但是仍然有进程打开了这个文件。
这种情况,由于进程没有退出,因此文件占用的空间并不会释放;直到进程退出,磁盘空间才会真正释放。
如何找到是哪个进程打开了该文件

Linux上,由于进程仍然存活,因此可以通过查看所有进程打开的 fd,如果该文件已经被删除,则查看时,会显示(deleted)。
示例如下:

$ sudo find /proc/*/fd -ls | grep  '(deleted)'388609      0 lrwx------   1 zerotier-one zerotier-one       64 Aug 21 00:19 /proc/29400/fd/4 -> /tmp/ibpX85Vd\ (deleted)388610      0 lrwx------   1 zerotier-one zerotier-one       64 Aug 21 00:19 /proc/29400/fd/5 -> /tmp/ibCwAgAj\ (deleted)388611      0 lrwx------   1 zerotier-one zerotier-one       64 Aug 21 00:19 /proc/29400/fd/6 -> /tmp/ibRZ5rep\ (deleted)388612      0 lrwx------   1 zerotier-one zerotier-one       64 Aug 21 00:19 /proc/29400/fd/7 -> /tmp/ibBuNEzA\ (deleted)388616      0 lrwx------   1 zerotier-one zerotier-one       64 Aug 21 00:19 /proc/29400/fd/11 -> /tmp/ibG68kpG\ (deleted)

如何避免这种情况

不要直接删除该文件,而是通过将文件 truncate 的方式,释放磁盘空间。
一种方式是:

cat /dev/null > ${filename}

或者(新get!)

: > ${filename}

如此,可以快速释放空间。

参考链接 :
Linux磁盘空间释放问题 :https://mp.weixin.qq.com/s/WJcKAOH_svTU-fLQkSmQHA
https://www.jianshu.com/p/67fef1277559

https://mp.weixin.qq.com/s/WEiRm4cqmov6uBtJQpD_JQ

如何在 Linux 下快速找到被删除的文件 :https://mp.weixin.qq.com/s/TgAoFOURNXD_qQwC26XMSw

linux中如何解决文件已删除但空间不释放的案例 : https://www.jianshu.com/p/11251a1ec78b

1 linux中解决文件已rm删除但空间不释放的案例相关推荐

  1. linux中如何解决文件已删除但空间不释放的案例

    一般来说不会出现删除文件后空间不释放的情况,但是也存在例外,比如文件被进程锁定,或者有进程一直在向这个文件写数据等,要理解这个问题,就需要知道 下文件的存储机制和存储结构. 1.错误现象 运维的监控系 ...

  2. Linux中的文件被异常删除的排查思路

    检查日志 审计日志,看登录的异常用户和异常行为 系统日志 如 /var/log/messge /var/log/secure等. 检查谁登陆了 last 查看机器创建以来登陆过的用户 lastlog ...

  3. linux 删除root权限,使用root权限删除不了linux中的文件该如何处理?

    使用root权限删除不了linux中的文件该如何处理? 在Linux系统中,root用户拥有最高权限,可以干任何事情,删除任何不需要的软件或者文件,可以说无所不能.但有时候root用户却不能删除一个小 ...

  4. linux如何删除符号链接文件夹,在Linux中怎样移除(删除)符号链接

    你可能有时需要在 Linux 上创建或者删除符号链接.如果有,你知道该怎样做吗?之前你做过吗?你踩坑没有?如果你踩过坑,那没什么问题.如果还没有,别担心,我们将在这里帮助你. 使用 rm 和 unli ...

  5. linux删除link文件,在 Linux 中怎样移除(删除)符号链接

    原标题:在 Linux 中怎样移除(删除)符号链接 你可能有时需要在 Linux 上创建或者删除符号链接.如果有,你知道该怎样做吗?之前你做过吗?你踩坑没有?如果你踩过坑,那没什么问题.如果还没有,别 ...

  6. 深入理解Linux中的文件权限

    Linux中文件权限 Linux中每个文件都有一个特定的拥有者(一般是创建它的用户)和所属用户组,这是它的固有属性.文件可以利用这两个固有属性来规定它的拥有者或者是所属用户组内的用户是否拥有对它的访问 ...

  7. linux中fstab文件_如何在Linux上写入fstab文件

    linux中fstab文件 zentilia/Shutterstock.comzentilia / Shutterstock.com Adding a new hard drive or solid- ...

  8. centos7删除符号链接_技术|在 Linux 中怎样移除(删除)符号链接

    你可能有时需要在 Linux 上创建或者删除符号链接.如果有,你知道该怎样做吗?之前你做过吗?你踩坑没有?如果你踩过坑,那没什么问题.如果还没有,别担心,我们将在这里帮助你. 使用 rm 和 unli ...

  9. vs.net 打开.xaml文件编辑界面_怎么保护可移动磁盘中的文件防止被删除

    怎么保护可移动磁盘中的文件防止被删除呢?如何针对U盘文件进行保护呢?怎么实现U盘读写权限控制呢?接下来就与大家分享一下有关U盘文件保护防止被删除的具体方法,希望能帮助大家. 方法/步骤 1 针对可移动 ...

最新文章

  1. zoj 3841 Cards
  2. Windows下CodeBlocks安装及配置注意事项
  3. 拓端tecdat|matlab使用移动平均滤波器、重采样和Hampel过滤器进行信号平滑处理
  4. 深度学习笔记(四):循环神经网络的概念,结构和代码注释
  5. 传奇修改map地图教程_传奇地图Objects.wil与map文件的对应关系
  6. 腾达老的路由器W311R-V2 升级固件为NH326 -路由器中继
  7. MOSS 中的计算公式
  8. 定义复数java_自定义数据类型 复数的Java实现
  9. spyder的变量窗口显示不全
  10. 不踩雷不将就 京东智能产品30天无忧退
  11. 算法练习4:Buying a car
  12. linux vi 替换
  13. android获得手机的时间格式,Android获取手机通讯录并按照时间电话类型分类处理...
  14. Oracle创建定时任务教程
  15. django教程day05
  16. 大数据的架构设计与未来
  17. 一飞库房管理系统 v1.0 bt
  18. 解决PL2303_Prolific U转串驱动在win64位系统下报error 10错误
  19. 25岁德邦被京东收购,网友:这次。。。
  20. 根据输入的qq号获取昵称、邮箱和头像等基础信息

热门文章

  1. 7模型集成:细粒度用户评论情感分析冠军思路及源码
  2. php5.2 sqlserver2000,Linux系统下让PHP连sqlserver2000
  3. java里面比较重要的东西_Java面向对象程序设计中很重要的一些东西
  4. 2016设置方框的尺寸_手把手教你用Word打印标准尺寸的身份证“复印件”
  5. pmbok第六版_英文版(带目录).pdf_书籍分享 | 高等数学(第六版)含解析~同济大学...
  6. HTML5开源RPG游戏引擎lufylegendRPG 1.0.0发布
  7. 虚拟大师怎么修改手机_手机虚拟大师,打造一个属于你的专属手机平台
  8. PHP检测每一段代码执行时间
  9. java 是怎么跨平台运行的
  10. 关于MATLAB处理大数据坐标文件