遇到了要在Linux下删除海量文件的情况,需要删除数十万个文件。这个是之前的程序写的日志,增长很快,而且没什么用。这个时候,我们常用的删除命令rm -fr * 就不好用了,因为要等待的时间太长。所以必须要采取一些非常手段。我们可以使用rsync来实现快速删除大量文件。

1、先安装rsync:
yum install rsync2、建立一个空的文件夹:
mkdir /tmp/test3、用rsync删除目标目录:
rsync --delete-before -a -H -v --progress --stats /tmp/test/ log/这样我们要删除的log目录就会被清空了,删除的速度会非常快。rsync实际上用的是替换原理,处理数十万个文件也是秒删。
选项说明:
–delete-before 接收者在传输之前进行删除操作
–progress 在传输时显示传输过程
-a 归档模式,表示以递归方式传输文件,并保持所有文件属性
-H 保持硬连接的文件
-v 详细输出模式

–stats 给出某些文件的传输状态

------------------------------------

当SRC和DEST文件性质不一致时将会报错
当SRC和DEST性质都为文件【f】时,意思是清空文件内容而不是删除文件
当SRC和DEST性质都为目录【d】时,意思是删除该目录下的所有文件,使其变为空目录
最重要的是,它的处理速度相当快,处理几个G的文件也就是秒级的事
最核心的内容是:rsync实际上用的就是替换原理

转载于:https://blog.51cto.com/4838832/1682524

Linux下使用rsync最快速删除海量文件的方法相关推荐

  1. Linux下使用rsync最快速删除海量文件的方法分享

    点评:昨天遇到了要在Linux下删除海量文件的情况,需要删除数十万个文件.这个是之前的程序写的日志,增长很快,而且没什么用 这个时候,我们常用的删除命令rm -fr * 就不好用了,因为要等待的时间太 ...

  2. linux rsync删文件速度,Linux下使用rsync最快速删除大量文件的方法

    要在Linux下删除海量文件的情况,需要删除三层哈希目录下的几十万个文件.这个时候,删除命令rm -rf * 就不好用了,因为要等待的时间太长.所以必须要采取一些非常手段.我们可以使用rsync来实现 ...

  3. Linux下使用rsync最快速删除大量文件的方法

    要在Linux下删除海量文件的情况,需要删除三层哈希目录下的几十万个文件.这个时候,删除命令rm -rf * 就不好用了,因为要等待的时间太长.所以必须要采取一些非常手段.我们可以使用rsync来实现 ...

  4. linux下如何查看文件大小 快速找到最大文件的方法

    查看当前目录的大小 du -sh . 查看当前目录下所有文件或者目录的大小 du -sh * 显示前10个占用空间最大的目录 du -s * | sort -nr | head 显示前10个占用空间最 ...

  5. 快速删除node_modules文件夹方法(效率高、无延迟)

    当前端项目安装了较多模块后,node_modules目录下的文件会很多,直接删除整个目录会很慢,下面介绍些快速删除node_modules目录的方法. 方法一:使用rimraf模块的命令 在全局安装r ...

  6. Linux下无法正常安装和删除Nodejs的解决方法

    前言 自从买了VPS后就没闲着,总想要充分利用起来倒腾点东西. 于是决定安装nodejs搭建web服务器等,如今nodejs稳定版本已经更新到8.x了,因此我就试着装一下8.x吧,没想到又遇到了坑,一 ...

  7. 在linux下使用debugfs恢复rm删除的文件

    原理主要是删除的文件并没有实际上从硬盘上摸去,只是inode索引删除了相关的信息,因此只要找到刚删除文件的block上,就可以恢复已经删除的文件. 以下方法在ext3的文件系统上测试通过,ext2的没 ...

  8. linux快速删除海量文件

    首先创建一个临时目录: /rubbish rsync --delete-before -a -H -v --progress --stats /rubbish /111 /111为目的目录 选项说明: ...

  9. linux rm 删除所有文件,linux无需rm就可快速删除大量文件

    格式: rsync --delete-before -a -H -v --progress --stats 选项: --delete-before    接收者在传输之前进行删除操作 -progres ...

最新文章

  1. [C#]手把手教你打造Socket的TCP通讯连接(一)
  2. html中dir标签的作用是什么意思,htmldir标签是干啥的?dir标签的具体定义和属性介绍...
  3. 使用Docker来运行WebApp
  4. 将String转换成InputStream
  5. 机器学习 属性_属性关系文件格式| 机器学习
  6. Java中JDK安装以及环境变量设置
  7. React目录结构详细解析
  8. VMware ESXI虚拟机及虚拟系统修改MAC地址的方法
  9. 统计通话次数和时间的软件_通话时间统计器下载-通话时间统计 安卓版v2.6-PC6安卓网...
  10. Windows 驱动开发 之 WinDbg调试(一)
  11. 【机器学习|数学基础】Mathematics for Machine Learning系列之矩阵理论(21):常用方阵函数的一些性质
  12. 高速PCB设计的一些注意事项
  13. 详述快捷支付产品功能及设计要点
  14. 树的分支交换操作(NNI,SPR,TBR)
  15. TestNG-学习笔记
  16. 女博士被骗85万 长年泡实验室不知道“徐玉玉”案
  17. [19/05/14-星期二] HTML_body标签(列表标签和图片标签)
  18. 视频编辑器-MovieMator 简洁使用-在时间线上拆分,修剪,连接剪辑
  19. 电信重组唤醒“冬眠”的SP
  20. MBA联考英语二考试最新考试大纲出来啦

热门文章

  1. 过拟合、欠拟合与正则化
  2. 我就不信看完这篇你还搞不懂信息熵
  3. SAP MM 物料主数据里某字段看不到就是屏幕格式设置导致的?
  4. FrostSulliven最新发布引领全球增长的60大技术
  5. 科技部向全社会征集颠覆性技术研发方向
  6. AI产业链分布图曝光:1040个玩家,BAT率先步入应用
  7. “深绿” 及 AlphaGo 对指挥与控制智能化的启示
  8. 全国首套中小学生人工智能教材在沪亮相
  9. 谷歌放出AI平民化大招: 李飞飞宣布推出AutoML云平台,让普通企业也能用上深度学习
  10. 其实,我是一名程序员!