linux 快速删除大量小文件（数十万级别）

进行以下两步操作即可：


# 第一步：创建空的文件夹：
mkdir  /tmp/blank# 第二步：执行以下命令：
rsync --delete-before -d --progress /tmp/blank/ video/

当我们在linux系统中要删除数万或者数十万甚至数百万的文件时使用rm -rf *就不太好用，因为要等待很长一段时间。在这种情况之下我们可以使用linux系统命令rsync来巧妙的处理。rsync实际上用的是替换原理，处理数十万个文件也是秒删。

1. rsync安装，有些系统默认安装有该命令

sudo apt-get install rsync

2. rsync提供了一些跟删除有关的参数

rsync --help | grep delete--del                               an alias for --delete-during--delete                         delete extraneous files from destination dirs--delete-before             receiver deletes before transfer, not during--delete-during             receiver deletes during transfer (default)--delete-delay               find deletions during, delete after--delete-after                receiver deletes after transfer, not during--delete-excluded        also delete excluded files from destination dirs--ignore-errors             delete even if there are I/O errors--max-delete=NUM    don‘t delete more than NUM files

其中--delete-before接收者在传输之前进行删除操作

3. 示例

清空目录或文件，如下：

# 1、先建立一个空目录mkdir /data/blank# 2、用rsync删除目标目录rsync --delete-before -d -a -H -v --progress --stats /data/blank/ video/# 或者rsync --delete-before -d /data/blank/ video/# 这样/var/edatacache目录就被快速的清空了。#选项说明：--delete-before     # 接收者在传输之前进行删除操作--progress          # 在传输时显示传输过程-a                  # 归档模式，表示以递归方式传输文件，并保持所有文件属性-H                  # 保持硬连接的文件-v                  # 详细输出模式–stats              # 给出某些文件的传输状态-d                  # transfer directories without recursing

3、也可以用来删除大文件

假如我们在/root/下有一个几十G甚至上百G的文件data，现在我们要删除它

# 一、创建一个空文件touch /root/empty# 二、用rsync清空/root/data文件rsync --delete-before -d --progess --stats /root/empty /root/data

注意：

当SRC和DEST文件性质不一致时将会报错

当SRC和DEST性质都为文件【f】时，意思是清空文件内容而不是删除文件

当SRC和DEST性质都为目录【d】时，意思是删除该目录下的所有文件，使其变为空目录

linux 快速删除大量小文件（数十万级别）相关推荐

Linux 快速删除大量小文件方法
Linux 快速删除大量小文件方法当我们在linux系统中要删除数万或者数十万甚至数百万的文件时使用rm -rf *就不太好用,因为要等待很长一段时间.在这种情况之下我们可以使用linux系 ...
linux快速删除大量目录,Linux 快速删除大量小文件方法
当我们在linux系统中要删除数万或者数十万甚至数百万的文件时使用rm -rf *就不太好用,因为要等待很长一段时间.在这种情况之下我们可以使用linux系统命令rsync来巧妙的处理.rsync实际 ...
Ubuntu快速删除大量小文件方法
进行以下两步操作即可: 1.第一步:创建空的文件夹: mkdir /tmp/blank 2.第二步:执行以下命令:rsync --delete-before -d /tmp/blank/ /home/ ...
linux 快速删除大量/大文件
linux 快速删除大量/大文件经常会测试海量大数据,在不同文件系统下执行列出(list),删除(rm)等操作的执行时间,下面列出了,执行删除50万个文件时,使用不同的命令或者脚本,执行时间! 从上 ...
linux快速删除60万文件,Linux下快速删除大量文件
rsync --delete-before -d /tmp/empty/ /the/folder/you/want/delete/ 不要忘记文件夹后的"/" 附: rsync的跟删 ...
【✅windows奇怪的知识增加了✅】windows系统下快速删除海量小文件方法
背景测试收图demo等,会在本地保存大量图片文件,时间一长,会有多哒几十个GB的数据,占用大量磁盘空间.使用windows的右键删除耗时完全不靠谱,需要十几个小时.尝试了shift+del还是很慢. ...
linux快速复制大量小文件方法
使用nc+tar 请确认两边的centos操作系统是否安装nc yum install nc -y 首先在接收主机上执行: nc -l 8888 |tar -C /tmp -zxf - 再发送主机上执 ...
Linux快速复制T级数据或删除大量小文件
1:快速大量小文件复制 a. 本机不同磁盘之间复制: 复制目录 $ tar cvf – /home/src_dir | tar xvf – -C /opt 复制文件 $ tar cf – access ...
Linux快速复制或删除大量小文件
前言公司需要输送给网安部一批数据集,共计1550w张图片,大约3,5T. 处理过程中同时参考网上的一些方法的实践总结. 1:快速大量小文件复制 a. 本机不同磁盘之间复制: 复制目录 $ tar c ...

linux 快速删除大量小文件（数十万级别）

linux 快速删除大量小文件（数十万级别）相关推荐

最新文章

热门文章