今天复制一个目录到新挂载的硬盘上面,发现因为里面有100W个文件

网络各种办法都不行,最后用python脚本解决了,附上脚本

修改最后一行,源和目的文件夹即可前面是源,后面是目的

#!/usr/bin/python
import os
import shutildef copyFiles2(srcPath,dstPath):if not os.path.exists(srcPath):print "src path not exist!"if not os.path.exists(dstPath):os.makedirs(dstPath)for root,dirs,files in os.walk(srcPath):for eachfile in files:shutil.copy(os.path.join(root,eachfile),dstPath)print eachfile+" copy succeeded"copyFiles2('/app/filesSource','/app/filesDest')

shell可以试试,不过第一条会多了两级目录,第二天没试过,可以自行试试

  • 复制目录

    $  tar cvf - /home/source | tar xvf - -C /D
  • 复制文件

    $ tar cf - * |tar xf - -C /Dest

Argument list too long 文件数过多相关推荐

  1. Hive:解决Hive创建文件数过多的问题

    Hive:解决Hive创建文件数过多的问题 参考文章: (1)Hive:解决Hive创建文件数过多的问题 (2)https://www.cnblogs.com/wcwen1990/p/7600161. ...

  2. streaming文件数过多

    遇到一个bug, unity2020下,打android包,StreamingAssets下文件不能超过680个文件,否则Gradle会报错. gradleTemplate.properties里面配 ...

  3. distribute by控制分区文件数

    distribute by是控制在map端如何拆分数据给reduce端的.hive会根据distribute by后面列,对应reduce的个数进行分发,默认是采用hash算法. 大部分情况都用于解决 ...

  4. 打开文件数过多 linux,Linux 解决 打开的文件数太多

    服务器异常 最近某个生产应用 调接口 出现了 "打开的文件过多" 的错误提示 . 通过运维查看 服务器的 进程最大文件数默认就是 1024 ,因此需要增加最大的文件数 增加大了 文 ...

  5. linux socket文件数限制,Linux下高并发socket最大连接数所受的限制问题

    Linux下高并发socket最大连接数所受的限制问题1.修改用户进程可打开文件数限制在Linux平台上,无论编写客户端程序还是服务端程序,在进行高并发TCP连接处理时, 最高的并发数量都要受到系统对 ...

  6. 系统可打开最大文件数过小,导致CHECK_NRPE: Error - Could not complete SSL handshake

    1.nagio服务器发出报警日志,客户端ssl handshake失败: ***** Nagios ***** Notification Type: PROBLEM Service: Check Zo ...

  7. ORA-19809: 超出了恢复文件数的限制

    实验环境:Oracle Database 10g Enterprise Edition Release 10.2.0.1.0 - Prod 实验背景:向tough.t中插入40万条记录,然后rollb ...

  8. python遍历文件夹下所有文件大小_python遍历文件夹——两种遍历本地文件记录文件夹个数、文件数及文件大小的方法...

    这两个函数的功能:得到给定目录的文件夹个数.文件数,以及文件大小 walkFolders函数没有用到os.walk函数,是自己递归调用的:walkfunc函数用到了os.walk函数,方便了很多. i ...

  9. linux 下修改最大文件数

    环境为centosV7系列 1.查看进程的打开最大文件数,默认为1024 [root@localhost ~]# ulimit -a core file size (blocks, -c) 0 dat ...

最新文章

  1. blockingdeque java_Java BlockingDeque解决生产者与消费者问题
  2. Pygame 使用Djkstra广度搜索寻找迷宫(相对)最短路径
  3. mysql mydumper_MySQL 之mydumper安装详解
  4. 复习Linux基本操作----常见指令
  5. python可以处理的文件类型_Python学习笔记之数据类型与文件处理
  6. php连接memcache(php.ini配置)
  7. 网页跳转,转,出自:秋实的日积月累
  8. Auto layout 的使用
  9. 正则、grep与egrep工具
  10. 调用网站第三方接口实现短信发邮件
  11. 帝国败局:一代首富,因何退隐江湖?
  12. AUTOCAD——新建或修改尺寸样式
  13. 流量之战:阿里150亿入股分众,到底为哪般?
  14. BATCH 批处理(一)
  15. [渝粤教育] 西安交通大学 环境工程设计与管理 参考 资料
  16. 关于笔记本检测不到外接显示器的问题
  17. 转载 感受K2.Net 2003工作流解决方案
  18. 【牛客网SQL篇】非技术快速入门
  19. UNIX时间与GPS时间
  20. python 字节流分段_由Python历史「解密」Python底层逻辑

热门文章

  1. 利用循环神经网络生成唐诗_可视化解释11种基本神经网络架构
  2. 将Excel中的数据导入到MySql数据库中
  3. Python学习入门基础:注释、变量基本使用、变量的命名
  4. 2020年 Google 开发者大会可以预约了
  5. 凸集、凸函数、凸优化问题 概念关联
  6. extjs jquery使用场合
  7. Kaggle新手入门
  8. 【例题+习题】【数值计算方法复习】【湘潭大学】(四)
  9. Author Topic Model[ATM理解及公式推导]
  10. 变分法理解2——基本方法