1.取两个文件的交集

cat file1 file2 | sort | uniq -d > file3

2.删除两个文件的交集

cat file1 file2 | sort | uniq -u > file3

3.取两个文件的并集

cat file1 file2 | sort | uniq > file3

4.去除一个文件中的重复行

sort file1 | uniq > file2注:这里把重复的行统一为一行

sort file1 | uniq -u > file2注:这里把所有重复的行全部删掉了,一行不留

转载于:https://www.cnblogs.com/foundwant/p/6098666.html

Linux文件合并去重相关推荐

  1. LINUX 文件合并,去重

    (1)两个文件的交集,并集 前提条件:每个文件中不得有重复行 1. 取出两个文件的并集(重复的行只保留一份) cat file1 file2 | sort | uniq > file3 2. 取 ...

  2. linux下文件合并、分割、去重

    1.文件合并 1.1文件上下合并 cat f1 f2> muti  (将文件f1.f2合并成文件muti,f1在上,f2在下) 1.2左右合并 paste f1 f2 > muti  (将 ...

  3. Linux文件分割与合并:splitcat(转载)

    转自:http://os.51cto.com/art/201104/255359.htm Linux下文件分割可以通过split命令来实现,而用cat进行文件合并.而分割可以指定按行数分割和安大小分割 ...

  4. excel函数去重_Java 嵌入 SPL 轻松实现 Excel 文件合并

    大多数JAVA程序猿都选择使用POI或者HSSFWorkbook等第三方类库来实现Excel自动化合并,这样一来不仅需要噼里啪啦的敲好多代码,费事费力,而且用起来灵活度也不高,对Excel的格式要求也 ...

  5. linux 文件拆分 合并,Linux下文件的切分与合并的简单方法

    linux下文件分割可以通过split命令来实现,可以将一个大文件拆分成指定大小的多个文件,并且拆分速度非常的快,可以指定按行数分割和安大小分割两种模式.Linux下文件合并可以通过cat命令来实现, ...

  6. linux中合并多个文件到一个文件中

    linux合并多个文件 data目录下有四个文件,想要将四个文件合并到一个文件中,代码如下: cat * > download 文件本身有顺序,故此时download文件中的内容也是有序的 如果 ...

  7. linux下将多个文件去除文件头合并_Linux下把多个文件合并成一个文件 - 卡饭网...

    互盾PDF分割合并工具将多个PDF文件合并成一个PDF文档 互盾PDF分割合并工具将多个PDF文件合并成一个PDF文档     互盾PDF分割合并工具将多个PDF文件合并成一个PDF文档 一.下载并安 ...

  8. 漫谈linux文件io,Linux文件IO与通用块层的请求合并

    本文参考https://mp.weixin.qq.com/s/Imt4BW-zoHPpcOpcKZs_AQ, 公众号"Linux阅码场" 请求合并就是将进程内或者进程间产生的在物理 ...

  9. linux重定向多个文件,cat命令利用Linux重定向合并文件

    cat命令利用Linux重定向合并文件 看一下文档: [doctor@localhost Documents]$ cat --help 用法:cat [选项]... [文件]... 将[文件]或标准输 ...

最新文章

  1. int数组转化为字符数组 java_Java 将int数组转换为字符串
  2. 求伯君领衔 5 代技术人对话,00 后浪来袭 1024 程序员节
  3. pandas 模块学习
  4. Leaflet中使用leaflet-echarts插件实现Echarts的Migration迁徙图(带炫光特效)
  5. 如何打造具有绝对市场竞争力的团队
  6. D - Connect the Cities (HDU - 3371)
  7. 那个好好玩的特效,每个人都可以做到哦
  8. 数据恢复软件(绝对真实可用)
  9. linux java socket编程_深入学习socket网络编程,以java语言为例
  10. scp命令默认传输速度多大_每天一个linux命令(60):scp命令
  11. Android开发BroadcastReceiver广播的使用
  12. java redis 哨兵_突破Java面试(23-7) - Redis的哨兵架构
  13. 2018年美国专利数量公布:IBM夺榜首 华为排第19
  14. python中重要的基础概念
  15. mybatis 的 dao 接口跟 xml 文件里面的 sql 是如何建立关系的?
  16. springboot允许跨域注解_springboot 设置允许跨域的方法
  17. 服务器架构模式BS和CS的特点与区别
  18. 高等数学学习笔记——第十二讲——正项级数收敛性判别方法
  19. 计算机目录的制作步骤,怎么用word2003制作目录
  20. pycharm中配置华为云服务器

热门文章

  1. 029# Adempiere采购模组-从采购申请创建采购订单
  2. Html5 FileReader 对文件进行Base64编码
  3. 好程序员Java教程分享JavaScript面试问题及答案(一)
  4. 技术胖Flutter第三季-15垂直布局Column组件
  5. 10.25 es问题
  6. MUI:字符串和json数据的相互转换
  7. POJ-1182 食物链(并查集)
  8. java基础 知识点
  9. 二叉树最近公共祖先节点
  10. 源码安装apache及配置转发