linux循环管道之给外面,尴尬,一不小心把 Linux 管道给整漏了,
尴尬,一不小心把 Linux 管道给整漏了,
我很喜欢 Linux 系统,尤其是 Linux 的一些设计很漂亮,比如可以将一些复杂的问题分解成若干小问题,通过管道符和重定向机制灵活地用现成的工具解决,写成 shell 脚本就很高效。
本文就分享一下我在实践中使用重定向和管道符遇到的一些坑,搞明白一些底层原理,写脚本的效率能提升不少。
> 和 >> 重定向符的坑
先说第一个问题,执行如下命令会发生什么?
$ cat file.txt > file.txt
读取再写入同一个文件,感觉什么也不会发生对吧?
实际上,上述命令运行的结果是清空file.txt文件中的内容。
PS:有的 Linux 发行版可能会直接报错,可以执行cat < file.txt > file.txt绕开这个检测。
前文 Linux 进程和文件描述符 说过,程序本身没有必要关心自己的标准输入/输出指向哪里,是 shell 通过管道符和重定向符号修改了程序的标准输入/输出的位置。
所以执行cat file.txt > file.txt这个命令时,shell 会先打开file.txt,由于重定向符号是>,所以文件中的内容会被清空,然后 shell 将cat命令的标准输出设置为file.txt,这时候cat命令才开始执行。
也就是如下过程:
1、shell 打开file.txt并清空其内容。
2、shell 将cat命令的标准输出指向file.txt文件。
3、shell 执行cat命令,读了一个空文件。
4、cat命令将空字符串写入标准输出(file.txt文件)。
所以,最后的结果就是file.txt变成了空文件。
我们知道,>会清空目标文件,>>会在目标文件尾部追加内容,那么如果将重定向符>改成>>会怎样呢?
$ echo hello world > file.txt # 文件中只有一行内容
$ cat file.txt >> file.txt # 这个命令会死循环
file.txt中首先被写入一行内容,执行cat file.txt >> file.txt后预期的结果应该是两行内容。
但是很遗憾,运行结果并不符合预期,而是会死循环不断向file.txt中写入 hello world,文件很快就会变得很大,只能用 Control+C 停止命令。
这就有意思了,为什么会死循环呢?其实稍加分析就可以想到原因:
首先要回忆cat命令的行为,如果只执行cat命令,就会从命令行读取键盘输入的内容,每次按下回车,cat命令就会回显输入,也就是说,cat命令是逐行读取数据然后输出数据的。
那么,cat file.txt >> file.txt命令的执行过程如下:
1、打开file.txt,准备在文件尾部追加内容。
2、将cat命令的标准输出指向file.txt文件。
3、cat命令读取file.txt中的一行内容并写入标准输出(追加到file.txt文件中)。
4、由于刚写入了一行数据,cat命令发现file.txt中还有可以读取的内容,就会重复步骤 3。
以上过程,就好比一边遍历列表,一遍往列表里追加元素一样,永远遍历不完,所以导致我们的命令死循环。
> 重定向符和 | 管道符配合
我们经常会遇到这样的需求:截取文件的前 XX 行,其余的都删除。
在 Linux 中,head命令可以完成截取文件前几行的功能:
$ cat file.txt # file.txt 中有五行内容
1
2
3
4
5
$ head -n 2 file.txt # head 命令读取前两行
1
2
$ cat file.txt | head -n 2 # head 也可以读取标准输入
1
2
如果我们想保留文件的前 2 行,其他的都删除,可能会用如下命令:
$ head -n 2 file.txt > file.txt
但是这就犯了前文说的错误,最后file.txt会被清空,不能实现我们的需求。
那我们是这样写命令是否可以避坑呢:
$ cat file.txt | head -n 2 > file.txt
结论是不行,文件内容依然会被清空。
What?是不是管道漏了,把数据全漏掉了?
前文 Linux 进程和文件描述符 也说过管道符的实现原理,本质上就是将两个命令的标准输入和输出连接起来,让前一个命令的标准输出作为下一个命令的标准输入。
但是,如果你认为这样写命令可以得到预期的结果,那可能是因为你认为管道符连接的命令是串行执行的,这是一个常见的错误,实际上管道符连接的多个命令是并行执行的。
你可能以为,shell 会先执行cat file.txt命令,正常读取file.txt中的所有内容,然后把这些内容通过管道传递给head -n 2 > file.txt命令。
虽然这时候file.txt中的内容会被清空,但是head并没有从文件中读取数据,而是从管道读取数据,所以应该可以向file.txt正确写入两行数据。
但实际上,上述理解是错误的,shell 会并行执行管道符连接的命令,比如说执行如下命令:
$ sleep 5 | sleep 5
shell 会同时启动两个sleep进程,所以执行结果是睡眠 5 秒,而不是 10 秒。
这是有点违背直觉的,比如这种常见的命令:
$ cat filename | grep 'pattern'
直觉好像是先执行cat命令一次性读取了filename中所有的内容,然后传递给grep命令进行搜索。
但实际上是cat和grep命令是同时执行的,之所以能得到预期的结果,是因为grep 'pattern'会阻塞等待标准输入,而cat通过 Linux 管道向grep的标准输入写入数据。
执行下面这个命令能直观感受到cat和grep是在同时执行的,grep在实时处理我们用键盘输入的数据:
$ cat | grep 'pattern'
说了这么多,再回顾一开始的问题:
$ cat file.txt | head -n 2 > file.txt
cat命令和head会并行执行,谁先谁后不确定,执行结果也就不确定。
如果head命令先于cat执行,那么file.txt就会被先清空,cat也就读取不到任何内容;反之,如果cat先把文件的内容读取出来,那么可以得到预期的结果。
不过,通过我的实验(将这种并发情况重复 1w 次)发现,file.txt被清空这种错误情况出现的概率远大于预期结果出现的概率,这个暂时还不清楚是为什么,应该和 Linux 内核实现进程和管道的逻辑有关。
解决方案
说了这么多管道符和重定向符的特点,如何才能避免这个文件被清空的坑呢?
最靠谱的办法就是不要同时对同一个文件进行读写,而是通过临时文件的方式做一个中转。
比如说只保留file.txt文件中的头两行,可以这样写代码:
# 先把数据写入临时文件,然后覆盖原始文件
$ cat file.txt | head -n 2 > temp.txt && mv temp.txt file.txt
这是最简单,最可靠,万无一失的方法。
你如果嫌这段命令太长,也可以通过apt/brew/yum等包管理工具安装moreutils包,就会多出一个sponge命令,像这样使用:
# 先把数据传给 sponge,然后由 sponge 写入原始文件
$ cat file.txt | head -n 2 | sponge file.txt
sponge这个单词的意思是海绵,挺形象的,它会先把输入的数据「吸收」起来,最后再写入file.txt,核心思路和我们使用临时文件时类似的,这个「海绵」就好比一个临时文件,就可以避免同时打开同一个文件进行读写的问题。
以上就是重定向和管道符的一些坑,希望能帮到你。
linux循环管道之给外面,尴尬,一不小心把 Linux 管道给整漏了,相关推荐
- Linux管道破裂,尴尬,一不小心把 Linux 管道给整漏了
我很喜欢 Linux 系统,尤其是 Linux 的一些设计很漂亮,比如可以将一些复杂的问题分解成若干小问题,通过管道符和重定向机制灵活地用现成的工具解决,写成 shell 脚本就很高效. 本文就分享一 ...
- linux python进入桌面,使用Linux桌面的几个尴尬问题
人人都说Linux是程序爱好者的天堂,mac是前台设计的天堂,我选择了前者,使用了大约3年的Linux桌面系统. 发行版本从早期的sco unix到redhat,直到redhat9后不发布个人桌面了, ...
- linux中上锁的文件夹,怎么用linux命令给自己的文件上锁
在工作的时候可能我们一不小心,动了一些原本没想修改的代码,结果找bug找半天,才发下,哦,我是不小心碰到了这的代码,下面来看看小编给大家找打上锁小技巧吧. 怎么用linux命令给自己的文件上锁 原因: ...
- linux的网络地址配置,教你如何完成Linux网络地址配置
如果你想了解Linux,了解一些关于Linux的知识.本文为你讲解Linux网络地址配置,希望你能理解Linux网络地址配置,下面就这个问题来详细说说吧. 1.关闭与开启网路端口: 开启81端口: i ...
- linux 存储映射lun 给_如何在 Linux 上扫描/检测新的 LUN 和 SCSI 磁盘 | Linux 中国
导读:当 Linux 系统连接到 SAN(存储区域网络)后,你需要重新扫描 iSCSI 服务以发现新的 LUN.本文字数:3394,阅读时长大约:4分钟https://linux.cn/article ...
- 注意!Linux glibc再曝漏洞,可导致Linux软件劫持
2019独角兽企业重金招聘Python工程师标准>>> glibc是GNU发布的libc库,即c运行库.它是Linux系统中最底层的API,几乎其它运行库都会依赖于glibc. 近日 ...
- linux上安装mysql5.5_【Python】Linux安装Mysql5.5
# 下载Mysql 5.5 https://dev.mysql.com/downloads/mysql/5.5.html#downloads # 版本号.Linux系统 5.5.62版本号,系统Lin ...
- windows pxe 安装linux,菜鸟学Linux 第103篇笔记 pxe自动化安装linux
菜鸟学Linux 第103篇笔记 pxe自动化安装linux 内容总览 linux的系统安装 kickstart文件的组成部分 DHCP (Dynamic Host Configuration Pro ...
- linux mysql解锁账号密码忘了怎么办,linux下mysql忘记密码怎么办
前言 今天在服务器安装mysql之后,登录发现密码错误,但是我没有设置密码呀,最后百度之后得知,mysql在5.7版本之后会自动创建一个初始密码. 报错如下: [root@mytestlnx02 ~] ...
最新文章
- java 网站转app_java – 将现有Web应用程序转换为桌面应用程序
- hadoop jetty的应用
- 输出cglib以及jdk动态代理产生的class文件
- 在idea中使用git管理你的项目
- Leetcode--494. 目标和
- sqlite 中出现的database table is locked 解决办法
- Docker动荡在继续:创始人兼CTO离职
- hane WIN nfs配置
- 基于matlab的图像复原,MATLAB在图像复原中的应用
- 单独计算机械台班费套什么定额,2017年造价《工程计价》:预算定额中机械台班消耗量的计算...
- Simulink提速方式
- Android 渠道游戏 - 聚合SDK
- 网站优化排名的5个方法
- CSS网页布局中易犯的10个小错误
- java程序员 待遇_Java程序员之间薪资对比,为什么差距这么大?
- 分布式数据库之TiDB
- 62-Mybatis高级介绍
- 浅析PowerBuilder下动态SQL语句
- Chrome 源码剖析
- Android体系架构及认识