详解流编辑器 sed 和编程语言 awk

一、流编辑器 sed

sed 是一个精简的、非交互式的流式编辑器，它在命令行中输入编辑命令和指定文件名，然后在屏幕上查看输出。

逐行读取文件内容存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。原文件内容并没有改变。

（一）sed 简单用法

选项	-e	连接多个编辑命令（直接在命令行模式上进行sed的操作）
	-f	指定sed脚本文件名（将sed的操作写在一个文件里，用的时候 -f filename 就可以按照内容进行sed操作了）
	-n	阻止输入行自动输出（只有经过sed处理过的行才显示出来，其他不显示）

-r 使之支持扩展正则表达式

-i 后跟文件名，sed 的操作会更改到文件

sed ‘4,$d’ test.in
sed ‘3q’ test.in
sed ‘s/public/PUBLIC/’ test.in
sed -n ‘s/public/PUBLIC/p’ test.in

指定多个命令的三种方法：

1、用分号分隔命令
sed 's/public/PUBLIC/;s/north/NORTH/' test.in

2、每个命令前放置-e
sed -e 's/public/PUBLIC/' -e 's/north/NORTH/' test.in

3、使用分行命令功能，在输入单引号后按return键就会出现多行提示符（>）
sed '
> s/public/PUBLIC/
> s/north/NORTH/' test.in

在脚本中使用sed命令：

test.sed文件内容如下：
s/public/PUBLIC/
s/north/NORTH/

sed -f test.sed test.in

（二）sed 命令语法

sed_cmd：使用格式:[address]sed_edit_cmd(通常用单引号括起来)，其中address为sed的行定位模式，用于指定将要被sed编辑的行。如果省略，sed将编辑所有的行。sed_edit_cmd为sed对被编辑行将要进行的编辑操作。

sed_cmd中address的定位方式：

n	表示第 n 行
$	表示最后一行
m,n	表示从第 m 行到第 n 行
/pattern/	查询包含指定模式的行。如 /disk/、/[a-z]/
/pattern/,n		表示从包含指定模式的行到第 n 行
n,/pattern/		表示从第 n 行到包含指定模式的行
/模式1/,/模式2/		表示从包含模式1 到包含模式2的行
！		反向选择，如 m,n！的结果与m,n 相反

（三）常用的sed_edit_cmd：

（四）常用sed编辑命令小结

q：退出，读取到指定行后退出 sed。

sed'3q' test.in

p	打印匹配行	s	替换命令
=	显示匹配行的行号	l	显示指定行中所有字符
d	删除匹配的行	r	读文件
a\	在指定行后面追加文本	w	写文件
i\	在指定行前面追加文本	n	读取指定行的下面一行
c\	用新文本替换指定的行	q	退出 sed

二、编程语言awk

awk 是一种用于处理数据和生成报告的编程语言

awk 可以在命令行中进行一些简单的操作，也可以被写成脚本来处理较大的应用问题

awk 与 grep、sed 结合使用，将使 shell 编程更加容易

Linux 下使用的awk 是gawk

awk 逐行扫描输入 (可以是文件或管道等)，按给定的模式查找出匹配的行，然后对这些行执行awk 命令指定的操作。

与 sed一样，awk不会修改输入文件的内容。

可以使用重定向将awk的输出保存到文件中。

（一）awk简单用法

用法示
选项	-F	指定输入记录字段的分隔符，默认使用环境变量IFS的值
	-f	从指定文件读取awk_script
	-v	为awk设定变量

The IFS is a special shell variable.
You can change the value of IFS as per your requirments.
The Internal Field Separator (IFS) that is used for word splitting after expansion and to split lines into words with the read builtin command.
The default value is <space><tab><newline>. You can print it with the following command:
cat -etv <<<"$IFS"
IFS variable is commonly used with read command, parameter expansions and command substitution.

awk -F: '{ print $1 }' /etc/passwd

awk -F: '{ print $1, $3 }' /etc/passwd // 输出以空格连接

awk -F: '{ print $1 "|" $3 }' /etc/passwd // 输出以 | 连接

awk -F: '/root/{ print $1 "|" $3 }' /etc/passwd

awk -F: '/^root/' /etc/passwd // 开头是root 的行

（二）awk_script语法

注意BEGIN和END都是大写字母

awk'BEGIN {actions}

/pattern1/{actions}

......

/patternN/{actions}

END {actions}' input_file

其中BEGIN{actions}和END{actions}是可选的

awk_script 可以由一条或多条 awk_cmd 组成，每条 awk_cmd 各占一行。

每个 awk_cmd 由两部分组成：/pattern/{actions}

awk_cmd 中的 /pattern/ 和 {actions} 可以省略，但不能同时省略；/pattern/ 省略时表示对所有的输入行执行指定的 actions；

{actions} 省略时表示打印整行。

（三）awk 的执行过程

取出ip 地址：

ifconfig |awk '/inetaddr/{ print $2 }' |awk -F: '{ print $2 }'

ifconfig |awk '/inetaddr/{ print $2 }' |awk -F: 'BEGIN { print "begin..."} { print $2 } END { print "end..."} '

（四）模式匹配

① 使用正则表达式：/rexp/，如/^A/、/A[0-9]*/

^	只匹配行首 ( 可以看成是行首的标志 )
$	只匹配行尾 ( 可以看成是行尾的标志 )
*	一个单字符后紧跟 *，匹配 0个或多个此字符
[ ]	匹配 [] 内的任意一个字符 ([^]反向匹配 )
\	用来屏蔽一个元字符的特殊含义
.	匹配任意单个字符
str1\|str2	匹配 str1 或 str2
+	匹配一个或多个前一字符
?	匹配零个或一个前一字符
( )	字符组

（五）字段分隔符、重定向和管道

NR表示从awk开始执行后，按照记录分隔符读取的数据次数，默认的记录分隔符为换行符，因此默认的就是读取的数据行数，

NR可以理解为Number of Record的缩写。

在awk处理多个输入文件的时候，在处理完第一个文件后，NR并不会从1开始，而是继续累加，因此就出现了FNR，

每当处理一个新文件的时候，FNR就从1开始计数，FNR可以理解为File Number of Record。

NF表示目前的记录被分割的字段的数目，NF可以理解为Number of Field。

（六）更多awk

awk不仅是一个命令，它更是一个编程语言
变量
内部变量
awk ' {print NR,$0} ' #给文件加上行号
自定变量
函数
内置函数
自定义函数
awk '{ print sum($1,$2) } function sum(x,y) { s=x+y ; return s }' grade.txt
数组
awk 'BEGIN { print split("123#456",arr,"#") ; for (i in arr) { print arr[i] } }' // arr： 123 456

result="id 10 28 19 32"

data=(`echo $result | awk '{ for(i=2;i<=NF;i++) {print $i}}'`)

for task_id in ${data[@]}

done

参考：
《鸟哥的Linux私房菜基础篇》
《高级bash shell编程指南》

http://www.grymoire.com/

详解流编辑器 sed 和编程语言 awk相关推荐

linux shell中的流编辑器sed的使用
sed流编辑器 23.3.1 sed strem editor 流编辑器 sed编辑器是一行一行的处理文件内容的.正在处理的内容存放在模式空间(缓冲区)内,处理完成后按照选项的规定进行输出或文件的 ...
MarkDown语法详解(Typora编辑器)
MarkDown语法详解(Typora编辑器) 即使再小的帆也能远航~ 目录 Mrakdown简介 Markdown标题 Markdown字体各种线引用图片超链接列表表格代码锚(mao ...
54. 流编辑器sed技术概览
1.流编辑器sed:不需要与人进行交互,修改文件是重点 sed工作流程因此,sed不可将退出状态作为执行成功与否判断的依据. sed '' /etc/passwd 原封不动的逐行输出 sed 'd' ...
shell脚本编程笔记（九）—— 初识流编辑器 sed
一. 流编辑器 sed编辑器被称作流编辑器(stream editor).在交互式文本编辑器中(比如vim),你可以用键盘命令来交互式地插入.删除或替换数据中的文本.流编辑器则基于预先提供的一组命令来 ...
详解CSDN-markdown编辑器使用教程（首次使用CSDN-markdown）
详解CSDN-markdown编辑器使用教程(首次使用CSDN-markdown) 原创:丶无殇时间:2019-9-19 *仅基于原文教程加以注释* *注释以代码片方式(红字)* 字体颜色和大 ...
shell脚本学习笔记（流编辑器sed）
sed意为流编辑器(Stream Editor),在Shell脚本和Makefile中作为过滤器使用非常普遍,也就是把前一个程序的输出引入sed的输入,经过一系列编辑命令转换为另一种格式输出.sed不 ...
流编辑器sed和gawk
sed编辑器是一种流编辑器,区别于交互式vim编辑器,处理数据更快. 注意:sed编辑器并不会修改文本文件的数据.它只会将修改后的数据发送到STDOUT! sed 命令的格式如下:sed option ...
linux sed 详解,linux的sed命令详解
一丶简介 sed是一种流编辑器,它一次处理一行内容.处理时,把当前处理的行存储在临时缓冲区中,称为"模式空间"(patternspace),接着用sed命令处理缓冲区中的内容,处理 ...
linux中替换命令详解,linux中sed命令字符串替换的用法详解
Linux系统中sed命令可以将字符串批量替换,省去了很多麻烦,下面由学习啦小编为大家整理了linux系统中sed命令字符串替换的用法详解,希望对大家有帮助! linux中sed命令字符串替换的用法详 ...

详解流编辑器 sed 和编程语言 awk

详解流编辑器 sed 和编程语言 awk相关推荐

最新文章

热门文章

详解流编辑器 sed 和 编程语言 awk

详解流编辑器 sed 和 编程语言 awk相关推荐

最新文章

热门文章

详解流编辑器 sed 和编程语言 awk

详解流编辑器 sed 和编程语言 awk相关推荐