Linux三剑客(grep、sed、awk)详解

前言：本文主要介绍一下Linux中最重要的三个命令，他们在业界被誉为“三剑客”，它们分别是：awk,sed,grep。它们三个侧能的功能不同，grep擅长查找功能，sed擅长取行和替换，awk擅长取列。下面分别介绍三者的主要option和应用实例。

一、文本过滤工具grep(egrep)

grep [OPTIONS] PATTERN [FILE...]

1.1、主要Option

--color=auto 对匹配到的文本着色显示

-v 显示不被pattern匹配到的行

-i 忽略字符大小写

-n 显示匹配的行号

-c 统计匹配的行数

-o 仅显示匹配到的字符串

-q 静默模式，不输出任何信息

-A # after, 后#行

-B # before, 前#行

-C # context, 前后各#行

-e 实现多个选项间的逻辑or关系grep –e ‘cat ’ -e ‘dog’ file

-w 匹配整个单词

-E 使用ERE,相当于egrep

-F 相当于fgrep，不支持正则表达式

1.2、grep应用举例

查找 文件中包含root的行grep -n root /etc/passwd

二、流编辑器 --- 强大的替换工具sed

sed是一种流编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”(pattern space)，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。然后读入下行，执行下一个循环。如果没有使诸如‘D’ 的特殊命令，那会在两个循环之间清空模式空间，但不会清空保留空间。这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。

sed [option]... 'script' inputfile

2.1、主要Option

-n 不输出模式空间内容到屏幕，即不自动打印

-e 多点编辑

-f /PATH/SCRIPT_FILE: 从指定文件中读取编辑脚本

-r 支持使用扩展正则表达式

-i 直接编辑文件

-i.bak 备份文件并原处编辑

2.2、Script 定界

不给地址：对全文进行处理

单地址：

#: 指定的行，$：最后一行

/pattern/：被此处模式所能够匹配到的每一行

地址范围：

#,#

#,+#

/pat1/,/pat2/

`#,/pat1/

~：步进

1~2 奇数行

2~2 偶数行

2.3、编辑命令：

d 删除模式空间匹配的行，并立即启用下一轮循环

p 打印当前模式空间内容，追加到默认输出之后

a [\]text1 在指定行后面追加文本,支持使用\n实现多行追加

i [\]text 在行前面插入文本

c [\]text 替换行为单行或多行文本

w /path/somefile 保存模式匹配的行至指定文件

r /path/somefile 读取指定文件的文本至模式空间中匹配到的行后

= 为模式空间中的行打印行号

! 模式空间中匹配行取反处理

s///：查找替换,支持使用其它分隔符，s@@@，s###替换标记：

g 行内全局替换

p 显示替换成功的行

w /PATH/TO/SOMEFILE 将替换成功的行保存至文件中

2.4、应用实例

打印文件的第二行sed -n 2p /etc/passwd

三、 报告生成器awk --- 列提取神器

awk [options] 'program' file…

program:pattern{action statements;..}pattern部分决定动作语句何时触发及触发事件

BEGIN,END

action statements对数据进行处理，放在{}内指明

print, printf

3.1、主要Option

-F 指明输入时用到的字段分隔符

-v var=value 自定义变量

awk执行时，由分隔符分隔的字段(域)标记1,1,2..n称为域标识，n称为域标识，0为所有域。

省略action，则默认执行 print $0 的操作。

3.2、变量

FS:输入字段分隔符；

OFS：输出字段分隔符；

RS：输入记录分隔符；

ORS：输出记录分隔符；

NF：字段数量；

NR:记录号；

NFR：各文件分别计数，记录号。

FILENAME：当前文件名；

ARGC：命令行的参数；

ARGV：数组，保存的是命令行所给定的各参数。注意：以上都是内置变量，在引用时不需要前面加$，每新建一个变量，都需要加个-v,与变量名之间有无空格都可以，变量可以在引用之后再声明，但那一行的输出会输出空行。

3.3、printf命令

printf “FORMAT” , item1, item2, ... 不会自动换行，FORMAT中需要分别为后面每个item指定格式符。

格式符No.

item

表现形式

1

%c

显示字符的ASCII码

2

%d, %i

显示十进制整数

3

%e, %E

显示科学计数法数值

4

%f

显示为浮点数

5

%g, %G

以科学计数法或浮点形式显示数值

6

%s

显示字符串

7

%u

无符号整数

8

%%

显示%自身操作符No.

格式符

item表现形式1

#[.#]

第一个数字控制显示的宽度；第二个#表示小数点后精度，%3.1f

2

-

左对齐(默认右对齐) %-15s

3

+

显示数值的正负符号 %+d操作符算术操作符：x+y, x-y, x*y, x/y, x^y, x%y-x: 转换为负数

+x: 转换为数值

比较操作符：==, !=, >, >=,

模式匹配符：~：左边是否和右边匹配包含 !~：是否不匹配

逻辑操作符：与&&，或||，非!

函数调用：function_name(argu1, argu2, ...)

条件表达式(三目表达式)：selector?if-true-expression:if-false-expressionPATTERN:根据pattern条件，过滤匹配的行，再做处理如果未指定：空模式，匹配每一行

/regular expression/：仅处理能够模式匹配到的行，需要用/ /括起来

relational expression: 关系表达式，结果为“真”才会被处理

line ranges：行范围 startline,endline：/pat1/,/pat2/不支持直接给出数字格式

BEGIN/END模式

awk控制语句{ statements;… } 组合语句

if(condition) {statements;…}

if(condition) {statements;…} else {statements;…}

while(conditon) {statments;…}

do {statements;…} while(condition)

for(expr1;expr2;expr3) {statements;…}

break

continue

delete array[index]

delete array

exit

3.4、应用实例

打印文件第一列(文件分隔符为‘:’)awk -F ':' '{print $1}' /etc/passwd

四、参考文献

标签：grep,sed,awk,statements,分隔符,匹配,三剑客

来源： https://blog.csdn.net/gsjthxy/article/details/106985813