在Linux里awk与sed的区别,linux awk和sed讲解
sed 工具简介
在了解了一些正规表示法的基础应用之后,再来呢?呵呵~两个东西可以玩一玩的,那就是 sed 跟 awk 了!
这两个家伙可是相当的有用的啊!举例来说,鸟哥写的 logfile.sh 分析登录文件的小程序,
绝大部分分析关键词的取用、统计等等,就是用这两个宝贝蛋来帮我完成的! 那么你说,要不要玩一玩啊?!
^_^
我们先来谈一谈 sed 好了,基本上, sed 可以分析 Standard Input (STDIN) 的数据,
然后将数据经过处理后,再将他输出到 standrad out (STDOUT) 的一个工具。
至于处理呢?可以进行取代、删除、新增、撷取特定行等等的功能呢!很不错吧~ 我们先来了解一下 sed
的用法,再来聊他的用途好了!
[root@linux ~]# sed [-nefri] [动作]
参数:
-n :使用安静(silent)模式。在一般 sed
的用法中,所有来自 STDIN
的数据一般都会被列出到屏幕上。但如果加上 -n
参数后,则只有经过
sed 特殊处理的那一行(或者动作)才会被列出来。
-e :直接在指令列模式上进行 sed
的动作编辑;
-f :直接将 sed 的动作写在一个档案内, -f
filename 则可以执行 filename 内的
sed 动作;
-r :sed
的动作支持的是延伸型正规表示法的语法。(预设是基础正规表示法语法)
-i :直接修改读取的档案内容,而不是由屏幕输出。
动作说明: [n1[,n2]]function
n1, n2 :不见得会存在,一般代表『选择进行动作的行数』,举例来说,如果我的动作
是需要在 10 到 20
行之间进行的,则『 10,20[动作行为] 』
function 有底下这些咚咚:
a :新增, a
的后面可以接字符串,而这些字符串会在新的一行出现(目前的下一行)~
c :取代, c 的后面可以接字符串,这些字符串可以取代
n1,n2 之间的行!
d :删除,因为是删除啊,所以 d
后面通常不接任何咚咚;
i :插入, i
的后面可以接字符串,而这些字符串会在新的一行出现(目前的上一行);
p :打印,亦即将某个选择的数据印出。通常 p 会与参数
sed -n 一起运作~
s :取代,可以直接进行取代的工作哩!通常这个 s
的动作可以搭配
正规表示法!例如 1,20s/old/new/g 就是啦!
范例:
范例一:将 /etc/passwd 的内容列出,并且我需要打印行号,同时,请将第 2~5 行删除!
[root@linux ~]# nl /etc/passwd |sed '2,5d'
1 root:x:0:0:root:/root:/bin/bash
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
.....(后面省略).....
# 看到了吧?因为 2-5 行给他删除了,所以显示的数据中,就没有 2-5 行啰~
# 另外,注意一下,原本应该是要下达 sed -e 才对,没有 -e 也行啦!
# 同时也要注意的是, sed 后面接的动作,请务必以 '' 两个单引号括住喔!
# 而,如果只要删除第 2 行,可以使用 nl /etc/passwd | sed '2d'
来达成,
# 至于第 3 到最后一行,则是 nl /etc/passwd | sed '3,$d'
的啦!
范例二:承上题,在第二行后(亦即是加在第三行)加上『drink tea?』字样!
[root@linux ~]# nl /etc/passwd |sed '2a drink tea'
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
drink tea
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
# 嘿嘿!在 a 后面加上的字符串就已将出现在第二行后面啰!那如果是要在第二行前呢?
# nl /etc/passwd | sed '2i drink tea' 就对啦!
范例三:在第二行后面加入两行字,例如『Drink tea or .....』『drink
beer?』
[root@linux ~]# nl /etc/passwd | sed '2a Drink tea or ......\
> drink beer ?'1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
Drink tea or ......
drink beer ?
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
# 这个范例的重点是,我们可以新增不只一行喔!可以新增好几行~
# 但是每一行之间都必须要以反斜线 \ 来进行新行的增加喔!所以,上面的例子中,
# 我们可以发现在第一行的最后面就有 \ 存在啦!那是一定要的喔!
范例四:我想将第2-5行的内容取代成为『No 2-5 number』呢?
[root@linux ~]# nl /etc/passwd | sed '2,5c No 2-5
number'
1 root:x:0:0:root:/root:/bin/bash
No 2-5 number
6 sync:x:5:0:sync:/sbin:/bin/sync
# 没有了 2-5 行,嘿嘿嘿嘿!我们要的数据就出现啦!
范例五:仅列出第 5-7 行
[root@linux ~]# nl /etc/passwd | sed -n '5,7p'
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
# 为什么要加 -n 的参数呢?您可以自行下达 sed '5,7p'
就知道了!(5-7行会重复输出)
# 有没有加上 -n 的参数时,输出的数据可是差很多的喔!
范例六:我们可以使用 ifconfig 来列出 IP ,若仅要 eth0 的 IP 时?
[root@linux ~]# ifconfig eth0
eth0 Link
encap:Ethernet HWaddr
00:51:FD:52:9A:CA
inet
addr:192.168.1.12 Bcast:192.168.1.255 Mask:255.255.255.0
inet6 addr:
fe80::250:fcff:fe22:9acb/64 Scope:Link
UP
BROADCAST RUNNING
MULTICAST MTU:1500 Metric:1
.....(以下省略).....
# 其实,我们要的只是那个 inet addr:..那一行而已,所以啰,利用 grep 与 sed 来捉
[root@linux ~]# ifconfig eth0 | grep 'inet ' | sed 's/^.*addr://g'
| \
> sed 's/Bcast.*$//g'#
您可以将每个管线 (|) 的过程都分开来执行,就会晓得原因啰!
# 去头去尾之后,就会得到我们所需要的 IP 亦即是 192.168.1.12 啰~
范例七:将 /etc/man.config 档案的内容中,有 MAN
的设定就取出来,但不要说明内容。
[root@linux ~]# cat /etc/man.config | grep 'MAN'| sed 's/#.*$//g' |
\
> sed '/^$/d'#
每一行当中,若有 # 表示该行为批注,但是要注意的是,有时候,
# 批注并不是写在第一个字符,亦即是写在某个指令后方,如底下的模样:
# 『shutdown -h now # 这个是关机的指令』,批注 # 就在指令的后方了。
# 因此,我们才会使用到将 #.*$ 这个正规表示法!
范例八:利用 sed 直接在 ~/.bashrc 最后一行加入『# This is a test』
[root@linux
~]# sed -i '$a # This is a
test' ~/.bashrc#
上头的 -i 参数可以让你的 sed 直接去修改后面接的档案内容喔!而不是由屏幕输出。
# 至于那个
$a 则代表最后一行才新增的意思。
总之,这个 sed 不错用啦!而且很多的 shell script 都会使用到这个指令的功能~ sed
可以帮助系统管理员管理好日常的工作喔!要仔细的学习呢!
awk 工具简介
相较于 sed 常常作用于一整个行的处理, awk 则比较倾向于一行当中分成数个『字段』来处理。 因此,awk
相当的适合处理小型的数据数据处理呢!awk 通常运作的模式是这样的:
[root@linux ~]# awk '条件类型1{动作1} 条件类型2{动作2} ...' filename awk
可以处理后续接的档案,也可以读取来自前个指令的 standard output 。 但如前面说的, awk
主要是处理『每一行的字段内的数据』,而预设的『字段的分隔符为 "空格键" 或 "[tab]键" 』!举例来说,我们用 last
可以将登入者的数据取出来, 结果如下所示:
[root@linux ~]#lastdmtsai pts/0 192.168.1.12 Mon Aug 22
09:40 still logged
in
root tty1 Mon Aug 15
11:38 -
11:39 (00:01)
reboot system
boot 2.6.11 Sun Aug 14
18:18 (7+15:41)
dmtsai pts/0 192.168.1.12 Fri Aug 12
12:07 -
12:08 (00:01)
若我想要取出账号与登入者的 IP ,且账号与 IP 之间以 [tab] 隔开,则会变成这样:
[root@linux ~]# last | awk '{print $1 "\t" $3}'
dmtsai 192.168.1.12
root Mon
reboot boot
dmtsai 192.168.1.12
因为不论哪一行我都要处理,因此,就不需要有 "条件类型" 的限制!我所想要的是第一栏以及第三栏,
但是,第二行及第三行的内容怪怪的~这是因为数据格式的问题啊!所以啰~使用 awk
的时候,请先确认一下您的数据当中,如果是连续性的数据,请不要有空格或 [tab]
在内,否则,就会像这个例子这样,会发生误判喔!
另外,由上面这个例子您也会知道,在每一行的每个字段都是有变量名称的,那就是 $1, $2... 等变量名称,以上面的例子来说,
dmtsai 是 $1 ,因为他是第一栏嘛!至于 192.168.1.12 是第三栏, 所以他就是 $3
啦!后面以此类推~呵呵!还有个变数喔!那就是 $0 ,$0 代表『一整列资料』的意思~ 以上面的例子来说,第一行的 $0
代表的就是『dmtsai pts/0.... 』那一行啊! 由此可知,刚刚上面四行当中,整个 awk
的处理流程是:
读入第一行,并将第一行的资料填入 $0, $1, $2.... 等变数当中;
依据 "条件类型" 的限制,判断是否需要进行后面的 "动作";
做完所有的动作与条件类型;
若还有后续的『行』的数据,则重复上面 1~3 的步骤,直到所有的数据都读完为止。经过这样的步骤,您会晓得, awk
是『以行为一次处理的单位』, 而『以字段为最小的处理单位』。好了,那么 awk 怎么知道我到底这个数据有几行?有几栏呢?这就需要
awk 的内建变量的帮忙啦~
变量名称
代表意义
NF
每一行 ($0) 拥有的字段总数
NR
目前 awk 所处理的是『第几行』数据
FS
目前的分隔字符,预设是空格键
我们继续以上面例子来做说明,如果我想要列出每一行的账号,并且列出目前处理的行数, 并且说明,该行有多少字段,则可以这样
(注意, awk 后续的所有动作以 ' 括住, 所以,内容如果想要以 print
打印时,记得,非变量的文字部分,包含上一小节
printf
提到的格式中,都需要使用双引号来定义出来喔!)
[root@linux ~]# last | awk '{print $1 "\t lines: " NR "\t columes:
" NF}'
dmtsai lines:
1 columes:
10
root lines:
2 columes:
9
reboot lines:
3 columes:
9
dmtsai lines:
4 columes:
10
这样可以了解 NR 与 NF 的差别了吧?好了,底下来谈一谈所谓的 "条件类型" 了吧!
awk 的逻辑运算字符
既然有需要用到 "条件" 的类别,自然就需要一些逻辑运算啰~例如底下这些:
运算单元
代表意义
> 大于
小于
>= 大于或等于
小于或等于
== 等于
!= 不等于
值得注意的是那个 == 的符号,因为在『逻辑运算』上面, 就是所谓的大于、小于、等于等等的判断式上面,我们习惯上是以 ==
来表示,而如果是直接给予一个值,例如变量设定时,就直接使用 = 而已。 好了,我们实际来运用一下逻辑判断吧!举例来说,在
/etc/passwd 当中是以冒号 ":" 来作为字段的分隔,那假设我要查阅,第三栏小于 10 以下的数据,并且仅列出账号与第三栏,
那么可以这样做:
[root@linux ~]# cat /etc/passwd | \
> awk '{FS=":"} $3 root:x:0:0:root:/root:/bin/bash
bin 1
daemon 2
......(以下省略)......
有趣吧!不过,怎么第一行没有正确的显示出来呢?这是因为我们读入第一行的时候, 那些变数 $1, $2...
预设还是以空格键为分隔的,所以虽然我们定义了 FS=":" 了, 但是却仅能在第二行后才开始生效。那么怎么办呢?我们可以预先设定
awk 的变量啊! 利用 BEGIN 这个关键词喔!这样做:
[root@linux ~]# cat /etc/passwd | \
> awk 'BEGIN {FS=":"} $3 ......(以下省略)......
很有趣吧!而除了 BEGIN 之外,我们还有 END 呢!另外,如果要用 awk 来进行『计算功能』呢?以底下的例子来看,
假设我有一个薪资数据表,内容是这样的:
Name 1st 2nd 3th
VBird 23000 24000 25000
DMTsai 21000 20000 23000
Bird2 43000 42000 41000
如何帮我计算每个人的总额呢?而且我还想要格式化输出喔! 你可以将上面的数据储存成一个名称为 pay.txt 的档案,则:
[root@linux ~]# cat pay.txt | \
> awk 'NR==1{printf "s s s s s\n",$1,$2,$3,$4,"Total" }
NR>=2{total = $2 + $3 + $4
printf "s d d d .2f\n", $1, $2, $3, $4,
total}' Name 1st 2nd 3th Total
VBird 23000 24000 25000 72000.00
DMTsai 21000 20000 23000 64000.00
Bird2 43000 42000 41000 126000.00
上面的例子有几个重要事项应该要先说明的:
所有的动作,亦即在 {} 内的动作,如果有需要多个指令辅助时,可利用分号『;』间隔, 或者直接以 [Enter]
按键来隔开每个指令,例如上面的 NR>=2 后面接的动作, 利用 total = ... 那个指令来指定加总,而后续则以
printf 来格式化输出!
逻辑运算当中,如果是『等于』的情况,则务必使用两个等号『==』!
格式化输出时,在 printf 的格式设定当中,务必加上 \n
,才能进行分行!
与 bash shell 的变量不同,在 awk 当中,变量可以直接使用,不需加上 $ 符号。
利用 awk 这个玩意儿,就可以帮我们处理很多日常工作了呢!真是好用的很~ 此外, awk
的输出格式当中,常常会以 printf
来辅助,所以, 最好您对 printf 也稍微熟悉一下比较好啦!另外, awk 的动作内 {} 也是支持 if (条件) 的喔!
举例来说,上面的指令可以修订成为这样的
[root@linux ~]# cat pay.txt | \
> awk '{if(NR==1) printf "s s s s
s\n",$1,$2,$3,$4,"Total"}
NR>=2{total = $2 + $3 + $4
printf "s d d d .2f\n", $1, $2, $3, $4, total}'
你可以仔细的比对一下上面两个输入有啥不同~从中去了解两种语法吧! 我个人是比较倾向于使用第一种语法,因为会比较有统一性啊!
^_^
在Linux里awk与sed的区别,linux awk和sed讲解相关推荐
- linux的wq 与wq的区别,Linux ESC :wq 和:wq!的区别
Linux ESC :wq 和:wq!的区别 Linux ESC:wq 和:wq!的区别 发布者:IT人在线 | 发表时间:2018-12-4 17:20:43 Linux ESC :wq esc(键 ...
- linux里gpl_GPL实施,ONOS与Linux Foundation合作以及更多新闻
linux里gpl 在本周的开放源代码新闻摘要中,我们将介绍面向社区的GPL实施,与Linux Foundation合作的ONOS项目,使用Texas Instruments计算器制作音乐的开放源代码 ...
- linux中fopen和open的区别,Linux下open与fopen的区别
int open(const char *path, int access,int mode) path 要打开的文件路径和名称 access 访问模式,宏定义和含义如下: O_RDONLY ...
- linux里怎样压缩文件,如何在Linux中解压缩文件
ZIP是最广泛使用的存档文件格式,支持无损数据压缩. ZIP文件是一个数据容器,其中包含一个或多个压缩文件或目录. 在本教程中,我们将说明如何使用unzip命令通过命令行在Linux系统中解压缩文件. ...
- linux里用户权限:~$,/$,~#,/#的区别与含义
转自博客.仅供自己学习使用,如有侵权,请联系删除 $表明是非root用户登录,#表示是root用户登录,它们是终端shell的命令提示符. 而/是根节点, ~是 home 如果以root账号登陆,~ ...
- linux中s权限大小写的区别,Linux中的权限
1.文件与目录权限 1)UID与GID ØUID UID是一个数值,是Linux系统中唯一的用户标识,用于区别不同的用户.在系统内部管理进程和文件保护时使用UID字段.在Linux系统中,注册名和UI ...
- linux里进程监控和自动重启,Linux - linux进程监控和自动重启的简单实现
linux进程监控和自动重启的简单实现 目的:linux 下服务器程序会由于各类缘由dump掉,就会影响用户使用,这里提供一个简单的进程监控和重启功能.linux 实现原理:由定时任务crontab调 ...
- linux下cron和cron的区别,Linux环境下` `与$()用法的区别eval和crontab的意义
命令替换是指shell能够将一个命令的标准输出插在一个命令行中任何位置.shell中有两种方法作命令替换:把shell命令用反引号或者$(...)结构括起来,其中,$(...)格式受到POSIX标准支 ...
- linux下q和q 的区别,linux命令中q、wq、q!的区别
Linux中没这个命令: 只是在vi中有这个指令: q表示退出: w表示保存退出: q!表示强制退出. linux命令是对Linux系统进行管理的命令, 对于Linux系统来说,无论是中央处理器.内存 ...
最新文章
- 华为p20可以用云闪付吗_华为hcIE有多难?零基础可以通过华为hcie认证吗?
- C++对象内存布局--③测试多继承中派生类的虚函数在哪一张虚函数表中
- 品质管控计划ppt怎样写_品质管理需要做好几件事
- linux c之#include <unistd.h> 总结
- linux sudo 必须属于用户ID0,sudo:/usr/bin/sudo 务必属于用户 ID 0(的用户)并且设置 setuid 位...
- The Famous Clock(著名的钟)
- 【转】如何开始学习CoreCLR源代码?
- VC++任意格式时间字符串转换为CTime类型以及计算时差
- js 请求接口获取不到登录cookie xhrFields 配置
- SQLHelper类方法介绍及简单使用
- 3dmax如何导入ies灯
- 适合新手练习js解密的小站--飞卢小说网登录--第四期
- MATLAB——更换主题颜色
- 解决IE下input事件初始化自动执行的问题
- [IOS初学]ios 第一篇 storyboard 与viewcontroller的关系 - Zoe_J
- utsc的计算机科学,天啊撸:中国留学生淘汰率竟比加拿大学生高出一倍
- 谷歌离线地图的使用(1)
- 机器视觉入门之路(六一,大用图像二值化,从静态到动态)
- 关于抽象类说法以下哪些是正确的?
- Linux-1:微星主板+双系统安装Ubuntu18.04.5
热门文章
- 计算机应用基础一级考试题库,2018一级结构工程师《计算机应用基础》题库及答案(一)...
- oracle 只对成绩前三名进行排序其余不变_2021年采用美术统考成绩的重点院校名单汇总...
- python 类继承 父类初始化_python之子类继承父类时进行初始化的一些问题
- 机器学习简介及学习思维导图
- 4.数据库(增删改查)备份及恢复
- delphi64位 char数组转换string中文乱码_使用位运算、值交换等方式反转java字符串-共四种方法...
- iPhone X 刘海打理指北
- 最全BAT数据库面试89题:mysql、大数据、redis
- 论文浅尝 | 一种基于递归超图的知识图谱问答方法
- 技术沙龙 | 图神经网络(GNN)最新研究进展分享