linux awk用法

时间:2023-03-08 17:31:07
linux awk用法

awk是一个强大的文本分析工具,在对数据进行分析并生成报告时显得尤为强大。

使用方法:awk [options]  'BEGIN{ commands } pattern{ commands } END{ commands }'  file,其中commands都包含在大括号内。

第一步:运行BEGIN{ commands }语句块中的语句

第二步:从文件或标准输入(stdin)读取一行,以空格为默认分隔符将每行切片,然后运行pattern{ commands }语句块,逐行读取直到文件被读取完毕

第三步:读至输入流末尾时运行END{ commands }语句块

1.一个简单的awk用法实例:

[root@oldboy ~]# awk -F: '{print $1,$6}' /etc/passwd
root /root
bin /bin
daemon /sbin
adm /var/adm
……

其中参数-F:指定原文件以:分片,print表示打印,$1和$6表示每一行的第1片和第6片($0表示整行内容),/etc/passwd表示要处理的文件。

2.使用pattern部分

上述例子表示对每一行进行处理,而使用pattern则可对满足条件的行进行处理。

例如创建一个文件b.txt

[root@oldboy ~]# cat b.txt
Alice girl
Bob boy dance bike
Jane girl
Lily girl tennis
[root@oldboy ~]# awk '$2>=20{print $1,$2}' b.txt
Bob
Lily

$2>=20表示第2片的值大于等于20时,才进行后续的打印操作。

3.begin语句块

begin语句块是在awk匹配文件之前运行的并且只执行一次,所以在begin语句块中$n是不可用的。一般情况下可以在begin语句块中做一些变量初始化的工作,或者一些只需要在开始打印一次的内容(例如输出表的表头)。

4.end语句块

end语句块是在awk循环执行完所有行的处理之后再执行的,end语句块中的内容也只执行一次,一般用于打印一些只需在末尾输出一次的内容。

注意begin语句块、pattern语句块和end语句块都在一个单引号内,并且单引号内的需要使用双引号。(尝试外层用双引号内层用单引号,有报错)

[root@oldboy ~]# awk 'BEGIN{print "name","age","gender"} $2>=20{print $1,$2,$3} END{print "end"}' b.txt
name age gender
Bob boy
Lily girl
end

5.awk使用变量

①awk中内置变量

FILENAME:awk浏览的文件名  NF:浏览记录的域的个数  

NR:已读的记录数,如果有多个文件这个值不断累加  FNR:当前记录数,即自身文件的行号 

FS:设置输入域分隔符,等价于-F参数  OFS:设置输出域分隔符

RS:输入的记录分隔符, 默认为换行符  ORS:输出的记录分隔符, 默认为换行符

ARGC:命令行参数个数  ARGV:命令行参数排列  ENVIRON:支持队列中系统环境变量的使用

[root@oldboy ~]# awk -v OFS='#' '{print "文件名:"FILENAME,"浏览记录数:"NR,"域个数:"NF,"行内容:"$1,$2} END{print "文件"FILENAME"处理完毕,行数为"NR}'  b.txt
文件名:b.txt#浏览记录数:#域个数:#行内容:Alice#
文件名:b.txt#浏览记录数:#域个数:#行内容:Bob#
文件名:b.txt#浏览记录数:#域个数:#行内容:Jane#
文件名:b.txt#浏览记录数:#域个数:#行内容:Lily#
文件b.txt处理完毕,行数为4

②自定义变量

[root@oldboy ~]# a=
[root@oldboy ~]# b=
[root@oldboy ~]# awk -v x=$a -v y=$b 'BEGIN{print x+y}' [root@oldboy ~]# awk -F# 'BEGIN{COUNT=0} {count+=$2} END{print count}' a.txt

6.awk中的判断语句

[root@oldboy ~]# awk '$2>20{print}' b.txt
Lily girl tennis
[root@oldboy ~]# awk '{if($2>20) print}' b.txt
Lily girl tennis
[root@oldboy ~]# awk 'BEGIN{age=25;if(age>18){print "成年人"} else if(age==18){print "刚好18岁"} else{print "未成年人"} }'
成年人

7.awk中的循环语句

[root@oldboy ~]# awk 'BEGIN{sum=0;i=1;while(i<51){sum+=i;i++} print sum}'

[root@oldboy ~]# awk 'BEGIN{sum=0;i=1;do{sum+=i;i++}while(i<51) print sum }'

[root@oldboy ~]# awk 'BEGIN{sum=0;for(i=1;i<51;i++) {sum+=i} print sum}'

在判断语句和循环语句中,多条语句之间用分号隔开,复合语句块用大括号括起来。

awk循环语句中使用continue跳过当前循环,使用break退出整个循环。

8.awk使用数组

[root@oldboy ~]# cat test.txt
zhangsan
lisi
zhangsan
lisi
wangwu
[root@oldboy ~]# awk '{sum[$1]+=$2} END{for(k in sum) print k,sum[k]}' test.txt
zhangsan
lisi
wangwu