awk 文本处理工具

时间:2022-12-20 13:13:43

awk:

    强大的文本处理工具,擅长对日志文件进行分析;

    不仅用于Linux,也是任何环境中现在的功能最强大的数据处理引擎;

 

语法说明:

awk '{pattern + action}' {filenames}

pattern:指在数据中要查找的内容;

action:指要操作的指令。

{}可以对一系列指令进行分组,不一定要出现。pattern要表达的正则表达式要用斜杠括起来。

通常,awk是以文件的一行为处理单位,每接收一行就执行相应的命令。

 

三种调用方法:

  1. 命令行:

    awk [-F field-separator] 'commands' input-files

    field-separator:域分隔符,指文件每一行中每个域分隔的符号,默认为空格。

  1. shell脚本:

    将所有awk命令插入到一个文件,并使awk程序可执行,awk命令解释器作为脚本的首行。

    #!/bin/awk

  2. 将所有awk命令插入到单独文件,调用:

    awk –f script-file input-files

    -f选项加载script-file中的awk脚本。

     

 

awk执行流程:

awk 文本处理工具

 

示例:

  1. awk '{print $1}' access.201204

    意思:显示access.201204文件的每一行中的第一个$1数据,$1为每一行中空格相隔的第一个字串,$2为第二个字串,以此类推。

    如果将print $1保存在文件内,假设保存为test1,则可以写成:awk –f test1 access.201204

  2. awk '$1~/sina/{print $1}' e20120706

    意思:$1字串匹配sina字符串时,则执行print $1。

  3. awk '{ip[$1]++} END { for (i in ip) {print i,ip}}' access.2028 | less |sort -nr

    意思:将每行$1作为ip数组下标,进行重复计数统计,完后再循环ip数组,显示下标和统计结果,并按降序排列。

 

内置变量:

awk 文本处理工具

 

操作符:

awk 文本处理工具

 

常用的字符串函数:

awk 文本处理工具

 

控制流和循环:

awk 文本处理工具

 

数组输出:

awk 文本处理工具

 

参考笔记:

http://linux.vbird.org/somepaper/20090427-learn_sed_and_awk.pdf