Linux文本处理三剑客awk

Posted 2021-01-07

  前一篇文章分享了awk的一些基本概念和用法，这篇分享的是awk的一些高级用法。在学习awk的过程中，对比我之前学过的C语言，我发现awk里的while,for,case等语法和C语言里的语法是完全一样的。毕竟awk创始人之一布莱恩·威尔森·柯林汉与C语言的创始人丹尼斯·里奇共同写作了C语言的第一本著作《C程序设计语言》。

一.awk action

常用的action分类
? (1) Expressions:算术，比较表达式等
? (2) Control statements：if, while等
? (3) Compound statements：组合语句
? (4) input statements
? (5) output statements：print等

awk控制语句

{ statements;… } 组合语句
if(condition) {statements;…} 
if(condition) {statements;…} else {statements;…}
while(conditon) {statments;…}
do {statements;…} while(condition)
for(expr1;expr2;expr3) {statements;…}
break
continue
delete array[index]
delete array
exit 

if-else

语法：

if(condition){statement;…}[else statement]
if(condition1){statement1}else if(condition2){statement2}else{statement3}

使用场景：对awk取得的整行或某个字段做条件判断

示例：
awk -F: ‘{if($3>=1000)print $1,$3}‘ /etc/passwd
awk -F: ‘{if($NF=="/bin/bash") print $1}‘ /etc/passwd
awk ‘{if(NF>5) print $0}‘ /etc/fstab
awk -F: ‘{if($3>=1000) {printf "Common user: %s
",$1} else {printf "root or   Sysuser: %s
",$1}}‘ /etc/passwd
awk -F: ‘{if($3>=1000) printf "Common user: %s
",$1; else printf "root or    Sysuser: %s
",$1}‘ /etc/passwd

df -h|awk -F% ‘/^/dev/{print $1}‘|awk ‘$NF>=80{print $1,$5}‘
awk ‘BEGIN{ test=100;if(test>90){print “very good“}
else if(test>60){ print ”good”}else{print “no pass”}}’

while循环

语法：

while(condition){statement;…}
条件“真”，进入循环；条件“假”，退出循环

使用场景：
对一行内的多个字段逐一类似处理时使用
对数组中的各元素逐一处理时使用

示例：
awk ‘/^[[:space:]]*linux16/{i=1;while(i<=NF) 
{print $i,length($i); i++}}‘ /etc/grub2.cfg
awk ‘/^[[:space:]]*linux16/{i=1;while(i<=NF) {if(length($i)>=10) {print 
$i,length($i)}; i++}}’ /etc/grub2.cfg

do-while循环

语法：

do {statement;…}while(condition)
意义：无论真假，至少执行一次循环体

示例：
? awk ‘BEGIN{ total=0;i=0;do{ total+=i;i++;}while(i<=100);print total}’

for循环

语法：

for(expr1;expr2;expr3) {statement;…}

常见用法：

for(variable assignment;condition;iteration process) 
{for-body}

特殊用法：能够遍历数组中的元素
语法：

for(var in array) {for-body}

示例：
awk ‘/^[[:space:]]*linux16/{for(i=1;i<=NF;i++) {print $i,length($i)}}‘ /etc/grub2.cfg

性能比较 time

time (awk ‘BEGIN{ total=0;for(i=0;i<=10000;i++){total+=i;};print total;}‘)
time (total=0;for i in {1..10000};do total=$(($total+i));done;echo $total)
time (for ((i=0;i<=10000;i++));do let total+=i;done;echo $total)
time (seq –s ”+” 10000|bc)

switch语句

语法：

switch(expression) {case VALUE1 or /REGEXP/: statement1; case VALUE2 or /REGEXP2/: statement2; ...; default: statementn}

break和continue

? awk ‘BEGIN{sum=0;for(i=1;i<=100;i++) {if(i%2==0)continue;sum+=i}print sum}‘
? awk ‘BEGIN{sum=0;for(i=1;i<=100;i++) {if(i==66)break;sum+=i}print sum}‘

break [n]
continue [n]
next:
提前结束对本行处理而直接进入下一行处理（awk自身循环）

awk -F: ‘{if($3%2!=0) next; print $1,$3}‘ /etc/passwd

二.awk数组

关联数组：array[index-expression]

index-expression:

? (1) 可使用任意字符串；字符串要使用双引号括起来       
? (2) 如果某数组元素事先不存在，在引用时，awk会自动创建此元素，并将其值初始化为“空串”       
? (3) 若要判断数组中是否存在某元素，要使用“index in array”格式进行遍历          

示例：

weekdays[“mon”]="Monday“
awk ‘BEGIN{weekdays["mon"]="Monday";
weekdays["tue"]="Tuesday";print weekdays["mon"]}‘
awk ‘!arr[$0]++’ dupfile   去重，去掉文件中重复的行 sort -u
awk ‘{!arr[$0]++;print $0, arr[$0]}‘ dupfile

awk数组若要遍历数组中的每个元素，要使用for循环

for(var in array) {for-body}
注意：var会遍历array的每个索引

示例：

? awk ‘BEGIN{weekdays["mon"]="Monday";weekdays["tue"] ="Tuesday";for(i in weekdays) {print weekdays[i]}}‘
? netstat -tan | awk ‘/^tcp/{state[$NF]++}END {for(i in state) { print i,state[i]}}‘
? awk ‘{ip[$1]++}END{for(i in ip) {print i,ip[i]}}‘ /var/log/httpd/access_log

三.awk函数

rand函数

数值处理：

rand()：返回0和1之间一个随机数
awk ‘BEGIN{srand(); for (i=1;i<=10;i++)print int(rand()*100) }‘

字符串处理函数：

? length([s])：返回指定字符串的长度
? sub(r,s,[t])：对t字符串搜索r表示模式匹配的内容，并将第一个匹配内容替换为s

echo "2008:08:08 08:08:08" | awk ‘sub(/:/,“-",$1)‘
? gsub(r,s,[t])：对t字符串进行搜索r表示的模式匹配的内容，并全部替换为s所表示的内容
echo "2008:08:08 08:08:08" | awk ‘gsub(/:/,“-",$0)‘
? split(s,array,[r])：以r为分隔符，切割字符串s，并将切割后的结果保存至array所表示的数组中，第一个索引值为1,第二个索引值为2,…

netstat -tn | awk ‘/^tcp>/{split($5,ip,":");count[ip[1]]++}
END{for (i in count) {print i,count[i]}}’

自定义函数格式：

function name ( parameter, parameter, ... ) {
statements
return expression
}

示例：

cat fun.awk
function max(x,y) {
x>y?var=x:var=y
return var
}
BEGIN{a=3;b=2;print max(a,b)}
awk –f fun.awk

四.awk中调用shell命令

system命令
空格是awk中的字符串连接符，如果system中需要使用awk中的变量可以使用空格分隔，或者说除了awk的变量外其他一律用""引用起来

awk‘BEGIN‘{system("hostname") }‘ 
awk‘BEGIN{score=100; system("echo your score is " score) }‘

五.awk脚本

将awk程序写成脚本，直接调用或执行
示例：
cat f1.awk
{if($3>=1000)print $1,$3}
awk -F: -f f1.awk /etc/passwd
cat f2.awk
#!/bin/awk –f
#this is a awk script
{if($3>=1000)print $1,$3}
chmod +x f2.awk
f2.awk –F: /etc/passwd

向awk脚本传递参数

格式：
awkfile var=value var2=value2... Inputfile

注意：在BEGIN过程中不可用。直到首行输入完成以后，变量才可用。可以通过-v 参数，让awk在执行BEGIN之前得到变量的值。命令行中每一个指定的变量都需要一个-v参数

示例：
cat test.awk 
#!/bin/awk –f
{if($3 >=min && $3<=max)print $1,$3} 
chmod +x test.awk
test.awk -F: min=100 max=200 /etc/passwd