awk详解使用用法

Posted 2020-11-02

awk

流编辑器 适合处理有行有列 比较规则的文本

awk 读入一行，执行一次主输入循环
#awk ‘BEGIN{} {}END{}‘ 文件名称
BEGIN{}处理所有文本之前执行 不想执行可以不加BEGIN
{} 主输入循环
END{} 处理所有文本之后的执行 可选

{}中字符串必须加“” 如果一个字符串不不加引号，会被当作一个变量来处理

Awk读入一行，执行一次括号里面的动作
读入一行，执行一次后面的主输入循环

#awk ‘{}‘ /etc/passwd
#awk 选项 ‘BEGIN{} {} END{}‘ 文件

print语句如果没有参数，只简单输出每个输入行

#cat test2
Hello, world
#awk ‘{ print }‘ test2
Hello, world
awk 程序设计模型
awk 程序由所谓的主输入（main input）循环组成。一个循环称作一个例程。
awk允许你编写两个特殊的例程，他们在任何输入被读取前和所有输入都被读取后执行。他们是与BEGIN和END规则相关的过程。BEGIN和END过程是可选的。

awk ‘BEGIN {print “hello,World”}’

Hello,World
BEGIN模式不需要等待输入，它在第一个输入行读入之前执行。

BEGIN{} 所有文本内容读入之前要执行的命令
{} 主输入循环 用的最多
END{} 所有文本全部读入完成之后执行的命令

print
不跟任何参数，打印awk读入的内容
跟参数：
数字 不要加引号
字符串 必须加引号
变量 没有加引号的字符串

 print  5
 print  a
 print "a"

模式匹配
#cat src1.awk
/[0-9]+/ { print "That is an integer" }
/[A-Za-z]+/ { print "This is a string" }
/^$/ { print "This is a blank line." }

一个特殊的例子：一行文本可以匹配一条或多条规则
#echo 4t | awk -f src1.awk
That is an integer
This is a string

记录和字段

awk假设它的输入是有结构的，而不是一串无规则的字符。默认它将每个输入行作为一条记录，而将由空格或制表符分隔的单词作为字段。连续的多个空格和/或制表符被作为一个分隔符。

记录：以记录分割符分割的字符串
字段：以字段分割符分割的字符串
字段包括在记录里面

默认记录分隔符：\n
默认字段分隔符：单个或多个空格 \tab 或 当\n不是记录分隔符的时候\n是字段分隔符

record 记录
$0 整条记录
NR 记录号 number record
FNR F代表文件 将2文件分开记录行号
RS 输入记录分隔符 record separate
ORS 输出记录分隔符
$1 第一个字段
$2 第二个字段
$...
NF 字段个数
FS 输入字段分隔符
OFS 输出字段分隔符
FILENAME 被处理的文件的名称
，表示的是默认输出字段分隔符 默认是空格

#awk ‘BEGIN{FS=":";OFS=":"}{print $1"("$3")"}‘ /etc/passwd

#awk ‘BEGIN{FS= ":";printf("%-25s %-30s\n", "用户名","uid")}{printf("%-25s %-30s\n",$1,$3)}‘ passwd
用户名 uid
emon 2
lp 4
sync 5
tcpdump 72
xiaomi 1000

手动指定FS的值：

#awk ‘BEGIN{FS=":|="}{print $1}‘ a FS="冒号或等号"
hello
wenjian
bianji
chakan
sousuo

字段的引用和分离

John Robinson 666-555-1111
awk允许使用字段操作符$来指定字段。$后面可以跟着一个数字或者一个变量。
$1表示第一个字段，$2表示第二个字段，$0表示整个输入记录。

#awk ‘{ print $2, $1, $3 }‘ names
Robinson John 666-555-1111

可以使用-F来改变字段分隔符

#awk -F"\t" ‘{ print $2 }‘ names
666-555-1111
#awk -F"\t+" ‘{ print $2 }‘ names
#awk -F"[‘:\t]" ‘{ print $2 }‘ names
任何3个字符之一都可以被解释为字段分隔符

也可以在脚本中指定域分隔符，通过系统变量FS来改变
BEGIN { FS = "," } # comma-delimited fields
{ print $1 "-" $2 }

使用匹配规则

/MA/ { print $1 ", " $6 }

为了避免假警报，可以使用更精确的匹配 ～是匹配的意思
$5 ~ /MA/ { print $1 ", " $6 }
还可以使用！来反转这个规则的意义 ！～就是不匹配的意思
$5 !~ /MA/ { print $1 ", " $6 }

表达式:

常量
分成两种:字符串型和数字型
字符串型在表达式中必须用引号括起来
字符串中可以使用转义序列，常用的转义序列有：
\n 换行 \t 水平制表符 \r 回车

变量

x=1
x是变量的名字 =是一个赋值操作符 1是一个数字常量
注意：变量区分大小写，所以x 和X（大写）表示不同的变量
变量名只能由数字字母下划线组成，而且不能以数字开头
变量使用不区分类型，使用前不必初始化
z = "Hello"
z = "Hello" "World"
z = $1
以上几种都是合法的

常用算术操作符：

• Addition 加
• Subtraction 减
• Multiplication awk ‘{print (5+3)*8}‘ passwd 乘
  / Division awk ‘{print (5+3)/8}‘ passwd 除以
  % Modulo 取模 = 取余

$RANDOM 随机取值

echo $[$RANDOM%5] shell 里边用的 第一个$是shell里边的取值 第二个是随机取值它是一个变量

x=1 给x赋值
y=x+1 计算x的值，使它加1，并将结果赋给变量y。
print y 打印y的值。
我们可以将这3个语句减少为两个：
x=1
print x+1
2

常用赋值操作符

++ Add 1 to variable.
-- Subtract 1 from variable.
+= Assign result of addition.
-= Assign result of subtraction.
*= Assign result of multiplication.
/= Assign result of division.
%= Assign result of modulo.
^= Assign result of exponentiation.(取幂)
x++ ++x 都是 x=x+1 x++ ++x 区别在++ x 先加一在算x的值 x++ 先算x值在加
比如awk ‘BEGIN{x=1;print ++x}‘ 这样值是2
awk ‘BEGIN{x=1;print x++}‘ 这样值是1
for (x=1;x<=5;x++) 在for循环中没有区别

x-- --x 都是 x=x-1
x^ 这意思是 x的x次方 x^3 这就是x的3次方

计算文件中空行的数目
#awk ‘/^$/{x++}END{print x}‘ b
8

例如

计算学生的平均成绩
mona 70 77 85 83 70 89
john 85 92 78 94 88 91
andrea 89 90 85 94 90 95
jasper 84 88 80 92 84 82
dunce 64 80 60 60 61 62
ellis 90 98 89 96 96 92

#awk ‘{total=$2+$3+$4+$5;print $1,total/4}‘ b
姓名 0
tom 60
jim 35
lilei 67.75

系统变量：

$0 整条记录
$1 第一个字段
FS 定义字段分隔符,默认为一个空格
OFS 输出的字段分隔符，默认为一个空格
RS 记录分隔符，默认为一个换行符
ORS 输出的记录分隔符，默认为一个换行符
NR 行数
FNR 行数，多文件操作时会重新排序
NF 字段的个数
FILENAME 文件名

关系操作符和布尔操作符

关系操作符

< Less than

Greater than
<= Less than or equal to
= Greater than or equal to
== Equal to
!= Not equal to
~ Matches 匹配
!~ Does not match 不匹配
NF == 5 NF（每个输入记录的字段数）的值和5相比较，如果结果为真，那
么就进行相应的处理，否则不进行处理。
$5 ~ /MA/ {print $1 “,”$6}
注意：关系操作符==和赋值操作符=是不同的
awk与里边只有真和假 0真1假 shell里边正好相反 真的就执行假的就不执行

获取文件夹中文件总大小

ll | awk ‘{sum=sum+$5}END{print sum}‘
4521807078

格式化打印
printf ( format-expression [, arguments] )
c ASCII 字符
d 十进制整数
f 浮点格式
s 字符串
x 无符号十六进制

常用举例：

语法 %-width.precision format-specifier
printf(" %d \t %s \n ", $5 , $8 )
printf("|%10s|\n", "hello") 右对齐
printf("|%-10s|\n", "hello") 左对齐
printf("%.f\n", 5, 3, myvar) 宽度5 精度3 打印myvar

循环

while 循环
while (condition)
action

例：
i = 1
while ( i <= 4 ) {
print $i
++i
}

do 循环 先
do
action
while (condition)

例：
BEGIN {
do {
++x
print x
} while ( x <= 4 )
}

for 循环
for ( set_counter ; test_counter ; increment_counter )
action
for（变量初始化；变量变化范围-条件；增幅）

for(num=1;num<=9;num++) print num

num=1 //初始化
num<9条件成功 //判断
num=1 //执行循环体
打印1 //执行循环体

num=2 //num++
条件成功 //判断
2 //执行循化 体

先执行循环体在执行num++
一直循环下去，直到条件不成功，退出循环

例如：
从第一个字段到最后一个字段
for ( i = 1; i <= NF; i++ )
print $i

从最后一个字段到第一个字段
for ( i = NF; i >= 1; i-- )
print $i

用for实现求平均值
total = 0
for (i = 2; i <= NF; ++i)
#total = $2 + $3 + $4 + $5 + $6
#avg = total / 5
或者用下方在这个
total += $i
avg = total / (NF - 1)

awk重定向
#awk -F : ‘{print $1 >> "/tmp/awktest"}‘ /etc/passwd

awk管道
#awk -F : ‘{print $1 | "sort"}‘ /etc/passwd