Linux——文本处理三剑客之awk

Posted 0715mmmm

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Linux——文本处理三剑客之awk相关的知识,希望对你有一定的参考价值。

awk:报告生成器,对文本内容进行格式化输出,即自定义式的输出文本,显示在终端上。

awk有多种版本:New awk(nawk),GNU awk( gawk)

而Linux中多用gawk,gawk为模式扫描和处理语言。

gawk还是一种过程式编程语言,也称其为脚本语言解释器。

下面使用时,简称awk。

awk在使用时同sed一样,一次处理一行,准确来说,一次处理一个记录,awk 有一个分隔符的功能,

分隔符隔离出一个个记录之后,awk将每个片段赋值给awk内部变量来进行计算、运算、输出等操作。

awk基本用法

1.运行方式:

            (1)  awk + 命令行:awk [options]  ‘BEGIN{ action;… } pattern{ action;… } END{ action;… }‘  filename

[[email protected](mei) ~]# awk ‘{print "hello"}‘ /etc/fstab
hello
hello
hello
hello
hello
hello
hello
hello

            (2)  awk + 程序文件  awk [options] ‘program’ var=value file… …

[[email protected](mei) ~]# awk ‘{print}‘ /etc/passwd
root:x:0:0:root:/root:/bin/bash
dbus:x:81:81:System message bus:/:/sbin/nologin
rpc:x:32:32:Rpcbind Daemon:/var/lib/rpcbind:/sbin/nologin
rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin
haldaemon:x:68:68:HAL daemon:/:/sbin/nologin
postfix:x:89:89::/var/spool/postfix:/sbin/nologin
gdm:x:42:42::/var/lib/gdm:/sbin/nologin

            (3)  awk + 脚本文件  awk [options] -f programfile filename



2.基本格式

awk 程序通常由:BEGIN语句块、能够使用模式匹配的通用语句块、END语句块,共3部分组成。

awk 后面可以跟一些选项:
                        -F :指明输入时用到的字段分隔符
                       -f filename :紧跟文件名表示执行该文件

                       -v var=value:自定义变量         

基本格式:awk [options] ‘program‘ filename…

program:pattern{action statements;..}

pattern和action:

            pattern部分决定动作语句何时触发及触发事件 BEGIN,END

            action statements对数据进行处理,放在{}内指明 print, printf

分割符、域和记录 :

                       awk执行时,由分隔符分隔的字段(域)标记$1,$2..$n称为域标识 。

                       $0为所有域,如果省略action,则默认执行 print $0 的操作

文件的每一行称为记录,但是这是在默认分隔符为空格下,如果分隔符改变,记录号也随之改变,具体视情况而定。


但是具体在执行时是怎样执行的呢?
第一步:执行BEGIN{action;… }语句块中的语句

第二步:从文件或标准输入(stdin)读取一行,然后执行pattern{ action;… }语句块,它逐行扫描文件,从第一行到最后一行重复这个过程,直到文件全 部被读取完毕。

第三步:当读至输入流末尾时,执行END{action;…}语句块

            BEGIN语句块在awk开始从输入流中读取行之前被执行,这是一个可选的语句块 ,比如变量初始化、打印输出表格的表头等语句通常可以写在BEGIN语句块中 。

           END语句块在awk从输入流中读取完所有的行之后即被执行,比如打印所有行的 分析结果这类信息汇总都是在END语句块中完成,它也是一个可选语句块 。

           pattern语句块中的通用命令是最重要的部分,也是可选的。如果没有提供 pattern语句块,则默认执行{ print },即打印每一个读取到的行,awk读取 的每一行都会执行该语句块。


awk变量

变量分为内置和自定义变量。

先介绍内置变量:

        FS:输入字段分隔符,默认为空白字符 。

              eg:awk -v FS=‘:‘  ‘{print $1,FS,$3}’ /etc/passwd awk –F:   ‘{print $1,$3,$7}’ /etc/passwd

        OFS:输出字段分隔符,默认为空白字符 。

              eg:awk -v FS=‘:’  -v OFS=‘:’ ‘{print $1,$3,$7}’ /etc/passwd

        RS:输入记录分隔符,指定输入时的换行符,原换行符仍有效 。

             eg:awk -v RS=‘ ‘ ‘{print }’ /etc/passwd

        ORS:输出记录分隔符,输出时用指定符号代替换行符 。

              eg:awk -v RS=‘ ‘ -v ORS=‘###‘‘{print }’ /etc/passwd

        NF:字段数量 。

            eg:awk -F: ‘{print NF}’ /etc/fstab,只引用内置变量不用$

            但是需要对内置变量进行操作需要加$:  awk -F:  ‘{print $(NF-1)}‘  /etc/passwd

        NR:行号 ,但准确的说是记录号。

            eg :awk ‘{print NR}‘  /etc/fstab

                     awk END‘{print NR}‘  /etc/fstab

       FNR:各文件分别计数,行号

            eg : awk ‘{print FNR}‘  /etc/fstab /etc/inittab

       FILENAME:当前文件名

           eg: awk ‘{print FILENAME}’  /etc/fstab

       ARGC:命令行参数的个数

             eg:awk ‘{print ARGC}’  /etc/fstab /etc/inittab awk ‘BEGIN {print ARGC}’  /etc/fstab /etc/inittab

       ARGV:数组,保存的是命令行所给定的各参数

             eg:awk ‘BEGIN {print ARGV[0]}’  /etc/fstab /etc/inittab awk ‘BEGIN {print ARGV[1]}’  /etc/fstab /etc/inittab


自定义变量:

        自定义变量(区分字符大小写) (1) -v var=value (2) 在program中直接定义

示例: awk -v test=‘hello gawk‘ ‘{print test}‘ /etc/fstab awk -v test=‘hello gawk‘ ‘BEGIN{print test}‘

              awk ‘BEGIN{test="hello,gawk";print test}‘ awk –F:‘{sex=“male”;print $1,sex,age;age=18}’ /etc/passwd

             cat awkscript {print script,$1,$2} awk -F: -f awkscript script=“awk” /etc/passwd

awk格式化

这里涉及到格式化输出,学习到两个输出命令:print、printf

print:

printf:格式化输出

printf “FORMAT”, item1, item2, ...

             (1) 必须指定FORMAT

             (2) 不会自动换行,需要显式给出换行控制符,

             (3) FORMAT中需要分别为后面每个item指定格式符


格式符:与item一一对应

              %c: 显示字符的ASCII码 

             %d, %i: 显示十进制整数

            %e, %E:显示科学计数法数值

            %f:显示为浮点数

            %g, %G:以科学计数法或浮点形式显示数值

            %s:显示字符串

            %u:无符号整数

            %%: 显示%自身

修饰符: #[.#]:第一个数字控制显示的宽度;第二个#表示小数点后精度

                  %3.1f

                 -: 左对齐(默认右对齐) %-15s

                +:显示数值的正负符号 %+d

awk操作符

算术操作符: x+y, x-y, x*y, x/y, x^y, x%y

                           -x: 转换为负数

                           +x: 转换为数值

字符串操作符:没有符号的操作符,字符串连接

赋值操作符: =, +=, -=, *=, /=, %=, ^= ++, -

比较操作符: ==, !=, >, >=, <, <=

模式匹配符:

                          ~:左边是否和右边匹配包含

                          !~:是否不匹配

                                 eg:awk –F: ‘$0 ~ /root/{print $1}‘  /etc/passwd

                                          awk ‘$0~“^root"‘ /etc/passwd

                                          awk ‘$0  !~ /root/‘   /etc/passwd

                                          awk –F: ‘$3==0’  /etc/passwd

awk条件判断

逻辑操作符:与&&,或||,非!

示例: awk –F: ‘$3>=0 && $3<=1000 {print $1}‘ /etc/passwd

               awk -F: ‘$3==0 || $3>=1000 {print $1}‘ /etc/passwd

               awk -F: ‘!($3==0) {print $1}‘ /etc/passwd

               awk -F: ‘!($3>=500) {print $3}’ /etc/passwd

函数调用: function_name(argu1, argu2, ...)

条件表达式(三目表达式): selector?if-true-expression:if-false-expression

示例: awk -F: ‘{$3>=1000?usertype="Common User":usertype="Sysadmin or SysUser";printf "%15s:%s ",$1,usertype}‘ /etc/passwd

awk循环



























以上是关于Linux——文本处理三剑客之awk的主要内容,如果未能解决你的问题,请参考以下文章

文本处理三剑客之 Sed ——高级编辑命令

linux相识相知sed命令

文本聚类——文本预处理

linux文本处理三剑客之grep

Linux文本处理三剑客之grep

linux文本处理三剑客之一:grep