shell编程之awk用法

Posted 2020-11-06 jian-178

awk工作原理
　　　　第一步：执行BEGIN{action;… }语句块中的语句
　　　　第二步：从文件或标准输入(stdin)读取一行，然后执行pattern{ action;… }语句块，它逐行扫描文件，从第一行到最后一行重复这个过程，直到文件全部被读取完毕。
　　　　第三步：当读至输入流末尾时，执行END{action;…}语句块
　　　　BEGIN语句块在awk开始从输入流中读取行之前被执行，这是一个可选的语句块，比如变量初始化、打印输出表格的表头等语句通常可以写在BEGIN语句块中
　　　　END语句块在awk从输入流中读取完所有的行之后即被执行，比如打印所有行的分析结果这类信息汇总都是在END语句块中完成，它也是一个可选语句块
　　　　pattern语句块中的通用命令是最重要的部分，也是可选的。如果没有提供pattern语句块，则默认执行{ print }，即打印每一个读取到的行，awk读取的每一行都会执行该语句块

awk 打印报表,格式化输出文档信息
把文件中读取带的每一行的每个字段分别进行格式化，而后进行显示
支持使用变量、条件判断、循环、数组
ContOS里使用的是 gawk
　　基本语法:
　　　　awk [选项] ‘program(awk语言)‘ 变量=赋值 file...
　　　　awk [选项] -f proogramfile(awk语言文件) var=value file...
　　　　awk [选项] ‘begin{action;..} pattern{action;..}END{action;..};
　　注:awk语言通常写在单引号当中,(双引号可能会被其他语言调用)
　　　　BEGIN{action;..} :执行前操作,(常用于打印出表头,用于打印乘除,变量运算)
　　　　pattern{action;..} :pattern(用于过滤条件,条件判断等)
　　　　END{action;..} : 执行后的收尾的操作,常用于总结,汇总
　　　　action对数据进行处理,放在{}内指明行分隔符,列分隔符
　　选项:
　　　　-f /PATH/FROM/AWK_script 从文件中读取awk程序文件
　　　　-F 指定输入时用到的字段分隔符(切割符)
　　　　$0:整行 $1,$2.....:位置参数
　　　　-v var=value:自定义变量,内置变量
awk的常用四种分隔符:行列分隔符需手动指定
　　输入
　　　　行分隔符(一条记录等于一行,每条记录以行分隔符隔开,用于区分)
　　　　列分隔符(字段,域,属性 具体实现原理等同于行分隔符)
　　输出
　　　　行分隔符
　　　　字段分隔符
　　awk可接受输入,输出,重定向

　　awk变量:内置变量和自定义变量

内置变量:
　　　　FS: 输入字段分隔符,默认为空白字符
　　　　OFS: 输出字段分隔符,默认为空白字符
　　　　RS: 输入记录分隔符,指定输入时的换行符
　　　　ORS: 输出记录分隔符,输出时用指定符号代替换行符
　　　　NF: 字段数量
　　　　NR: 记录号
　　　　FNR: 各文件分别计数,记录号
　　　　FILENAME: 当前文件名
　　　　ARGC: 命令行参数的个数
　　　　ARGV: 数组,保存的是命令行所给定的各参数
　　自定义变量:
　　　　① -v var=value 直接赋值
　　　　② 在program中直接定义并赋值

　　小结:
　　　　awk里调用变量不需要$
　　　　awk的变量可以引用shell语言中变量的值
　　　　自定义变量,先赋值在使用.

print命令:打印输出
　　特性: 　　①逗号分隔符
　　　　　　  ②输出的内容可以为(字符串,数值,当前字段,变量,awk表达式)
　　　　 　　 ③如省略输出内容,默认输出匹配到的所有内容

printf命令:格式化输出
　　特性: 　 　 ①必须指定格式)
　　　　　　　②不会自动换行,需要显示给出换行控制符
　　　　　　　③FORMAT中需要分别为后面每个(内容)指定格式符
　　①格式符:与(内容)一一对应
　　　　　　%c: 显示字符的ASCII码
　　　　　　%d,%i: 显示十进制整数
　　　　　　%e,%E: 显示科学计数法数值
　　　　　　%f: 显示浮点数
　　　　　　%g,%G: 以科学记数法或浮点形式显示数值
　　　　　　%s: 显示字符串
　　　　　　%u 显示符号整数
　　　　　　%%: 显示%自身
　　②修饰符:
　　　　　　#[.#] : 第一个数字控制显示的宽度;第二个#表示小数点之后的精度
　　　　　　-: 左对齐(默认右对齐) 例%-15s
　　　　　　+: 显示数值的正负符号 例%+d
　　③算数操作符:
　　　　　　-x: 转换为负数
　　　　　　+x: 转换为数值
　　④字符串操作符 :
　　⑤赋值操作符:
　　　　　　=, +=,-=,*=,/=,%=,^=
　　⑥比较操作符:
　　　　　　==,!=,>,>=,<,<=
　　⑦模式匹配符:
　　　　　　~: 左边是否和右边匹配上包含
　　　　　　~!: 是否不匹配
　　⑧逻辑操作符
　　　　　　与&& 或|| 非!
　　⑨正则表达式
　　⑩条件表达式(三目表达式)
　　⑾函数调用

　　小结:pattern常用写法:过滤匹配的行,在做处理
　　　　如果未指定:匹配每一行
　　　　地址定界：/pat1/，/pat2/ 仅匹配到条件范围内的行
　　　　关系表达式,
　　　　awk里 非0非空 对0取反都为1
　　　　返回值:0为假 1为真
-------------------------------------------------------------------------------------------------------------------------------------
awk高级用法:条件判断,循环,函数,数组详细用法　　

　　if-else控制语句:
　　　　语法if(条件){打印内容}[else 打印内容]
　　　　f(条件1){打印内容},else if{条件2}{打印内容}else{打印内容}
　　　　使用场景:对awk取得的整行或某个字段做条件判断

　　while循环:条件为真时进入循环，条件为假退出循环
　　　　语法:while(条件){打印内容;..}
　　　　使用场景:对一行内的多个字段逐一处理时使用
　　　　对数组中的元素逐一处理时使用

　　do-while循环:先执行一次在进行条件判断
　　　　语法:do{打印内容;..}while(条件)

 

　　for循环:
　　　　常见用法:
　　　　语法:for(初始化语句;条件判断,条件改变){打印内容}
　　　　特殊用法:能够遍历数组中的元素
　　　　语法:for(var in array){for-body}

　　swith语句:
　　　　语法:switch(条件){case}
　　　　表达式如果满足case中的VALUE1或REGEXP 就执行后面的语句。

　　循环控制语句:
　　　　break[#] 退出循环体
　　　　continue[#] 跳出本次循环
　　　　next: 提前结束对本行的处理(awk自身循环)
　　数组详细用法:
　　　　关联数组: array[索引-元素]
　　　　可以使用任意字符串，字符串要使用双引号括起来
　　　　如果数组事先不存在，在引用时候awk会自动创建此数组,并赋值为空
　　　　若要判断数组中是否存在某元素，要使用"index in array" 遍历数组查找
　　　　awk的数组索引从1开始编号
　　函数:
　　　　①数值处理:srand():返回0至1之间的一个随机数
　　　　②字符串处理:
　　　　　　length([s]):返回指定字符串的长度
　　　　　　sub(匹配的字符,替换字符,[$1]) 搜索替换,只替换一次
　　　　　　gsub(匹配的字符,替换字符,[文件]) 搜索替换,全局替换
　　　　　　split(s,array,[r])以r为分隔符，切割字符串s，并将切割后的结果保存至array所表示的数组中，第一个索引值为1,第二个索引值为2,…
　　　　③自定义函数:
　　　　　　　　语法格式:参数先定义才能调用等同于C语言
　　　　　　　　function name (参数列表,name,pwd){
　　　　　　　　　　　　函数体
　　　　　　　　　　return 返回值
　　　　　　　　}

awk中调用shell命令
　　system命令
　　　　空格是awk中的字符串连接符,如果system中需要使用awk中的变量可以使用
　　　　空格分隔,或者说除了awk的变量外其他一律用"引用起来

向awk脚本传递参数
　　-v 向awk脚本中传递参数