linux_三剑客_awk

Posted zhanghongqi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了linux_三剑客_awk相关的知识,希望对你有一定的参考价值。


【概念介绍】:awk是一种可以处理数据、产生格式化报表的语言,功能十分强大。awk 认为文件中的每一行是一条记录 记录与记录的分隔符为换行符,
      每一列是一个字段 字段与字段的分隔符默认是一个或多个空格或tab制表符.
      awk的工作方式是读取数据,将每一行数据视为一条记录(record)每条记录以字段分隔符分成若干字段,然后输出各个字段的值.

        gawk - pattern scanning and processing language
            模式扫描 和 处理语言
【作用说明】: 擅长对列进行操作 擅长对日志文件进行分析处理
【执行原理】:

技术图片
【语法结构】:

  awk 参数 ‘匹配模式 动作指令‘ 文件信息
  sed 参数 ‘匹配条件 动作指令 ‘ 文件信息

基础操作部分:

  查询筛选,排除指定信息,模拟替换修改信息

-F " "  指定列的分隔符(参数)

  awk默认以空格作为分隔列的符号, 默认有多个连续的空格看做一个整体

  awk使用了-F指定分隔符号,多个空格之间也表示一列或者多列信息

技术图片

-f file 指定读取程序的文件名
-v var=value 定义awk程序中使用的变量和默认值

注意:awk 程序脚本由左大括号和右大括号定义。脚本命令必须放置在两个大括号之间。由于awk命令行假定脚本是单文本字符串,所以必须将脚本包
括在单引号内。

【内置变量】

NR== 显示指定行号信息(模式)

NF 表示文件中列信息 $NF 取出最后一列 $(NF-1) 取出文件倒数第二列
FS 表示指定分隔符信息 -F == FS

      

 

print gsub 显示指定列的信息(动作)

  awk修改替换指令: gsub --- gawk substitute
  awk替换指令用户: gsub(/要替换的信息/,"替换成什么信息",$将第几列信息做替换)

 

 

 

字段提取:提取一个文本中的一列数据并打印输出

 

字段相关内置变量

 

$0 表示整行文本

 

$1 表示文本行中的第一个数据字段

 

$2 表示文本行中的第二个数据字段

 

$N 表示文本行中的第N个数据字段

 

$NF 表示文本行中的最后一个数据字段

 

awk程序运行优先级是:

  1)BEGIN: 在开始处理数据流之前执行,可选项

  2)program: 如何处理数据流,必选项
  3)END: 处理完数据流后执行,可选项


测试环境准备:

技术图片

基础练习题目:
01. 显示xiaoyu的姓氏和ID号码
方法一: 根据文件行号,显示指定内容
1) 找出有xiaoyu信息的行
技术图片
2) 显示指定列信息 第一列 第三列
技术图片

方法二: 根据字符信息,显示指定内容
1) 找出第二列有xiaoyu信息的行
技术图片
2) 显示指定列信息 第一列 第三列
技术图片

02. 姓氏是Zhang的人,显示他的第二次捐款金额及他的名字
第一个历程: 找出姓氏是zhang
技术图片
第二个历程: 显示输出第二次捐款记录以及名字
技术图片

03. 显示所有以41开头的ID号码的人的全名和ID号码
第一个历程: 找出以41开头ID号码信息
技术图片
第二个历程: 显示出指定列
技术图片

04. 不要显示所有以41开头ID号码的人全名和ID, 将其他人员全名和ID号码显示
技术图片
05. 显示所有ID号码最后一位数字是1或5的人的全名 显示id号码
技术图片

06. 显示Xiaoyu的捐款,每个时都有以$开头, 如$110$220$330 ---替换
第一个历程: 将指定金额进行显示
技术图片

第二个历程: 将金额表示形式修改为用$表示
技术图片

练习:
01. 如何取出IP地址
第一个历程: 如何显示出IP地址
第二个历程: 显示有IP地址指定行

第三个历程: 显示IP地址

技术图片



02. 如何取出文件权限数值
技术图片

专业的命令获取文件的权限
技术图片

高级操作部分: 对日志文件进行分析处理

awk程序的优先级

关于awk程序的执行优先级,BEGIN是优先级最高的代码块,是在执行PROGRAM之前执行的,

不需要提供数据源,因为不涉及到任何数据的处理,也不依赖与PROGRAM代码块;

PROGRAM是对数据流干什么,是必选代码块,也是默认代码块。所以在执行时必须提供数据源;

END是处理完数据流后的操作,如果需要执行END代码块,就必须需要PROGRAM的支持,单个无法执行。

awk模式作用:
  · 普通模式: 正则信息进行匹配 比较方式匹配信息 范围模式
   · 特殊模式:
BEGIN: 在处理文件内容之前,完成BEGIN操作过程
技术图片

 

【在BEGIN中设置变量信息】

 

技术图片

 

 【END:    在处理文件内容之后,完成END操作过程】

 

 技术图片

 

 

用法

awk定义数组

数组定义方式: 数组名[索引]=值

技术图片

awk运算

  1. 赋值运算 =
  2. 比较运算 > >= == < <= !=
  3. 数学运算 + - * / % ** ++ --
  4. 逻辑运算 && ||
  5. 匹配运算 ~ !~

1.赋值运算:主要是对变量或者数组赋值,如:

变量赋值 name=‘baism‘ school=‘ayitula‘

数组赋值 array[0]=100

技术图片

2.比较运算,如果比较的是字符串则按ascii编码顺序表比较。如果结果返回为真则用1表示,如果返回为假则用0表示

技术图片

技术图片

3.数学运算

技术图片

技术图片

4.逻辑运算

与运算:真真为真,真假为假,假假为假

技术图片

或运算:真真为真, 真假为真,假假为假

技术图片

5.匹配运算

技术图片

技术图片

以上是关于linux_三剑客_awk的主要内容,如果未能解决你的问题,请参考以下文章

Linux三剑客awk命令篇二:命令操作符

Linux三剑客之一awk

1.12-linux三剑客之awk用法详解

linux 文本三剑客之awk

Linux文本三剑客之awk

linux基础学习-18-linux三剑客之awk命令精讲