正则表达式的应用

Posted 2021-05-21 阳光小王子

正则表达式的应用

• sort命令
• uniq命令
• tr命令
• cut命令
• 正则表达式
• • 基础正则表达式
  • 扩展正则表达式
  • 正则表达式的应用

sort命令

• 以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序
• 语法格式

sort 选项 参数
cat file | sort 选项

• 常用选项

-f	忽略大小写，默认会大写字母排在前面
-b	忽略每行前面的空格
-n	按照数字进行排序
-r	反向排序
-u	等同uniq，表示相同的数据仅显示一行
-t	指定字段分隔符，默认使用tab键分隔
-k	指定排序字段
-o<输出文件>	将排序后的结果转存至指定文件

sort  文件
//如果文件内容为数字，会根据首个数字进行升序排列，如果文件为英文字母，会根据首个字母进行排序
==================================
[root@localhost 1]# sort test1
five
four
one
seven
six
three
two

• 命令验证
• 升序排列/降序排列

sort -n test2 //相当于冒泡排序升序排序
sort -n -r test2  //降序排序
====================================
[root@localhost 1]# sort -n test2    // -n
11
22
33
34
45
55
56
66
77
[root@localhost 1]# sort -n -r test2  //-n  -r
77
66
56
55
45
34
33
22
11

[root@localhost 1]# sort -n test2
11
22
22
33
34
45
55
55
56
66
66
77
[root@localhost 1]# sort -n -u test2   //sort -u  去除重复 ，数字排序就加-n
11
22
33
34
45
55
56
66
77

[root@localhost 1]# cat /etc/passwd | sort -n -t ":" -k 3 -r
//-n：数字排序  -t：以：为分隔符，-k 3 ：指定第三个字段进行排序  -r：降序排序
======================================================================
nfsnobody:x:65534:65534:Anonymous NFS User:/var/lib/nfs:/sbin/nologin
test1:x:1000:1000:test1:/home/test1:/bin/bash
polkitd:x:999:997:User for polkitd:/:/sbin/nologin
libstoragemgmt:x:998:995:daemon account for libstoragemgmt:/var/run/lsm:/sbin/nologin
colord:x:997:994:User for colord:/var/lib/colord:/sbin/nologin
saslauth:x:996:76:Saslauthd user:/run/saslauthd:/sbin/nologin

uniq命令

• 语法格式

uniq 选项 参数
cat file | uniq 选项

• 常用选项

-c	进行计数，并删除文件中重复出现的行
-d	仅显示连续的重复行
-u	仅显示出现一次的行

• 命令验证
• uniq一般配合sort命令来使用

[root@localhost 1]# cat test2
11
34
56
77
45
33
55
66
22
22
55
66
[root@localhost 1]# sort -n test2 | uniq -c  //删除重复并统计重复的行数
      1 11
      2 22
      1 33
      1 34
      1 45
      2 55
      1 56
      2 66
      1 77

tr命令

• 语法格式

tr 选项 参数

• 常用选项

-c	保留字符集1的字符，其他的字符（包括换行符\\n）用字符集2替换
-d	删除所有属于字符集1的字符
-s	将重复出现的字符串压缩为一个字符串，用字符集2 替换 字符集1
-t	字符集2 替换 字符集1，不加选项同结果

• 参数
• 字符集1
  指定要转换或删除的原字符集。当执行转换操作时，必须使用参数”字符集2"指定转换操作时，必须使用参数”字符集2“指定转换的目标字符集。但执行删除操作时，不需要参数”字符集2"
• 字符集2
  指定要转换成的目标字符集

echo "abc" | tr 'a-z' 'A-Z'

echo -e "abc\\ncabcdab" | tr -C "ab\\n" "0"
echo -e "abc\\ncabcdab" | tr -c "ab" "0"

echo 'hello world' | tr -d 'od'

echo "thissss is a text 1 innnnnnne." | tr -s 'sn'

删除空行
echo -e "aa\\n\\n\\n\\n\\nbb" | tr -s "\\n"
cat testfile4| tr -s "\\n"

把路径变量中的冒号":"，替换成换行符"\\n"
echo $PATH | tr -s ":" "\\n"
echo -e "aa\\n\\n\\n\\n\\nbb" | tr -s "\\n" ":"

cut命令

• 显示行中的指定部分，删除文件中指定字段
• 语法格式

格式：
cut 选项 参数
或
cat file | cut 选项

• 常用选项

-f	通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分割符
-d	“TAB”是默认的分隔符，使用此选项可更改为其他的分隔符
–complement	用于排除所指定的字段
–output-delimiter	更改输出内容的分隔符

• 命令验证
• cut 和 expr substr 起始位置都是从1开始

三种不同截取方法：
[ root@localhost ~]# i=123456789
[ root@localhost ~]# echo ${i:0:3}
123
[ root@localhost ~]# echo $i | cut -b 1-3
123
[ root@localhost ~]# expr substr $i 1 3
123

正则表达式

• 通常用于判断语句中，用于检查某一字符串是否满足某一格式
• 正则表达式是由普通字符与元字符组成
• 普通字符包括大小写字母、数字、标点符号及一些其他符号
• 元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

基础正则表达式

• 支持的工具：grep、egrep、sed、awk

基础正则表达式常见元字符：

\\ ：转义字符，用于取消特殊符号的含义，例：\\!、\\n、\\$等

^ ：匹配字符串开始的位置，例：^a、^the、^#、^[a-z]
 
$ ：匹配字符串结束的位置，例：word$、^$匹配空行

. ：匹配除\\n之外的任意的一个字符，例：go.d、g..d

* ：匹配前面子表达式0次或者多次，例：goo*d、go.*d

[list] ：匹配list列表中的一个字符，例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字

[^list] ：匹配任意非list列表中的一个字符，例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母

\\{n\\} ：匹配前面的子表达式n次，例：go\\{2\\}d、'[0-9]\\{2\\}'匹配两位数字

\\{n,\\} ：匹配前面的子表达式不少于n次，例：go\\{2,\\}d、'[0-9]\\{2,\\}'匹配两位及两位以上数字

\\{n,m\\} ：匹配前面的子表达式n到m次，例：go\\{2,3\\}d、'[0-9]\\{2,3\\}'匹配两位到三位数字

注：egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\\”

扩展正则表达式

• 支持的工具：egrep、awk 或 grep -E 和 sed -r

扩展正则表达式元字符：

+ ：匹配前面子表达式1次以上，例：go+d，将匹配至少一个o，如god、good、goood等

? ：匹配前面子表达式0次或者1次，例：go?d，将匹配gd或god

() ：将括号中的字符串作为一个整体，例1：g(oo)+d，将匹配oo整体1次以上，如good、gooood等

| ：以或的方式匹配字条串，例：g(oo|la)d，将匹配good或者glad

正则表达式的应用

• 找出规范的座机号码

先创建一个文件存放座机号码

[root@localhost 1]# vim dianhua
02588888888
025-5555555555
025-12345678
[phone]
025 54321678
025ABC88888
01012345678
0125 12345678
=====================执行命令及运行结果====================
[root@localhost 1]# egrep "^(\\(?025\\)?)[ -]?[58][0-9]{7}$" dianhua
02588888888
[phone]
025 54321678

=======================注释==================================
注：因为dianhua数据里包含(025)--> \\(?  转义符匹配0次或1次，后面的)也是一样的;
   [ -]列表里可以是空格或者"-"匹配0次或1次
   [58]以5或8开头
   [0-9]{7}$以0-9里面的任意一位数结尾

• 验证可用邮箱

[root@localhost 1]# vim youx

[e-mail]
[e-mail]
[e-mail]
[e-mail]
zhao#[e-mail]
zhang*[e-mail]
[e-mail]

=====================执行命令及运行结果====================
[root@localhost 1]# egrep "^([a-zA-Z0-9\\.\\-\\#\\!\\_]+)@([a-zA-Z0-9\\-\\.\\_]+)\\.([a-zA-Z]{2,5})$" youx
[e-mail]
[e-mail]
[e-mail]
zhao#[e-mail]
[e-mail]

=======================注释==================================
([a-zA-Z0-9\\.\\-\\#\\!\\_]+) //+表示匹配一次以上，用记名可以是字母（大小写），数字且中间可以带特殊符号等
([a-zA-Z]{2,5})$ //顶级域以字母开头（大小写），一般长度为2-5位