Shell编程之正则表达式

Posted 2021-05-21 Zmac111

Shell编程之正则表达式

• 先介绍几个常用命令
• • sort命令
  • uniq命令
  • tr命令
  • cut命令
• 正则表达式概述
• • 基础正则表达式
  • 扩展正则表达式
• 正则表达式应用
• • 1.查找电话号码
  • 2.匹配邮箱
• 总结

先介绍几个常用命令

sort命令

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序。

格式：
sort [选项] 参数    #参数为文件
或
cat file | sort 选项

常用选项

选项	说明
-f	忽略大小写，会将小写字母都转换为大写字母来进行比较
-b	忽略每行前面的空格
-n	按照数字进行排序
-r	反向排序
-u	等同于uniq，表示相同的数据仅显示一行
-t	指定字段分隔符，默认使用[Tab]键分隔
-k	指定排序字段
-o<输出文件>	将排序后的结果转存至指定文件

uniq命令

用于报告或者忽略文件中连续的重复行，常与 sort 命令结合使用。

格式：
uniq [选项] 参数
或
cat file | uniq 选项

常用选项

选项	说明
-c	进行计数，并删除文件中重复出现的行
-d	仅显示连续的重复行
-u	仅显示出现一次的行

tr命令

常用来对来自标准输入的字符进行替换、压缩和删除。

格式：
tr [选项] [参数]

常用选项

选项	说明
-c	保留字符集1的字符，其他的字符用（包括换行符\\n）字符集2替换
-d	删除所有属于字符集1的字符
-s	将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1
-t	字符集2 替换 字符集1，不加选项同结果

参数

参数	说明
字符集1	指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”
字符集2	指定要转换成的目标字符集

实操

（1）将输出的字符串小写替换为大写

echo "abc" | tr 'a-z' 'A-Z'

（2）输出字符串，除了“ab和换行符”，都替换为“0”

echo -e "abc\\ncabcdab" | tr -c "ab\\n" "0"
或
echo -e "abc\\ncabcdab" | tr -c "ab" "0" #不换行输出

（3）删除匹配字符‘od’

echo 'hello world' | tr -d 'od'

（4）去重

echo "i am aaaaaa gooddddddd boy" | tr -s "ad"

（5）删除空行

echo -e "aa\\n\\n\\n\\n\\n\\nbb" | tr -s "\\n"
或
cat 文件名 | tr -s "\\n"
或
cat 文件名 | grep -v   “^$”

（6）把路径变量中的冒号":"，替换成换行符"\\n"

echo $PATH | tr -s ":" "\\n"

（7）删除Windows文件“造成”的’^M’字符

cat file | tr -s "\\r" "\\n" > 新文件
或
cat file | tr -d "\\r" > 新文件
Linux中遇到换行符("\\n")会进行回车+换行的操作，回车符反而只会作为控制字符("^M")显示，不发生回车的操作。
而windows中要回车符+换行符("\\r\\n")才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。

补充：

使用 dos2unix 工具可以直接转换

（8）数组排序
将数组arr=(10 50 40 30 20)进行排序

cut命令

显示行中的指定部分，删除文件中指定字段

格式：
cut 选项 参数
或
cat file | cut 选项

常用选项

选项	说明
-f	通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分割符
-d	“TAB”是默认的分隔符，使用此选项可更改为其他的分隔符
- -complement	用于排除所指定的字段
- -output-delimiter	更改输出内容的分隔符

实操
3种不同的截取方法

注：cut 和 expr substr 起始位置都是从1开始

正则表达式概述

通常用于判断语句中，用来检查某一字符串是否满足某一格式

（1）正则表达式是由普通字符与元字符组成
（2）普通字符包括大小写字母、数字、标点符号及一些其他符号
（3）元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

基础正则表达式

支持的工具：grep、egrep、sed、awk

基础正则表达式常见元字符：
\\ ：转义字符，用于取消特殊符号的含义，例：\\!、\\n、\\$等

^ ：匹配字符串开始的位置，例：^a、^the、^#、^[a-z]
 
$ ：匹配字符串结束的位置，例：word$、^$匹配空行

. ：匹配除\\n之外的任意的一个字符，例：go.d、g..d

* ：匹配前面子表达式0次或者多次，例：goo*d、go.*d

[list] ：匹配list列表中的一个字符，例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字

[^list] ：匹配任意非list列表中的一个字符，例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母

\\{n\\} ：匹配前面的子表达式n次，例：go\\{2\\}d、'[0-9]\\{2\\}'匹配两位数字

\\{n,\\} ：匹配前面的子表达式不少于n次，例：go\\{2,\\}d、'[0-9]\\{2,\\}'匹配两位及两位以上数字

\\{n,m\\} ：匹配前面的子表达式n到m次，例：go\\{2,3\\}d、'[0-9]\\{2,3\\}'匹配两位到三位数字

注：egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\\”

扩展正则表达式

支持的工具：egrep、awk 或 grep -E 和 sed -r

扩展正则表达式元字符：
+ ：匹配前面子表达式1次以上，例：go+d，将匹配至少一个o，如god、good、goood等

? ：匹配前面子表达式0次或者1次，例：go?d，将匹配gd或god

() ：将括号中的字符串作为一个整体，例1：g(oo)+d，将匹配oo整体1次以上，如good、gooood等

| ：以或的方式匹配字条串，例：g(oo|la)d，将匹配good或者glad

正则表达式应用

1.查找电话号码

#025开头 号码为8位数，号码一般都是以5或8开头
#中间可以没有空格，区号和号码之间可以有空格，-，区号可以用()括起来

02588888888
025-5555555555
025-12345678
[phone]
025 54321678
025ABC88888
01012345678
0125 12345678

egrep "^(\\(?025\\)?)[ -]?[58][0-9]{7}$" testfile1
或
grep - E "^(\\(?025\\)?)[ -]?[58][0-9]{7}$" testfile1

2.匹配邮箱

#[e-mail](顶级域）
#[e-mail](二级域.顶级域）

#用户名可以是大小写英文字母，数字，中间可携带. - _ # !这些符号，写长度不小于6位数

[e-mail]
[e-mail]
[e-mail]
[e-mail]
zhao#[e-mail]
kk![e-mail]
[e-mail]

 egrep '^([a-zA-Z0-9\\-\\.\\#\\!\\_]{6,})@([a-zA-Z0-9\\-\\.\\_]+)\\.([a-zA-Z]{2,5})$' yx.txt

总结

重点掌握正则表达式