Shell脚本------正则表达式与常用命令（sort，uniq，tr，cut）
Posted 下雨天的放羊娃
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Shell脚本------正则表达式与常用命令（sort，uniq，tr，cut）相关的知识，希望对你有一定的参考价值。
目录
一.sort命令
以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序
1.语法格式
sort [选项] 参数
cat 文件名 | sort 选项
2.常用选项
| 选项 | 作用 |
|---|---|
| -f | 忽略大小写，会将小写字母都转换为大写字母来进行比较 |
| -b | 忽略每行前面的空格 |
| -n | 按照数字进行排序 |
| r | 反向排序 |
| -u | 等同于uniq，表示相同的数据仅显示一行 |
| -t | 指定字段分隔符，默认使用[Tab]键分隔 |
| -k | 指定排序字段 |
| -o <输出文件> | 将排序后的结果转存至指定文件 |
3.示例
sort -t ':' -k 3 -n /etc/passwd 将etc/passwd文件中以“：”为分隔符的第三个字段排序
du -a | sort -nr -o du.txt
统计本目录下的文件和目录将结果交给sort排序，sort进行反向排序然后将排序结果转存到du.txt中
二.uniq命令
用于报告或者忽略文件中连续的重复行，常与sort命令结合使用
1.语法格式
uniq [选项] 参数
cat 文件名 | uniq 选项
2.常用选项
| 选项 | 作用 |
|---|---|
| -c | 进行计数，并删除文件中重复出现的行 |
| -d | 仅显示连续的重复行 |
| -u | 仅显示出现一次的行 |
3.示例
sort -n 1.txt | uniq -c
sort排序文件1.txt内的内容后把它交给uniq处理，uniq进行计数并删除文件重复出现的行
三.tr命令
常用来对来自标准输入的字符进行替换，压缩和删除
1.语法格式
tr [选项] [参数]
2.常用选项
| 选项 | 作用 |
|---|---|
| -c | 保留字符集1的字符，其他的字符（包括换行符\\n）用字符集2替换 |
| -d | 删除所有属于字符集1的字符 |
| -s | 将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1 |
| -t | 字符集2 替换 字符集1，不加选项通结果 |
参数：
字符集1：指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”；
字符集2：指定要转换成的目标字符集。
3.示例
echo "abc" | tr 'a-z' 'A-C'
将echo输出的内容中小写的“a-z”的字母全部换成大写的“A-Z”字母
echo -e "abc\\ncabcdad" 输出转义字符，将转义后的内容输出到屏幕上
echo -e "abc\\ncabcdad" | tr -c "ab\\n" "0"
echo输出内容交给tr处理，保留字符集“a，b，换行符\\n”，其他字符用字符集“0”替换
echo -e "abc\\ncabcdad" | tr -c "ab" "0"
echo输出内容交给tr处理，保留字符集“a，b”，其他字符用字符集“0”替换
echo 'hello world'
echo 'hello world' | tr -d "od" 将echo输出的内容中的字符“od”进行删除
echo "thisssss is a text linnnnnnnne"
echo "thisssss is a text linnnnnnnne" | tr -s 'sn'
echo输出的内容中，重复出现的字符串‘sn’压缩成一个字符串
✪删除空行
echo -e "aa\\n\\n\\n\\n\\n\\nbb" 输出转义字符，将转义后的内容输出到屏幕上
echo -e "aa\\n\\n\\n\\n\\n\\nbb" | tr -s "\\n"
echo输出内容交给tr处理，tr将重复出现的换行符压缩为一个换行符输出
✪把路径变量中的冒号"："，替换成换行符"\\n"
echo -e "aa\\n\\n\\n\\n\\n\\nbb" 输出转义字符，将转义后的内容输出到屏幕上
echo -e "aa\\n\\n\\n\\n\\n\\nbb" | tr -s "\\n" “：”
echo输出内容交给tr处理，tr将重复出现的换行符压缩为一个换行符输出，然后用冒号":"替换换行符"\\n"
✪删除Windows文件造成的“^M”字符
cat -e windows.txt
cat windows.txt | tr -s "\\r""\\n" > window.txt
查看文件，将文件中的回车符“\\r”替换成换行符“\\n”，然后输出到新文件中
或cat windows.txt | tr -d "\\r" > window.txt
查看文件，将文件中的回车符“\\r”删除，然后输出到新文件中
✪Linux中遇到换行符（“\\n”）会进行回车+换行的操作，回车符反而只会作为控制字符（“^M”）显示，不会发生回车的操作。
而windows中要回车符+换行符（"\\r\\n"）才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。
cat -v windows.txt
dos2unix windows.txt 将windows格式文件转换为Linux格式的命令
✪数组排序
arr=(40 20 60 10 30 50)
echo ${arr[*]} | tr ' ' '\\n' | sort -n
输出数组的所有元素，然后将其中的空格换成换行符“\\n”，最后进行排序
四.cut命令
显示行中的指定部分，删除文件中指定字段
1.语法格式
cut [选项] 参数
cat 文件名 | cut 选项
2.常用选项
| 选项 | 作用 |
|---|---|
| -f | 通过指定哪一个字段进行提取，cut命令使用“TAB”作为默认的字段分隔符 |
| -d | “TAB”是默认的分隔符，使用此选项可以更改为其他的分隔符 |
| –complement | 此选项用于排除所指定的字段 |
| –output-delimiter | 更改输出内容的分隔符 |
3.示例
cut -d ':' -f 1 /etc/passwd
显示以冒号“：”为分隔符，/etc/passwd文件中的第一个字段
grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7 以——分隔的开始字段和结束字段指定字段的范围
grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2 排除第二个字段
cut -d ':' -f1,7 --output-delimiter=' ' /etc/passwd 输出分隔符使用空格分隔
i=123456789
echo $i | cut -b 1-3 起始位置从1开始，总共截取3位
echo ${i:0:3} 起始位置从0开始，向后截取3位
expr substr $i 1 3 起始位置从1开始，总共截取3位
五.正则表达式
通常用于判断语句中，用来检查某一字符串是否满足某一格式
1.正则表达式的组成
✪正则表达式是由普通字符与元字符组成
❉普通字符包括大小写字母，数字，标点符号及一些其他符号
❉元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式
2.常见正则表达式元字符（支持工具grep，egrep，sed，awk）
3.拓展正则表达式元字符（支持工具：egrep，awk）
4.示例
1.匹配电话号码
2.匹配邮箱
用户名@ ：^([a-zA-Z0-9_\\-\\.\\+]+)@
子域名 ：([a-zA-Z0-9_\\-\\.]+)
.顶级域名(字符串长度一般在2到5) ：\\.([a-zA-Z]\\{2,5\\})$
egrep '^([a-zA-Z0-9_\\-\\.\\+]+)@([a-zA-Z0-9_\\-\\.]+)\\.([a-zA-Z]{2,5})$' 2.txt
以上是关于Shell脚本------正则表达式与常用命令（sort，uniq，tr，cut）的主要内容，如果未能解决你的问题，请参考以下文章