Linuxshell脚本之蛋疼Sed简介正则表达式

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Linuxshell脚本之蛋疼Sed简介正则表达式相关的知识,希望对你有一定的参考价值。

Sed简介
sed是一款轻量级流编辑器,是stream editor的简写。由于sed是以行为单位进行编辑文件 , 因此也称为行编辑器。它无需直接编辑资料,能够将编辑工作自动化。
sed工作方式:
由标准输入读取编辑文件,读入一行或指定行放到模式空间,然后将所有编辑指令逐一对模式空间的内容进行编辑,之后将结果输出到标准输出,同时清除模式空间。接下来再将下一行资料读入模式空间,如此重复之前的操作,直到最后一行,流编辑器停止。源文件不变
Ps:
1、模式空间为读入行所在的缓存,sed对文本行进行的处理都是在这里进行的
2、一次操作一行, 按顺序逐行应用命令
3、sed命令执行与返回数据几乎同时进行的,在处理每一行数据的将同时就显示结果
4、文件内容存在模式空间,并没有改变,除非使用重定向存储输出,因而不会修改原文件


语法:
由编辑指令与文件组成
1、# sed [sed选项] ‘sed命令‘ 要修改的文件 > 新文件
2、# sed [sed选项] -f sed脚本 要修改的文件
3、# sed脚本 [sed选项] 要修改的文件


参数(sed选项):

-e command:--expression=command:进行多项编辑,表示将后续的字符串解析为sed编辑命令,对输入行应用多条sed命令时使用。
    # sed -e ‘1,5d‘ -e ‘s/boy/girl/‘ dodo
    # sed --expression=‘1,5d‘ --expression=‘s/boy/girl/‘ dodo
-e script-file:--expression=script-file:调用指定的sed脚本文件来处理输入的文本文件
-f script-file:--filer=script-file:调用指定的sed脚本文件来处理输入的文本文件
-h:--help:打印帮助
-i:直接修改读取的源文件(默认不修改源文件)
    也可以先备份源文件然后再修改,格式如下:
    # sed -i.bak ‘1d‘ filename
-n:--quiet, --silent:取消默认的输出,仅打印匹配模式的行(默认输出所有内容)
-r:sed的动作支持延伸型正规表示法的语法。(默认为基础正规表示法语法)
-V:--version:显示版本信息

sed命令

a\ :     在定位行号后面加入一行或多行文本。(加入多行时除最后一行每行末尾需用"\"续行)
b lable: 将执行的指令跳至由":"建立的参考位置,如果不存在参考位置则跳转到脚本的末尾
c\:      用新的文本替换定位行的文本。
d:       删除定位行
D:       删除模式空间内的第一行
g:       把当前保持缓冲区中的内容复制到模式空间,替换掉了模式空间中当前行的内容
G:       把当前保持缓冲区中的内容追加到模式空间,追加到了模式空间的当前行后
h:       把模式空间的内容复制到当前保持缓冲区中,把原来暂存缓冲区的内容清除,添加新内容
H:       把模式空间的内容复制到当前保持缓冲区中,追加在保持缓冲区中原有内容的后面
i\:      在定位行号前面插入一行或多行文本。
l:       以可见的严格的形式列出当前模式空间中的内容
n:       读取下一个输入行,用下一个命令处理新的行
N:       追加下一个输入行到模式空间。
p:       打印匹配行
P:       打印模式空间的第一行
q:       第一个模式匹配完成后就退出Sed
r file:  从文件中读取输入行
s:       用一个字符串替换另一个字串。(默认为替换每一行中的第一个)
t label: 如果s指令发生替换操作成功,则跳到":"标记的地方,即使已经读入输入的最后一行,如果没有没有标记则到脚本末尾
T label: 如果s指令发生替换操作失败,则跳到":"标记的地方,即使已经读入输入的最后一行,如果没有没有标记则到脚本末尾
w:       将当前模式空间中的全部内容写入到文件中
W:       将当前模式空间中的第一行写入到文件中
x:       交换模式空间和文本的内容
y:       转换字元,把一个字符翻译为另外的字符(但是不用于正则表达式)
: label: 建立参考位置
{} :     有相同位址参数的指令组
#:       把注释扩展到下一个换行符之前
=:       显示文件行号
!:       不执行选中行的命令,只对所选行以外的行应用命令


元字符集

sed支持特殊元字符,来进行模式查找、替换
^:          行首定位符。如:/^doiido/匹配所有以doiido开头的行
$:          行尾定位符。如:/doiido$/匹配所有以doiido结尾的行
^$:         表示空白行
.:          匹配换行符以外的字符。如:/d...do/ 匹配d后面接3个任意字符,然后do。
*:          匹配零个或多个前导字符。如:/doiido*/ 匹配所有以doiid开头,后面跟零个或多个o的行
[]:         匹配指定字符组内的任一字符。如:/[Dd]oiido/ 匹配所有包含doiido或Doiido的行
[^]:        匹配不在指定字符组内的任一字符。如:/[^Dd]oiido/ 匹配所有不是以D或者d开头的但是以oiido结尾的行
\(..\):     保存已匹配的字符。如:s/\(hello\)doiido/\1baby 这里把hello保存为标签1,如果发现hellodoiido则替换成helloboy,最多可以定义9个标签
&:          保存查找字符串用来替换其他字符串。如:s/doiido/--&--/,符号&代表查找字符串,doiido将变成--doiido--
\<:         词首定位符。如:/\<doiido/ 匹配所有包含有以doiido开头的单词的行。 
\>:         词尾定位符。如:/doiido\>/ 匹配所有包含有以doiido结尾的单词的行。
x\{m\}:     连续m个x。如:/2\{8\}/ 匹配所有包含连续8个2的行。 
x\{m,\}:    至少m个x。如:/2\{8,\}/ 匹配所有包含至少连续8个2的行。
x\{m,n\}:   至少m个x,但不多于n个。如:/2\{6,8\}/ 匹配所有包含连续6个到8个2的行。

Ps:匹配元字符$前,必须使用反斜线\屏蔽其特殊含义。比如/\$/


字符类扩展:

[]:          可以和"-"配合使用
[a-z]:       匹配所有的小写字母
[0-9]:       匹配所有的数字
[:space:]:   匹配空格
[:alnum:]:   匹配字母数字 [a-z A-Z 0-9]
[:alpha:]:   匹配字母 [a-z A-Z]
[:blank:]:   匹配 空格或制表键
[:cntrl:]:   匹配 任何控制字符
[:digit:]:   匹配数字 [0-9]
[:graph:]:   匹配任何可视字符(无空格)
[:lower:]:   匹配小写 [a-z]
[:print:]:   匹配非控制字符
[:punct:]:   匹配标点字符
[:space:]:   匹配空格
[:upper:]:   匹配大写 [A-Z]
[:xdigit:]:  匹配十六进制数字 [0-9 a-f A-F]


字符类例子:

^[0-9]:          表示行第一个字符为任意数字
^[0-9]*:         表示行首包含任意个数的数字
[0-9][0-9]*$:    表示行尾包含至少2个数字
s/\.$//g :       删除以句点结尾的行的句点
s/^[ ][ ]*//:    删除行首的任意个空格
s/^.//:          删除行首的第一个字符
s/^\///:         删除行首的“/”字符
s/SP\(..\)//g:   删除字符“SP”以及紧跟其后的两个任意字符,“SPLLY”-->“Y”
^#/:             以 ‘#‘ 开始的任何行匹配
/}^/ :           将与以 ‘}‘(无空格)结束的任何行匹配
/} *^/ :         将与以 ‘}‘ 后面跟有 零或多个空格结束的任何行匹配 
/[abc]/ :        将与包含小写 ‘a‘、‘b‘ 或 ‘c‘ 的任何行匹配
/^[abc]/ :       将与以 ‘a‘、‘b‘ 或 ‘c‘ 开始的任何行匹配


位置参数:
在默认情况下,在sed编辑器中使用的命令应用于所有文本数据行。
如果仅想将某个命令应用于某一特定的数据行或一组文本数据行,则必须使用行寻址。
行寻址通过定址来定位你所希望编辑的行,是由数据,正则表达式或者二者结合的方式确定。行寻址的格式有如下几种:

x                      x为指定行号
$                      最后一行
x,y                    指定从x到y的行号范围
/pattern/              查询包含模式的行
/pattern/pattern/      查询包含两个模式的行
/pattern/,x            从与pattern的匹配行到x号行之间的行
x,/pattern/            从x号行到与pattern的匹配行之间的行
x,y!                   不包括x和y行号的行

位址参数的个数 :
当只有1个位址参数时,表示只有符合位置参数的资料行才编辑
当有2个位址参数时,如x,y时,表示对x到y的行号范围资料区执行编辑。(包括x和y)


引号语法
1、单引号下,不会对$和后引号`进行解释和执行,即把这两个月当成普通字符
2、双引号下,美元符会被展开为变量或参数的值,后引号中的命令被执行并以输出的结果代替后引号中的内容。
因此平时要使用单引号‘‘,使用变量时使用双引号""
使用变量时:# sed "/$hello/d" dodo
sed退出状态:
1、不管是否找到指定的模式,退出状态都是0。
2、当命令存在语法错误时,sed的退出状态不是0。
转义:
如果需要使用到斜杠"/",就需要先对其转移,转义一般有以下两种
1:[/]
2:\/


单行使用多条语句
1、在命令之间使用分号
# sed -n ‘=;p‘ dodo

2、使用大括号
# sed -n ‘3{
> =
> p}‘ dodo

3、使用-e参数
# sed -n -e ‘=‘ -e ‘p‘ dodo

4、使用脚本文件,然后使用-f引用
# sed -f scirpt dodo

5、bash shell中可以使用次提示符‘‘
# sed -i ‘
>s/boy/girl/
>s/hello/byebye/‘ data

其他sed使用注意:
1、如果不使用地址,命令将应用到所有行
2、默认情况只会替换各行中首次出现的文本,如果一行中有多个需要替换,则需要替换标记
3、如果要定位一特殊字符,则必须使用"\"或者"[]"屏蔽其特殊含义


========================脚本==========================
脚本:Sed脚本就是写在文件中的一列sed命令,启动Sed时以-f选项引导脚本文件名。

脚本工作方式:
执行脚本时,sed先将输入文件中第一行复制到模式空间,然后对其执行脚本中所有的命令。一行处理完毕后,sed再复制文件中下一行到模式空间,对其执行脚本中所有命令。直到最后一行。

脚本注意项:
1、脚本中,在命令的末尾不能有任何空白或文本
2、如果在一行中有多个命令,要用分号分隔。
3、以#开头的行为注释行,且不能跨行。


脚本格式:
#!/bin/sed -f
command1
command2


脚本实例:
# cat test.sed
#!/bin/sed -f
/hello/a\
hi boy doiido
2i\
you are great

添加权限并执行
# chmod u+x test.sed
# ./test.sed dodo



本文出自 “江湖笑笑生” 博客,请务必保留此出处http://hashlinux.blog.51cto.com/9647696/1795866

以上是关于Linuxshell脚本之蛋疼Sed简介正则表达式的主要内容,如果未能解决你的问题,请参考以下文章

LinuxShell——正则表达式

shell脚本编程之正则表达式(扩展正则表达式sed)

shell脚本——正则表达式Sed与Awk文本处理工具详解

shell脚本之正则表达式---sed工具

具有捕获组的有效正则表达式,但 sed 脚本不起作用

Shell脚本 正则表达式 grep sed awk 工具