文本三剑客之sed

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了文本三剑客之sed相关的知识,希望对你有一定的参考价值。

sed是一种流编辑器,它是文本处理中非常好的工具,能够完美的配合正则表达式使用,功能不同凡响。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件,可以将数据行进行替换、删除、新增、选取等特定工作,简化对文件的反复操作,编写转换程序等。

命令格式:
sed的命令格式:sed [options] ‘command‘ file(s);
sed的脚本格式:sed [options] -f scriptfile file(s);
选项:
-e :直接在命令行模式上进行sed动作编辑,此为默认选项;
-f :将sed的动作写在一个文件内,用–f filename 执行filename内的sed动作;
-i :直接修改文件内容;
-n :只打印模式匹配的行;
-r :支持扩展表达式;
-h或--help:显示帮助;
-V或--version:显示版本信息。
常用命令:
a 在当前行下面插入文本;
i 在当前行上面插入文本;
c 把选定的行改为新的文本;
d 删除,删除选择的行;
D 删除模板块的第一行;
s 替换指定字符;
h 拷贝模板块的内容到内存中的缓冲区;
H 追加模板块的内容到内存中的缓冲区;
g 获得内存缓冲区的内容,并替代当前模板块中的文本;
G 获得内存缓冲区的内容,并追加到当前模板块文本的后面;
l 列表不能打印字符的清单;
n 读取下一个输入行,用下一个命令处理新的行而不是用第一个命令;
N 追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码;
p 打印模板块的行。 P(大写) 打印模板块的第一行;
q 退出Sed;
b lable 分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾;
r file 从file中读行;
t label if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾;
T label 错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾;
w file 写并追加模板块到file末尾;
W file 写并追加模板块的第一行到file末尾;
! 表示后面的命令对所有没有被选定的行发生作用;
= 打印当前行号;

把注释扩展到下一个换行符以前;

替换标记:
g 表示行内全面替换;
p 表示打印行;
w 表示把行写入一个文件;
x 表示互换模板块中的文本和缓冲区中的文本;
y 表示把一个字符翻译为另外的字符(但是不用于正则表达式);
1 子串匹配标记;
& 已匹配字符串标记;

元字符集:
^ 匹配行开始,如:/^sed/匹配所有以sed开头的行;
$ 匹配行结束,如:/sed$/匹配所有以sed结尾的行;
. 匹配一个非换行符的任意字符,如:/s.d/匹配s后接一个任意字符,最后是d;

  • 匹配0个或多个字符,如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行;
    [] 匹配一个指定范围内的字符,如/[ss]ed/匹配sed和Sed;
    [^] 匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行;
    (..) 匹配子串,保存匹配的字符,如s/(love)able/1rs,loveable被替换成lovers;
    & 保存搜索字符用来替换其他字符,如s/love/&/,love这成love;
    < 匹配单词的开始,如:/
    > 匹配单词的结束,如/love>/匹配包含以love结尾的单词的行;
    x{m} 重复字符x,m次,如:/0{5}/匹配包含5个0的行;
    x{m,} 重复字符x,至少m次,如:/0{5,}/匹配至少有5个0的行;
    x{m,n} 重复字符x,至少m次,不多于n次,如:/0{5,10}/匹配5~10个0的行;

实例:
替换操作:S命令
sed ‘s/book/books/‘ file 替换文本中的字符串
sed -n ‘s/test/TEST/p‘ file -n选项和p命令一起使用表示只打印那些发生替换的行
sed -i ‘s/book/books/g‘ file 直接编辑文件选项-i,会匹配file文件中每一行的第一个book替换为books
sed ‘s/book/books/g‘ file 使用后缀 /g 标记会替换每一行中的所有匹配
当需要从第N处匹配开始替换时,可以使用 /Ng
echo sksksksksksk | sed ‘s/sk/SK/2g‘
skSKSKSKSKSK
echo sksksksksksk | sed ‘s/sk/SK/3g‘
skskSKSKSKSK
echo sksksksksksk | sed ‘s/sk/SK/4g‘
skskskSKSKSK
以上命令中字符 / 在sed中作为定界符使用,也可以使用任意的定界符
sed ‘s:test:TEXT:g‘
sed ‘s|test|TEXT|g‘
sed ‘s#test#TEXT#g‘
sed ‘s//bin//usr/local/bin/g‘ 定界符出现在样式内部时,需要进行转义
删除操作:d命令
sed ‘/^$/d‘ file 删除空白行
sed ‘2d‘ file 删除文件的第2行
sed ‘2,$d‘ file 删除文件的第2行到末尾所有行
sed ‘$d‘ file 删除文件最后一行
sed ‘/^test/‘d file 删除文件中所有开头是test的行
已匹配字符串标记&
echo this is a test line | sed ‘s/w+/[&]/g‘
[this] [is] [a] [test] [line] 正则表达式 w+ 匹配每一个单词,使用 [&] 替换它,& 对应于之前所匹配到的单词
sed ‘s/^192.168.0.1/&localhost/‘ file 192.168.0.1localhost 所有以192.168.0.1开头的行都会被替换成它自已加localhost

子串匹配标记1
echo this is digit 7 in a number | sed ‘s/digit ([0-9])/1/‘
this is 7 in a number 匹配给定样式的其中一部分
命令中 digit 7,被替换成了 7。样式匹配到的子串是 7,(..) 用于匹配子串,对于匹配到的第一个子串就标记为 1,依此类推匹配到的第二个结果就是 2,例如:
echo aaa BBB | sed ‘s/([a-z]+) ([A-Z]+)/2 1/‘
BBB aaa
sed -n ‘s/(love)able/1rs/p‘ file love被标记为1,所有loveable会被替换成lovers,并打印出来:
组合多个表达式
sed ‘表达式‘ | sed ‘表达式‘ 等价于:
sed ‘表达式; 表达式‘

引用
sed表达式可以使用单引号来引用,但是如果表达式内部包含变量字符串,就需要使用双引号
test=hello
echo hello WORLD | sed "s/$test/HELLO"
HELLO WORLD
选定行的范围:,(逗号)
所有在模板test和check所确定的范围内的行都被打印:
sed -n ‘/test/,/check/p‘ file
打印从第5行开始到第一个包含以test开始的行之间的所有行:
sed -n ‘5,/^test/p‘ file
对于模板test和west之间的行,每行的末尾用字符串aaa bbb替换:
sed ‘/test/,/west/s/$/aaa bbb/‘ file
多点编辑:e命令
-e选项允许在同一行里执行多条命令
sed -e ‘1,5d‘ -e ‘s/test/check/‘ file
上面sed表达式的第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。

和 -e 等价的命令是 --expression
sed --expression=‘s/test/check/‘ --expression=‘/love/d‘ file
从文件读入:r命令
file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面
sed ‘/test/r file‘ filename
写入文件:w命令
在example中所有包含test的行都被写入file里
sed -n ‘/test/w file‘ example
追加(行下):a命令
将 this is a test line 追加到 以test 开头的行后面
sed ‘/^test/a his is a test line‘ file
在 test.conf 文件第2行之后插入 this is a test line
sed -i ‘2a his is a test line‘ test.conf
插入(行上)

i命令 将 this is a test line 追加到以test开头的行前面
sed ‘/^test/i his is a test line‘ file
在test.conf文件第5行之前插入this is a test line

sed -i ‘5i his is a test line‘ test.conf
下一个:n命令
如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续
sed ‘/test/{ n; s/aa/bb/; }‘ file
变形:y命令
把1~10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令
sed ‘1,10y/abcde/ABCDE/‘ file
退出:q命令
打印完第10行后,退出sed sed ‘10q‘ file 保持和获取:h命令和G命令 在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。
sed -e ‘/test/h‘ -e ‘$G‘ file
在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾

保持和互换:h命令和x命令
互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换
sed -e ‘/test/h‘ -e ‘/check/x‘ file
脚本scriptfile
sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。
sed [options] -f scriptfile file(s)
打印奇数行或偶数行
方法1:
sed -n ‘p;n‘ test.txt #奇数行

sed -n ‘n;p‘ test.txt #偶数行
方法2:
sed -n ‘1~2p‘ test.txt #奇数行

sed -n ‘2~2p‘ test.txt #偶数行
打印匹配字符串的下一行
grep -A 1 Is test.txt // grep方法

sed -n ‘/I/{n;p}‘ test.txt // sed方法

awk ‘/Is/{getline; print}‘ test.txt // awk方法

综合练习
copy一份/etc/passwd文件练习
[root@centos7-1 ~]# cp /etc/passwd ./

[root@centos7-1 ~]# sed -n ‘s/^root/#&/p‘ passwd // 注释掉以root开头的行
[root@centos7-1 ~]# sed -n -r ‘s/^root|^ntp/#&/p‘ passwd // 注释掉以root开头或者以ntp开头的行
[root@centos7-1 ~]# sed -n ‘1,5s/^[a-z].*/#&/p‘ passwd // 注释掉1~5行中以任意小写字母开头的行
[root@centos7-1 ~]# sed -n ‘1,5s/^/#/p‘ passwd // 注释1~5行
[root@centos7-1 ~]# sed -n ‘s/^/#/p‘ passwd // 快速注释一个文件
[root@centos7-1 ~]# sed -n ‘s/^#//p‘ passwd // 快速取消注释

[root@centos7-1 ~]# sed -n ‘1,5s/[0-9:/]//gp‘ passwd // 去掉文件1-5行中的数字、冒号、斜杠
或者:
[root@centos7-1 ~]# sed -n ‘1,5s/[^a-Z]//gp‘ passwd

[root@centos7-1 ~]# sed -n ‘s/[0-9]/#/pg‘ passwd // 打印匹配将任意数字替换#
[root@centos7-1 ~]# sed -n ‘s/[0-9]/ /pg‘ passwd // 打印匹配将任意数字替换成制表符

删除vsftpd.conf配置文件里面所有注释的行及空行

[root@centos7-1 ~]# sed -e ‘/^#/d‘ -e ‘/^$/d‘ /etc/vsftpd/vsftpd.conf
或者:
[root@centos7-1 ~]# sed -r ‘/^#|^$/d‘ /etc/vsftpd/vsftpd.conf
或者:
[root@centos7-1 ~]# sed ‘/^#/d;/^$/d‘ /etc/vsftpd/vsftpd.conf

使用sed命令截取ip地址

centos7系统
[root@centos7-1 ~]# ifconfig eth0 |sed -n ‘s#.inet (.)netmask.#1#p‘ // 方法一
[root@centos7-1 ~]# ifconfig eth0 |sed -n ‘2p‘ |sed -n ‘s/.
inet (.)netmask./1/p‘ // 方法二

centos6系统
[root@centos6-1 ~]# ifconfig em1 |sed -n ‘s#.addr:(.)Bcast.#1#p‘ // 方法一
[root@centos6-1 ~]# ifconfig em1 |sed -n ‘2p‘ |sed -n ‘s/.
addr:(.)Bcast./1/p‘ // 方法二

使用sed命令一次性截取ip地址、广播地址、子网掩码

[root@centos7-1 ~]# ifconfig eth0 |sed -n ‘s#.inet (.)netmask (.)broadcast (.)#1 2 3#p‘
[root@centos7-1 ~]# ifconfig eth0 |sed -n ‘s#.inet (.)netmask (.)broadcast (.)#IP地址:1 广播地址:2 子网掩码:3#p‘
[root@centos6-1 ~]# ifconfig em1 |sed -n ‘s#.addr:(.)Bcast:(.)Mask:(.)#1 2 3#p‘

以上是关于文本三剑客之sed的主要内容,如果未能解决你的问题,请参考以下文章

文本处理三剑客之 sed

文本处理三剑客之SED

文本处理三剑客之sed

文本处理三剑客之sed的使用

文本处理三剑客之sed基础用法

文本处理三剑客之-sed基础用法