文本处理三剑客之SED

Posted 2021-02-14

文本处理三剑客之SED

sed (Stream EDitor)，行编辑器

sed是一种流编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。然后读入下行，执行下一个循环。
如果没有使诸如‘D’ 的特殊命令，那会在两个循环之间清空模式空间，但不会清空保留空间。这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重
定向存储输出。

功能

主要用来自动编辑一个或多个文件,简化对文件的反复操作,编写转换程序等

用法

sed [option]... ‘script‘ inputfile...

常用选项

-n 不输出模式空间内容到屏幕，即不自动打印
-e 多点编辑
-f /PATH/SCRIPT_FILE 从指定文件中读取编辑脚本
-r 支持使用扩展正则表达式
-i.bak 备份文件并原处编辑

script

‘地址命令‘

sed工具

---

地址定界

(1) 不给地址：对全文进行处理
(2) 单地址：
#：指定的行，$：最后一行
/pattern/：被此处模式所能够匹配到的每一行
(3) 地址范围
#,#
#,+#
/pat1/,/pat2/
#,/pat1/
(4) ~：步进
1~2 奇数行
2~2 偶数行sed工具

编辑命令

d 删除模式空间匹配的行，并立即启用下一轮循环
p 打印当前模式空间内容，追加到默认输出之后
a []text 在指定行后面追加文本，支持使用 实现多行追加
i []text 在行前面插入文本
c []text 替换行为单行或多行文本
w /path/file 保存模式匹配的行至指定文件
r /path/file 读取指定文件的文本至模式空间中匹配到的行后
= 为模式空间中的行打印行号
! 模式空间中匹配行取反处理sed工具
s/// 查找替换,支持使用其它分隔符，[email protected]@@，s###

替换标记

g 行内全局替换
p 显示替换成功的行
w /PATH/FILE 将替换成功的行保存至文件中

高级编辑命令

P： 打印模式空间开端至 内容，并追加到默认输出之前
h: 把模式空间中的内容覆盖至保持空间中
H：把模式空间中的内容追加至保持空间中
g: 从保持空间取出数据覆盖至模式空间
G：从保持空间取出内容追加至模式空间
x: 把模式空间中的内容与保持空间中的内容进行互换
n: 读取匹配到的行的下一行覆盖至模式空间
N：读取匹配到的行的下一行追加至模式空间
d: 删除模式空间中的行
D：如果模式空间包含换行符，则删除直到第一个换行符的模式空间中的文本，并不会读取新的输入行，而使用合成的模式空间重新启动循环。如果模式空间不包含换行符，则会像发出d命令那样启动正常的新循环

sed练习

---

在每??后增加?空?？

[[email protected] ~]# sed ‘G‘ text.txt

在匹配regex的?之后插??空?？

[[email protected] ~]# sed ‘/regex/G‘ text.txt

sed将?件test中第50?中的haiwao改为haiwai？

[[email protected] ~]# sed -n ‘50p‘ |sed ‘s/haiwao/haiwai/‘ test

替换一个文件/etc/passwd里的这root:x:0:0:root:/root:/bin/bash一行第二个root为test？

[[email protected] ~]# cat /etc/passwd| sed ‘/^root/!d‘|sed ‘s/root/test/2‘

打印/etc/passwd的奇数?？

[[email protected] ~]# sed -n ‘1~2p‘ /etc/passwd

?志?件a.log，内容是时间顺序递增，从0点到23点的所有?志记录，每条时间的?志为??

2016/06/12 00:00:00 - - 200 190 http://www.a.com/o1html xxxxxxx
2016/06/12 00:00:01 - - 200 390 http://www.b.com/o1html xxxxxxx
2016/06/12 00:00:02 - - 200 490 http://www.v.com/o.html xxxxxxx
2016/06/12 00:00:03 - - 200 890 http://www.a.com/o.html xxxxxxx......
2016/06/12 23:59:56 - - 200 320 http://www.3.com/o.jpg xxxxxxx
2016/06/12 23:59:57 - - 200 131 http://www.9.com/o.html xxxxxxx
2016/06/12 23:59:58 - - 200 489 http://www.r.com/o.net xxxxxxx
2016/06/12 23:59:59 - - 200 772 http://www.w.com/o.php xxxxxxx

打印出05点到12点之间的所有?志？打印出05:30:35到22:45:55之间的所有?志？

[[email protected] ~]# sed -n ‘/2016/06/12 05:00:00/,/2016/06/12 12:00:00/p‘ a.log
[[email protected] ~]# sed -n ‘/2016/06/12 05:30:35/,/2016/06/12 22:45:55/p‘ a.log

删除centos7系统/etc/grub2.cfg?件中所有以空?开头的???的空?字符

[[email protected] ~]# sed -r ‘s/^[[:blank:]]+//‘ /etc/grub2.cfg

删除/etc/fstab?件中所有以#开头，后??少跟?个空?字符的?的??的# 和空?字符

[[email protected] ~]# sed -r ‘s/^#[[:blank:]]+//‘g /etc/fstab

在centos6系统/root/install.log每????增加#号

[[email protected] ~]# sed -r ‘s/.*/#&/‘ /root/install.log

在/etc/fstab?件中不以#开头的?的??增加#号

[[email protected] ~]# sed -r ‘[email protected]^[^#]@#&@p‘ /etc/fstab

处理/etc/fstab路径,使?sed命令取出其?录名和基名

目录名：
[[email protected] ~]# echo "/etc/fstab" |sed -r ‘[email protected]^(./)([^/]+/?)[email protected][email protected]‘
基名：
[[email protected] ~]# echo "/etc/fstab" |sed -r ‘[email protected]^(./)([^/]+/?)[email protected][email protected]‘

利?sed 取出ifconfig命令中本机的IPv4地址

[[email protected] ~]# ifconfig|sed -n ‘/broadcast/p‘|sed -r ‘[email protected] (.) netmask.@[email protected]‘
[[email protected] ~]# ifconfig ens33 |sed -r ‘2!d; [email protected](.inet )(.)(netmask.*)@[email protected]‘

统计centos安装光盘中Package?录下的所有rpm?件的以.分隔倒数第?个字段的重复次数

[[email protected] ~]# ls .rpm|sed -r ‘[email protected]^..([^.]+)[email protected][email protected]‘|sort|uniq -c
[[email protected] ~]# ls *.rpm|rev|cut -d. -f2|rev|sort|uniq -c

统计/etc/init.d/functions?件中每个单词的出现次数，并排序（?grep和 sed两种?法分别实现）

[[email protected] ~]# sed -r "s/[^[:alpha:]]/ /g" /etc/init.d/functions| sort | uniq -c | sort -nr
[[email protected] ~]# egrep -o "[[:alpha:]]+" /etc/init.d/functions| sort | uniq -c | sort -nr

将?本?件的n和n+1?合并为??， n为奇数?

[[email protected] ~]# seq 10 | sed "1~2N;s/ / /"