文本处理三剑客之 Sed ——一般编辑命令

Posted 2020-10-16 QuintinX

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了文本处理三剑客之 Sed ——一般编辑命令相关的知识，希望对你有一定的参考价值。

sed简介

sed (stream editor for filtering and transforming text) 是Linux上的文本处理三剑客之一,另外两个是grep和awk.

sed又称行编辑器,每次读取并处理一行文本.

工作原理

1.sed命令开始执行后

2.先从文本中读取第一行,放在模式空间 (pattern space)中

3.判断这行文本是否符合指定模式,符合则进行编辑,然后把结果输出到标准输出.

4.不符合的话默认也会输出到标准输出.除非特别指定不输出不符合的结果行.

5.继续读取下一行,以此类推.

sed默认会对文件的每一行做处理.
可以指定sed仅处理匹配到的行
默认不对原文件进行编辑,只输出处理结果
在sed的高级用法中会用到sed的另一个空间:保持空间(hold space).
模式空间读进来的数据可以放进保持空间等待后续操作,两个空间的数据可以自由移动,互相覆盖或追加.

sed原理简图

命令格式

sed [option]... \'script\' inputfile..

script:

sed处理文本所应用的脚本,如地址定界,编辑操作

sed的选项(options)

-n：不自动输出模式空间的内容到屏幕

-e script, --expression=script：实现多点编辑,

如：

 # sed -e \'s@^#[[:space:]]*@@\' -e \'/^UUID/d\' /etc/fstab

-f：/PATH/SCRIPT_FILE: 从指定文件中读取编辑脚本

-r , --regexp-extended: 支持使用扩展正则表达式

-i[SUFFIX], --in-place[=SUFFIX]:对原文件进行编辑

-i.bak: 编辑原文件前会先创建一个原文件名+.bak后缀的备份

地址定界：

(1) 不给地址：对全文进行处理

(2) 单地址：

#: 指定的行

/pattern/：被此处模式所能够匹配到的每一行

(3) 地址范围

#，#：从第#行开始到第#行结束

#，+#：从第#行开始，加#行

#，/pat1/：从第#行开始，到第一次被模式匹配的行结束

/pat1/,/pat2/：从被模式1匹配到的第一行开始，到被模式2匹配到的第一行结束；

$：最后一行

(4)步进：~

1~2：表示从1开始，步进2行，如3,5,7行即所有奇数行

2~2：表示所有偶数行

示例:

文件text内容如下:

$ cat text
1a
2b
3c
4d
5e
6f
7g
8h
9i

$ sed -n \'2p\' /etc/issue #显示第二行
2b

$ sed -n \'/e$/p\' text #显示e结尾的行
5e

$ sed -n \'4,8p\' text #显示第4到第8行
4d
5e
6f
7g
8h

$ sed -n \'4,+3p\' text #显示第4行以及后面的3行
4d
5e
6f
7g

$ sed -n \'/c$/,/^7/p\' text #显示c结尾的行开始到7开头的行中的所有行
3c
4d
5e
6f
7g

$ sed -n \'5,/^7/p\' text #显示第五行开始到7开头的行中的所有行
5e
6f
7g

$ sed -n \'2~3p\' text #从第2行开始,每隔3行显示一行
2b
5e
8h

$ sed -n \'1~2p\' text #显示奇数行
1a
3c
5e
7g
9i

常用一般编辑命令

d: 删除模式空间匹配的行，并立即进入下一轮循环

p：打印当前模式空间内容，追加到默认输出之后

a [\\]text：在指定行后面追加文本,支持使用\\n实现多行追加

i [\\]text：在行前面插入文本

c [\\]text：把匹配到的行替换为单行或多行文本

w /path/somefile: 保存模式匹配的行至指定文件

r /path/somefile：读取指定文件的文本至模式空间中匹配到的行后

=: 为模式空间中的行打印行号

!:模式空间中匹配行取反处理

示例:

	$ cat /etc/passwd -n | sed \'2,51d\' #删除2-51行
	     1	root:x:0:0:root:/root:/bin/bash
	    52	apache:x:48:48:Apache:/usr/share/httpd:/sbin/nologin
	    53	named:x:25:25:Named:/var/named:/sbin/nologin

	$ sed \'2~2d\' text #删除偶数行,显示奇数行
	1a
	3c
	5e
	7g
	9i
	
	$ df | sed -n \'/^\\/dev\\/sd/p\' #过滤出dev/sd开头的行
	/dev/sda2       52403200 3932216  48470984   8% /
	/dev/sda5       20961280  142872  20818408   1% /app
	/dev/sda1        1038336  161556    876780  16% /boot
	
	$ sed \'2,4a\\   = = =\' text #在2-4行后面分别追加自定义字符,斜线\\表示之后出现的所有字符都算内容.
	1a
	2b
	   = = =
	3c
	   = = =
	4d
	   = = =
	5e
	6f
	7g
	8h
	9i
	
	$ sed \'4i\\ = = =\' text #在第4行上方加入字符
	1a
	2b
	3c
	 = = =
	4d
	5e
	6f
	7g
	8h
	9i
	
	
	$ sed \'/^6/c\\6666\' text #把第6行替换为6666
	1a
	2b
	3c
	4d
	5e
	6666
	7g
	8h
	9i
	
	$ sed -n \'/^alias/w /app/alias.txt\' ~/.bashrc #把.bashrc文件中的alias开头的行保存到/app/alias.txt中

	$ cat alias.txt 
	alias rm=\'rm -i\'
	alias cp=\'cp -i\'
	alias mv=\'mv -i\'
	
	$ sed \'/^alias/r /etc/centos-release\' ~/.bashrc #把/etc/centos-release中的内容插入到.bashrc中被模式匹配到的行之后
	# .bashrc
	
	# User specific aliases and functions
	
	alias rm=\'rm -i\'
	CentOS Linux release 7.4.1708 (Core) 
	alias cp=\'cp -i\'
	CentOS Linux release 7.4.1708 (Core) 
	alias mv=\'mv -i\'
	CentOS Linux release 7.4.1708 (Core) 
	
	# Source global definitions
	if [ -f /etc/bashrc ]; then
		. /etc/bashrc
	fi
	 
	
	$ sed \'/^alias/=\' ~/.bashrc #在匹配到的行只上添加行号
	# .bashrc
	
	# User specific aliases and functions
	
	5
	alias rm=\'rm -i\'
	6
	alias cp=\'cp -i\'
	7
	alias mv=\'mv -i\'
	
	# Source global definitions
	if [ -f /etc/bashrc ]; then
		. /etc/bashrc
	fi
	
	$ sed -n \'/^alias/!p\' ~/.bashrc #显示没有被匹配到的行(结果取反)
	# .bashrc
	
	# User specific aliases and functions
	
	
	# Source global definitions
	if [ -f /etc/bashrc ]; then
		. /etc/bashrc
	fi
	
	$ sed -n \'/e$/!p\' text #显示除了e结尾的行的所有行
	1a
	2b
	3c
	4d
	6f
	7g
	8h
	9i

查找替换:

s///,支持使用其它分隔符，如 s@@@，s### ,s___

替换标记：

g: 行内全局替换

p: 显示替换成功的行

w /PATH/TO/SOMEFILE：将替换成功的行保存至文件中

示例:

	$ sed -rn \'s@^[0-9]+@@p\' text  #删除所有数字开头行的数字
	a
	b
	c
	d
	e
	f
	g
	h
	i


	$ sed  \'s@.*@#&@\' text #给text文件中每一行前面加#号
	#1a
	#2b
	#3c
	#4d
	#5e
	#6f
	#7g
	#8h
	#9i
	
	# 删除文件中以#号开头后跟一个空白字符的行的开头的#和空白字符
	$ cat text2
	this is 1
	# this is 2
	#this is 3
	# this is 4
	this is 5
	
	$ sed \'s@^#[[:space:]]@@\' text2 
	this is 1
	this is 2
	#this is 3
	this is 4
	this is 5
	
	# 给text2文件中不以#开头的行的行首加#号
	$ cat text2
	this is 1
	# this is 2
	#this is 3
	# this is 4
	this is 5
	
	$ sed  \'s@^[^#].*@#&@\' text2
	#this is 1
	# this is 2
	#this is 3
	# this is 4
	#this is 5
	
	
	$ echo /app/testdir/rootdir/motd/ | sed -r \'s@(^/.*/)(.+)/?@\\1@\' #取目录名
	/app/testdir/rootdir/
	$ echo /app/testdir/rootdir/motd/ | sed -r \'s@(^/.*/)(.+)/?@\\2@\' #取基名
	motd/
	
	$ ifconfig ens33| sed -rn \'s@.*inet (.*) netmask.*@\\1@p\' # 取出 ifconfig ens33命令中的ipv4地址
	192.168.5.137

以上是关于文本处理三剑客之 Sed ——一般编辑命令的主要内容，如果未能解决你的问题，请参考以下文章