每天学点Linux命令之grep 和 wc命令 ---(6/25)
Posted konglingbin
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了每天学点Linux命令之grep 和 wc命令 ---(6/25)相关的知识,希望对你有一定的参考价值。
Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来。grep全称是Global Regular Expression Print,表示全局正则表达式版本,它的使用权限是所有用户。
wc
grep hello a | wc -l
在文件a中统计hello出现的次数:
grep -o hello a | wc -l
grep命令和wc命令 这种可以在命令行中通过 | 互相链接 ,作为输入的命令原来有同一的名字 叫做 :::::::管道命令!!!!
没错就是下面这种感觉
1、管道命令只处理前一个命令正确输出,不处理错误输出
2、管道命令右边命令,必须能够接收标准输入流命令才行。
cat test1.sh test.sh 2>/dev/null | grep -n \'good\' 1:echo very good 2:echo good 5:echo good #将test1.sh 没有找到错误输出重定向输出给/dev/null 文件,正确输出通过管道发送给grep
>是重定向
|是管道重定向
区别是:
1、左边的命令应该有标准输出 | 右边的命令应该接受标准输入
左边的命令应该有标准输出 > 右边只能是文件
左边的命令应该需要标准输入 < 右边只能是文件
2、管道触发两个子进程执行"|"两边的程序;而重定向是在一个进程内执行
grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态,如果模板搜索成功,则返回0,如果搜索不成功,则返回1,如果搜索的文件不存在,则返回2。我们利用这些返回值就可进行一些自动化的文本处理工作。
1.命令格式:
grep [option] pattern file
2.命令功能:
用于过滤/搜索的特定字符。可使用正则表达式能多种命令配合使用,使用上十分灵活。
3.命令参数:
-a --text #不要忽略二进制的数据。
-A<显示行数> --after-context=<显示行数> #除了显示符合范本样式的那一列之外,并显示该行之后的内容。
-b --byte-offset #在显示符合样式的那一行之前,标示出该行第一个字符的编号。
-B<显示行数> --before-context=<显示行数> #除了显示符合样式的那一行之外,并显示该行之前的内容。
-c --count #计算符合样式的列数。
-C<显示行数> --context=<显示行数>或-<显示行数> #除了显示符合样式的那一行之外,并显示该行之前后的内容。
-d <动作> --directories=<动作> #当指定要查找的是目录而非文件时,必须使用这项参数,否则grep指令将回报信息并停止动作。
-e<范本样式> --regexp=<范本样式> #指定字符串做为查找文件内容的样式。
-E --extended-regexp #将样式为延伸的普通表示法来使用。
-f<规则文件> --file=<规则文件> #指定规则文件,其内容含有一个或多个规则样式,让grep查找符合规则条件的文件内容,格式为每行一个规则样式。
-F --fixed-regexp #将样式视为固定字符串的列表。
-G --basic-regexp #将样式视为普通的表示法来使用。
-h --no-filename #在显示符合样式的那一行之前,不标示该行所属的文件名称。
-H --with-filename #在显示符合样式的那一行之前,表示该行所属的文件名称。
-i --ignore-case #忽略字符大小写的差别。
-l --file-with-matches #列出文件内容符合指定的样式的文件名称。
-L --files-without-match #列出文件内容不符合指定的样式的文件名称。
-n --line-number #在显示符合样式的那一行之前,标示出该行的列数编号。
-q --quiet或--silent #不显示任何信息。
-r --recursive #此参数的效果和指定“-d recurse”参数相同。
-s --no-messages #不显示错误信息。
-v --revert-match #显示不包含匹配文本的所有行。
-V --version #显示版本信息。
-w --word-regexp #只显示全字符合的列。
-x --line-regexp #只显示全列符合的列。
-y #此参数的效果和指定“-i”参数相同。
4.规则表达式:
grep的规则表达式:
^ #锚定行的开始 如:\'^grep\'匹配所有以grep开头的行。
$ #锚定行的结束 如:\'grep$\'匹配所有以grep结尾的行。
. #匹配一个非换行符的字符 如:\'gr.p\'匹配gr后接一个任意字符,然后是p。
* #匹配零个或多个先前字符 如:\'*grep\'匹配所有一个或多个空格后紧跟grep的行。
.* #一起用代表任意字符。
[] #匹配一个指定范围内的字符,如\'[Gg]rep\'匹配Grep和grep。
[^] #匹配一个不在指定范围内的字符,如:\'[^A-FH-Z]rep\'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。
\\(..\\) #标记匹配字符,如\'\\(love\\)\',love被标记为1。
\\< #锚定单词的开始,如:\'\\<grep\'匹配包含以grep开头的单词的行。
\\> #锚定单词的结束,如\'grep\\>\'匹配包含以grep结尾的单词的行。
x\\{m\\} #重复字符x,m次,如:\'0\\{5\\}\'匹配包含5个o的行。
x\\{m,\\} #重复字符x,至少m次,如:\'o\\{5,\\}\'匹配至少有5个o的行。
x\\{m,n\\} #重复字符x,至少m次,不多于n次,如:\'o\\{5,10\\}\'匹配5--10个o的行。
\\w #匹配文字和数字字符,也就是[A-Za-z0-9],如:\'G\\w*p\'匹配以G后跟零个或多个文字或数字字符,然后是p。
\\W #\\w的反置形式,匹配一个或多个非单词字符,如点号句号等。
\\b #单词锁定符,如: \'\\bgrep\\b\'只匹配grep。
POSIX字符:
为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是[A-Za-z0-9]的另一个写法。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外,都支持POSIX的字符类。
[:alnum:] #文字数字字符
[:alpha:] #文字字符
[:digit:] #数字字符
[:graph:] #非空字符(非空格、控制字符)
[:lower:] #小写字符
[:cntrl:] #控制字符
[:print:] #非空字符(包括空格)
[:punct:] #标点符号
[:space:] #所有空白字符(新行,空格,制表符)
[:upper:] #大写字符
[:xdigit:] #十六进制数字(0-9,a-f,A-F)
5.使用实例:
实例1:查找指定进程
命令:ps -ef|grep svn
说明:第一条记录是查找出的进程;第二条结果是grep进程本身,并非真正要找的进程。
实例2:查找指定进程个数
命令:
ps -ef|grep svn -c
ps -ef|grep -c svn
实例3:从文件中读取关键词进行搜索
命令:cat test.txt | grep -f test2.txt
输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行
实例3:从文件中读取关键词进行搜索 且显示行号
命令:cat test.txt | grep -nf test2.txt
输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行,并显示每一行的行号
实例5:从文件中查找关键词
命令 grep \'linux\' test.txt
实例6:从多个文件中查找关键词
命令:
grep \'linux\' test.txt test2.txt
多文件时,输出查询到的信息内容行时,会把文件的命名在行最前面输出并且加上":"作为标示符
实例7:grep不显示本身进程
命令:
ps aux|grep \\[s]sh
ps aux | grep ssh | grep -v "grep"
实例8:找出已u开头的行内容
命令:cat test.txt |grep ^u
实例9:输出非u开头的行内容
命令:cat test.txt |grep ^[^u]
实例10:输出以hat结尾的行内容
命令:cat test.txt |grep hat$
实例11:输出ip地址
命令: ifconfig eth0|grep -E "([0-9]{1,3}\\.){3}[0-9]"
实例12:显示包含ed或者at字符的内容行
命令:cat test.txt |grep -E "ed|at"
实例13:显示当前目录下面以.txt 结尾的文件中的所有包含每个字符串至少有7个连续小写字符的字符串的行
命令:grep \'[a-z]\\{7\\}\' *.txt
实例14:日志文件过大,不好查看,我们要从中查看自己想要的内容,或者得到同一类数据,比如说没有404日志信息的
命令:grep \'.\' access1.log|grep -Ev \'404\' > access2.log
grep \'.\' access1.log|grep -Ev \'(404|/photo/|/css/)\' > access2.log
grep \'.\' access1.log|grep -E \'404\' > access2.log
输出:[root@localhost test]# grep “.”access1.log|grep -Ev “404” > access2.log
说明:上面3句命令前面两句是在当前目录下对access1.log文件进行查找,找到那些不包含404的行,把它们放到access2.log中,后面去掉’v’,即是把有404的行放入access2.log
关于grep命令的or,and,not操作
在grep命令中,有OR和NOT操作符的等价选项,但是并没有grep AND这种操作符。不过呢,可以使用patterns来模拟AND操作的。下面会举一些例子来说明在Linux的grep命令中如何使用OR,AND,NOT。
1 OR 语义
egrep \'pattern1|pattern2\' filename
- 1
2 AND 语义
grep -E \'pattern1.*pattern2\' filename
- 1
3 NOT 语义
grep -v \'pattern1\' filename
grep匹配符合多个条件的行
egrep -i \'^(From | Subject | Date): \' maixbox
grep使用多个查询条件--或
推荐方法
\\| 符号法
[root@mail ~]# grep \'usrquota\\|grpquota\' /etc/fstab
其他方法
『1』使用多个 -e 参数
如:
netstat -an | grep -E "ESTABLISHED|WAIT"
注意:
netstat -an | grep -e EST -e WAIT
并列使用多个 -e参数可以实现或条件
『2』使用扩展 -E
netstat -an | grep -E "ESTABLISHED|WAIT"
此处的 -E 是大写 ,匹配条件一定要加 引号
下面是一些有意思且常用的命令行参数:
grep -i pattern files :不区分大小写地搜索(例如:grep -i "hello" ./test.txt)。默认情况区分大小写。
grep -l pattern files :只列出匹配的文件名,
grep -L pattern files :列出不匹配的文件名,
grep -w pattern files :只匹配整个单词,而不是字符串的一部分(如匹配‘magic’,而不是‘magical’),
grep -C number pattern files :匹配的上下文分别显示[number]行,
grep pattern1 | pattern2 files :显示匹配 pattern1 或 pattern2 的行,
grep pattern1 files | grep pattern2 :显示既匹配 pattern1 又匹配 pattern2 的行
这里还有些用于搜索的特殊符号:
\\< 和 \\> 分别标注单词的开始与结尾。
例如:
grep man * 会匹配 ‘batman’、‘manic’、‘man’等,
grep \'\\<man\' * 匹配‘manic’和‘man’,但不是‘batman’,
grep \'\\<man\\>\' 只匹配‘man’,而不是‘batman’或‘manic’等其他的字符串。
\'^\':指匹配的字符串在行首,
\'$\':指匹配的字符串在行尾,
^ 符号,在字符类符号(括号[])之内与之外是不同的! 在 [] 内代表『反向选择』,在 [] 之外则代表定位在行首的意义!
任意一个字节 . 与重复字节 *
这两个符号在正则表达式的意义如下:
. (小数点):代表『一定有一个任意字节』的意思; * (星号):代表『重复前一个字符, 0 到无穷多次』的意思,为组合形态
假设我需要找出 g??d 的字串,亦即共有四个字节, 起头是 g 而结束是 d ,我可以这样做:
[root@www ~]# grep -n \'g..d\' regular_express.txt 1:"Open Source" is a good mechanism to develop programs. 9:Oh! The soup taste good. 16:The world <Happy> is the same with "glad".
因为强调 g 与 d 之间一定要存在两个字节,因此,第 13 行的 god 与第 14 行的 gd 就不会被列出来啦!
如果我想要找出 g 开头与 g 结尾的行,当中的字符可有可无
[root@www ~]# grep -n \'g.*g\' regular_express.txt 1:"Open Source" is a good mechanism to develop programs. 20:go! go! Let\'s go.
如果我想要找出『任意数字』的行?因为仅有数字,所以就成为:
[root@www ~]# grep -n \'[0-9][0-9]*\' regular_express.txt
限定连续 RE 字符范围 {}
我们可以利用 . 与 RE 字符及 * 来配置 0 个到无限多个重复字节, 那如果我想要限制一个范围区间内的重复字节数呢?
举例来说,我想要找出两个到五个 o 的连续字串,该如何作?这时候就得要使用到限定范围的字符 {} 了。 但因为 { 与 } 的符号在 shell 是有特殊意义的,因此, 我们必须要使用字符 \\ 来让他失去特殊意义才行。 至於 {} 的语法是这样的,假设我要找到两个 o 的字串,可以是:
[root@www ~]# grep -n \'o\\{2\\}\' regular_express.txt
扩展grep(grep -E 或者 egrep):
使用扩展grep的主要好处是增加了额外的正则表达式元字符集。
打印所有包含NW或EA的行。如果不是使用egrep,而是grep,将不会有结果查出。
# egrep \'NW|EA\' testfile northwest NW Charles Main 3.0 .98 3 34 eastern EA TB Savage 4.4 .84 5 20
对于标准grep,如果在扩展元字符前面加\\,grep会自动启用扩展选项-E。
#grep \'NW\\|EA\' testfile northwest NW Charles Main 3.0 .98 3 34 eastern EA TB Savage 4.4 .84 5 20
搜索所有包含一个或多个3的行。
# egrep \'3+\' testfile # grep -E \'3+\' testfile # grep \'3\\+\' testfile #这3条命令将会 northwest NW Charles Main 3.0 .98 3 34 western WE Sharon Gray 5.3 .97 5 23 northeast NE AM Main Jr. 5.1 .94 3 13 central CT Ann Stephens 5.7 .94 5 13
搜索所有包含0个或1个小数点字符的行。
# egrep \'2\\.?[0-9]\' testfile # grep -E \'2\\.?[0-9]\' testfile # grep \'2\\.\\?[0-9]\' testfile #首先含有2字符,其后紧跟着0个或1个点,后面再是0和9之间的数字。 western WE Sharon Gray 5.3 .97 5 23 southwest SW Lewis Dalsass 2.7 .8 2 18 eastern EA TB Savage 4.4 .84 5 20
搜索一个或者多个连续的no的行。
# egrep \'(no)+\' testfile # grep -E \'(no)+\' testfile # grep \'\\(no\\)\\+\' testfile #3个命令返回相同结果, northwest NW Charles Main 3.0 .98 3 34 northeast NE AM Main Jr. 5.1 .94 3 13 north NO Margot Weber 4.5 .89 5 9
不使用正则表达式
fgrep 查询速度比grep命令快,但是不够灵活:它只能找固定的文本,而不是规则表达式。
如果你想在一个文件或者输出中找到包含星号字符的行
fgrep \'*\' /etc/profile
以上是关于每天学点Linux命令之grep 和 wc命令 ---(6/25)的主要内容,如果未能解决你的问题,请参考以下文章