每天学点Linux命令之grep 和 wc命令 ---(6/25)

Posted konglingbin

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了每天学点Linux命令之grep 和 wc命令 ---(6/25)相关的知识,希望对你有一定的参考价值。

Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来。grep全称是Global Regular Expression Print,表示全局正则表达式版本,它的使用权限是所有用户。

  wc

1.命令格式:
wc [选项]文件...
2.命令功能:
统计指定文件中的字节数、字数、行数,并将统计结果显示输出。该命令统计指定文件中的字节数、字数、行数。如果没有给出文件名,则从标准输入读取。wc同时也给出所指定文件的总统计数。
3.命令参数:
-c 统计字节数。
-l 统计行数。
-m 统计字符数。这个标志不能与 -c 标志一起使用。
-w 统计字数。一个字被定义为由空白、跳格或换行字符分隔的字符串。
-L 打印最长行的长度。
--help 显示帮助信息
--version 显示版本信息
 
  例子: 在文件a中统计 hello 出现的行数:
  
grep hello a | wc -l

  在文件a中统计hello出现的次数:

grep -o hello a | wc -l

  grep命令和wc命令 这种可以在命令行中通过 | 互相链接 ,作为输入的命令原来有同一的名字 叫做 :::::::管道命令!!!!

  没错就是下面这种感觉

  image

  

  1、管道命令只处理前一个命令正确输出,不处理错误输出

  2、管道命令右边命令,必须能够接收标准输入流命令才行。

cat test1.sh test.sh 2>/dev/null | grep -n \'good\'
1:echo very good
2:echo good
5:echo good
#将test1.sh 没有找到错误输出重定向输出给/dev/null 文件,正确输出通过管道发送给grep

>是重定向

|是管道重定向

区别是:

1、左边的命令应该有标准输出 | 右边的命令应该接受标准输入
   左边的命令应该有标准输出 > 右边只能是文件
   左边的命令应该需要标准输入 < 右边只能是文件

2、管道触发两个子进程执行"|"两边的程序;而定向是在一个进程内执行

 

grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态,如果模板搜索成功,则返回0,如果搜索不成功,则返回1,如果搜索的文件不存在,则返回2。我们利用这些返回值就可进行一些自动化的文本处理工作。

1.命令格式:

grep [option] pattern file

2.命令功能:

用于过滤/搜索的特定字符。可使用正则表达式能多种命令配合使用,使用上十分灵活。

3.命令参数:

-a   --text   #不要忽略二进制的数据。   

-A<显示行数>   --after-context=<显示行数>   #除了显示符合范本样式的那一列之外,并显示该行之后的内容。   

-b   --byte-offset   #在显示符合样式的那一行之前,标示出该行第一个字符的编号。   

-B<显示行数>   --before-context=<显示行数>   #除了显示符合样式的那一行之外,并显示该行之前的内容。   

-c    --count   #计算符合样式的列数。   

-C<显示行数>    --context=<显示行数>或-<显示行数>   #除了显示符合样式的那一行之外,并显示该行之前后的内容。   

-d <动作>      --directories=<动作>   #当指定要查找的是目录而非文件时,必须使用这项参数,否则grep指令将回报信息并停止动作。   

-e<范本样式>  --regexp=<范本样式>   #指定字符串做为查找文件内容的样式。   

-E      --extended-regexp   #将样式为延伸的普通表示法来使用。   

-f<规则文件>  --file=<规则文件>   #指定规则文件,其内容含有一个或多个规则样式,让grep查找符合规则条件的文件内容,格式为每行一个规则样式。   

-F   --fixed-regexp   #将样式视为固定字符串的列表。   

-G   --basic-regexp   #将样式视为普通的表示法来使用。   

-h   --no-filename   #在显示符合样式的那一行之前,不标示该行所属的文件名称。   

-H   --with-filename   #在显示符合样式的那一行之前,表示该行所属的文件名称。   

-i    --ignore-case   #忽略字符大小写的差别。   

-l    --file-with-matches   #列出文件内容符合指定的样式的文件名称。   

-L   --files-without-match   #列出文件内容不符合指定的样式的文件名称。   

-n   --line-number   #在显示符合样式的那一行之前,标示出该行的列数编号。   

-q   --quiet或--silent   #不显示任何信息。   

-r   --recursive   #此参数的效果和指定“-d recurse”参数相同。   

-s   --no-messages   #不显示错误信息。   

-v   --revert-match   #显示不包含匹配文本的所有行。   

-V   --version   #显示版本信息。   

-w   --word-regexp   #只显示全字符合的列。   

-x    --line-regexp   #只显示全列符合的列。   

-y   #此参数的效果和指定“-i”参数相同。

  

4.规则表达式:

grep的规则表达式:

^  #锚定行的开始 如:\'^grep\'匹配所有以grep开头的行。    

$  #锚定行的结束 如:\'grep$\'匹配所有以grep结尾的行。    

.  #匹配一个非换行符的字符 如:\'gr.p\'匹配gr后接一个任意字符,然后是p。    

*  #匹配零个或多个先前字符 如:\'*grep\'匹配所有一个或多个空格后紧跟grep的行。    

.*   #一起用代表任意字符。   

[]   #匹配一个指定范围内的字符,如\'[Gg]rep\'匹配Grep和grep。    

[^]  #匹配一个不在指定范围内的字符,如:\'[^A-FH-Z]rep\'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。    

\\(..\\)  #标记匹配字符,如\'\\(love\\)\',love被标记为1。    

\\<      #锚定单词的开始,如:\'\\<grep\'匹配包含以grep开头的单词的行。    

\\>      #锚定单词的结束,如\'grep\\>\'匹配包含以grep结尾的单词的行。    

x\\{m\\}  #重复字符x,m次,如:\'0\\{5\\}\'匹配包含5个o的行。    

x\\{m,\\}  #重复字符x,至少m次,如:\'o\\{5,\\}\'匹配至少有5个o的行。    

x\\{m,n\\}  #重复字符x,至少m次,不多于n次,如:\'o\\{5,10\\}\'匹配5--10个o的行。   

\\w    #匹配文字和数字字符,也就是[A-Za-z0-9],如:\'G\\w*p\'匹配以G后跟零个或多个文字或数字字符,然后是p。   

\\W    #\\w的反置形式,匹配一个或多个非单词字符,如点号句号等。   

\\b    #单词锁定符,如: \'\\bgrep\\b\'只匹配grep。  

POSIX字符:

为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是[A-Za-z0-9]的另一个写法。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外,都支持POSIX的字符类。

[:alnum:]    #文字数字字符   

[:alpha:]    #文字字符   

[:digit:]    #数字字符   

[:graph:]    #非空字符(非空格、控制字符)   

[:lower:]    #小写字符   

[:cntrl:]    #控制字符   

[:print:]    #非空字符(包括空格)   

[:punct:]    #标点符号   

[:space:]    #所有空白字符(新行,空格,制表符)   

[:upper:]    #大写字符   

[:xdigit:]   #十六进制数字(0-9,a-f,A-F)  

5.使用实例:

实例1:查找指定进程

命令:ps -ef|grep svn

说明:第一条记录是查找出的进程;第二条结果是grep进程本身,并非真正要找的进程。

实例2:查找指定进程个数

命令:

ps -ef|grep svn -c

ps -ef|grep -c svn

实例3:从文件中读取关键词进行搜索

命令:cat test.txt | grep -f test2.txt

输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行

实例3:从文件中读取关键词进行搜索 且显示行号

命令:cat test.txt | grep -nf test2.txt

输出test.txt文件中含有从test2.txt文件中读取出的关键词的内容行,并显示每一行的行号

实例5:从文件中查找关键词

命令   grep \'linux\' test.txt

实例6:从多个文件中查找关键词

命令:

grep \'linux\' test.txt test2.txt

多文件时,输出查询到的信息内容行时,会把文件的命名在行最前面输出并且加上":"作为标示符

实例7:grep不显示本身进程

命令:

ps aux|grep \\[s]sh

ps aux | grep ssh | grep -v "grep"

实例8:找出已u开头的行内容

命令:cat test.txt |grep ^u

实例9:输出非u开头的行内容

命令:cat test.txt |grep ^[^u]

实例10:输出以hat结尾的行内容

命令:cat test.txt |grep hat$

实例11:输出ip地址

命令:     ifconfig eth0|grep -E "([0-9]{1,3}\\.){3}[0-9]"

实例12:显示包含ed或者at字符的内容行

命令:cat test.txt |grep -E "ed|at"

实例13:显示当前目录下面以.txt 结尾的文件中的所有包含每个字符串至少有7个连续小写字符的字符串的行

命令:grep \'[a-z]\\{7\\}\' *.txt

实例14:日志文件过大,不好查看,我们要从中查看自己想要的内容,或者得到同一类数据,比如说没有404日志信息的

命令:grep \'.\' access1.log|grep -Ev \'404\' > access2.log

grep \'.\' access1.log|grep -Ev \'(404|/photo/|/css/)\' > access2.log

grep \'.\' access1.log|grep -E \'404\' > access2.log

输出:[root@localhost test]# grep “.”access1.log|grep -Ev “404” > access2.log

说明:上面3句命令前面两句是在当前目录下对access1.log文件进行查找,找到那些不包含404的行,把它们放到access2.log中,后面去掉’v’,即是把有404的行放入access2.log

关于grep命令的or,and,not操作

在grep命令中,有OR和NOT操作符的等价选项,但是并没有grep AND这种操作符。不过呢,可以使用patterns来模拟AND操作的。下面会举一些例子来说明在Linux的grep命令中如何使用OR,AND,NOT。

1 OR 语义

egrep \'pattern1|pattern2\' filename  
  • 1

2 AND 语义

grep -E \'pattern1.*pattern2\' filename  
  • 1

3 NOT 语义

grep -v \'pattern1\' filename    

grep匹配符合多个条件的行

egrep -i \'^(From | Subject | Date): \' maixbox  

grep使用多个查询条件--或

推荐方法

\\| 符号法

[root@mail ~]# grep \'usrquota\\|grpquota\' /etc/fstab

 

其他方法

『1』使用多个 -e 参数

如:

netstat -an | grep -E "ESTABLISHED|WAIT"

注意:

netstat -an | grep -e EST -e WAIT

并列使用多个 -e参数可以实现或条件

 

『2』使用扩展 -E

netstat -an | grep -E "ESTABLISHED|WAIT"

此处的 -E 是大写 ,匹配条件一定要加 引号

下面是一些有意思且常用的命令行参数: 
grep -i pattern files :不区分大小写地搜索(例如:grep -i "hello" ./test.txt)。默认情况区分大小写。
grep -l pattern files :只列出匹配的文件名, 
grep -L pattern files :列出不匹配的文件名, 
grep -w pattern files :只匹配整个单词,而不是字符串的一部分(如匹配‘magic’,而不是‘magical’), 
grep -C number pattern files :匹配的上下文分别显示[number]行, 
grep pattern1 | pattern2 files :显示匹配 pattern1 或 pattern2 的行, 
grep pattern1 files | grep pattern2 :显示既匹配 pattern1 又匹配 pattern2 的行 

 

这里还有些用于搜索的特殊符号: 


\\< 和 \\> 分别标注单词的开始与结尾。 
例如: 
grep man * 会匹配 ‘batman’、‘manic’、‘man’等, 
grep \'\\<man\' * 匹配‘manic’和‘man’,但不是‘batman’, 
grep \'\\<man\\>\' 只匹配‘man’,而不是‘batman’或‘manic’等其他的字符串。 
\'^\':指匹配的字符串在行首, 
\'$\':指匹配的字符串在行尾, 

^ 符号,在字符类符号(括号[])之内与之外是不同的! 在 [] 内代表『反向选择』,在 [] 之外则代表定位在行首的意义!

任意一个字节 . 与重复字节 *
这两个符号在正则表达式的意义如下:

. (小数点):代表『一定有一个任意字节』的意思;
* (星号):代表『重复前一个字符, 0 到无穷多次』的意思,为组合形态

假设我需要找出 g??d 的字串,亦即共有四个字节, 起头是 g 而结束是 d ,我可以这样做:

[root@www ~]# grep -n \'g..d\' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
9:Oh! The soup taste good.
16:The world <Happy> is the same with "glad".

因为强调 g 与 d 之间一定要存在两个字节,因此,第 13 行的 god 与第 14 行的 gd 就不会被列出来啦!

如果我想要找出 g 开头与 g 结尾的行,当中的字符可有可无

[root@www ~]# grep -n \'g.*g\' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
20:go! go! Let\'s go.
因为是代表 g 开头与 g 结尾,中间任意字节均可接受,所以,第 1, 14, 20 行是可接受的喔! 这个 .* 的 RE 表示任意字符是很常见的.

 如果我想要找出『任意数字』的行?因为仅有数字,所以就成为:

[root@www ~]# grep -n \'[0-9][0-9]*\' regular_express.txt 

 限定连续 RE 字符范围 {}

我们可以利用 . 与 RE 字符及 * 来配置 0 个到无限多个重复字节, 那如果我想要限制一个范围区间内的重复字节数呢?

举例来说,我想要找出两个到五个 o 的连续字串,该如何作?这时候就得要使用到限定范围的字符 {} 了。 但因为 { 与 } 的符号在 shell 是有特殊意义的,因此, 我们必须要使用字符   \\ 来让他失去特殊意义才行。 至於 {} 的语法是这样的,假设我要找到两个 o 的字串,可以是:

[root@www ~]# grep -n \'o\\{2\\}\' regular_express.txt
扩展grep(grep -E 或者 egrep):

使用扩展grep的主要好处是增加了额外的正则表达式元字符集。

 打印所有包含NW或EA的行。如果不是使用egrep,而是grep,将不会有结果查出。

    # egrep \'NW|EA\' testfile     
    northwest       NW      Charles Main        3.0     .98     3       34
    eastern         EA      TB Savage           4.4     .84     5       20

 对于标准grep,如果在扩展元字符前面加\\,grep会自动启用扩展选项-E。

#grep \'NW\\|EA\' testfile
northwest       NW      Charles Main        3.0     .98     3       34
eastern         EA      TB Savage           4.4     .84     5       20

 搜索所有包含一个或多个3的行。

# egrep \'3+\' testfile
# grep -E \'3+\' testfile
# grep \'3\\+\' testfile        
#这3条命令将会
northwest       NW      Charles Main          3.0     .98     3       34
western         WE      Sharon Gray           5.3     .97     5       23
northeast       NE      AM Main Jr.           5.1     .94     3       13
central         CT      Ann Stephens          5.7     .94     5       13
 

搜索所有包含0个或1个小数点字符的行。
    

复制代码
# egrep \'2\\.?[0-9]\' testfile 
# grep -E \'2\\.?[0-9]\' testfile
# grep \'2\\.\\?[0-9]\' testfile 
#首先含有2字符,其后紧跟着0个或1个点,后面再是0和9之间的数字。
western         WE       Sharon Gray          5.3     .97     5       23
southwest       SW      Lewis Dalsass         2.7     .8      2       18
eastern         EA       TB Savage             4.4     .84     5       20

 

搜索一个或者多个连续的no的行。
    

复制代码
# egrep \'(no)+\' testfile
# grep -E \'(no)+\' testfile
# grep \'\\(no\\)\\+\' testfile   #3个命令返回相同结果,
northwest       NW      Charles Main        3.0     .98     3       34
northeast       NE       AM Main Jr.        5.1     .94     3       13
north           NO      Margot Weber        4.5     .89     5       9

 不使用正则表达式

fgrep 查询速度比grep命令快,但是不够灵活:它只能找固定的文本,而不是规则表达式。

如果你想在一个文件或者输出中找到包含星号字符的行

fgrep  \'*\' /etc/profile

以上是关于每天学点Linux命令之grep 和 wc命令 ---(6/25)的主要内容,如果未能解决你的问题,请参考以下文章

每天学点Linux-选取命令CUT和GREP

每天需学点linux之-man命令

每天学点linux之-mkdir和cd

每天一个linux命令wc

每天学点Linux命令之umask

每天学点Linux命令之umask