shell中lsort,uniq,cut,wc，seq命令使用

Posted 2020-09-30

sort

sort 命令对 File 参数指定的文件中的行排序，并将结果写到标准输出。如果 File 参数指定多个文件，那么 sort 命令将这些文件连接起来，并当作一个文件进行排序。

sort语法

[[email protected] ~]# sort [-fbMnrtuk] [file or stdin]

选项与参数：

-f  ：忽略大小写的差异，例如 A 与 a 视为编码相同；

-b  ：忽略最前面的空格符部分；

-M  ：以月份的名字来排序，例如 JAN, DEC 等等的排序方法；

-n  ：使用『纯数字』进行排序(默认是以文字型态来排序的)；

-r  ：反向排序；

-u  ：就是 uniq ，相同的数据中，仅出现一行代表；

-t  ：分隔符，默认是用 [tab] 键来分隔；

-k  ：以那个区间 (field) 来进行排序的意思

对/etc/passwd 的账号进行排序

[[email protected] ~]# cat /etc/passwd | sort

adm:x:3:4:adm:/var/adm:/sbin/nologin

a

apache:x:48:48:Apache:/var/www:/sbin/nologin

b

bin:x:1:1:bin:/bin:/sbin/nologin

d

daemon:x:2:2:daemon:/sbin:/sbin/nologin

sort 是默认以第一个数据来排序，而且默认是以字符串形式来排序,所以由字母 a 开始升序排序。

 

/etc/passwd 内容是以 : 来分隔的，我想以第三栏来排序，该如何

[[email protected] ~]# cat /etc/passwd | sort -t ‘:‘ -k 3

r

root:x:0:0:root:/root:/bin/bash

u

uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

o

operator:x:11:0:operator:/root:/sbin/nologin

b

bin:x:1:1:bin:/bin:/sbin/nologin

g

games:x:12:100:games:/usr/games:/sbin/nologin

默认是以字符串来排序的，如果想要使用数字排序：

cat /etc/passwd | sort -t ‘:‘ -k 3n

r

root:x:0:0:root:/root:/bin/bash

d

daemon:x:1:1:daemon:/usr/sbin:/bin/sh

b

bin:x:2:2:bin:/bin:/bin/sh

默认是升序排序，如果要倒序排序，如下

cat /etc/passwd | sort -t ‘:‘ -k 3nr

n

nobody:x:65534:65534:nobody:/nonexistent:/bin/sh

n

ntp:x:106:113::/home/ntp:/bin/false

m

messagebus:x:105:109::/var/run/dbus:/bin/false

s

sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin

 

如果要对/etc/passwd,先以第六个域的第2个字符到第4个字符进行正向排序，再基于第一个域进行反向排序。

cat /etc/passwd |  sort -t‘:‘ -k 6.2,6.4 -k 1r      

sync:x:4:65534:sync:/bin:/bin/sync

p

proxy:x:13:13:proxy:/bin:/bin/sh

b

bin:x:2:2:bin:/bin:/bin/sh

s

sys:x:3:3:sys:/dev:/bin/sh

 

查看/etc/passwd有多少个shell:对/etc/passwd的第七个域进行排序，然后去重:

cat /etc/passwd |  sort -t‘:‘ -k 7 -u

r

root:x:0:0:root:/root:/bin/bash

s

syslog:x:101:102::/home/syslog:/bin/false

d

daemon:x:1:1:daemon:/usr/sbin:/bin/sh

sync:x:4:65534:sync:/bin:/bin/sync

s

sshd:x:104:65534::/var/run/sshd:/usr/sbin/nologin

 

uniq

 uniq命令可以去除排序过的文件中的重复行，因此uniq经常和sort合用。也就是说，为了使uniq起作用，所有的重复行必须是相邻的。

uniq语法

[[email protected] ~]# uniq [-icu]

选项与参数：

-i   ：忽略大小写字符的不同；

-c  ：进行计数

-u  ：只显示唯一的行

 

testfile的内容如下

cat testfile

h

hello

w

world

f

friend

h

hello

w

world

h

hello

 

直接删除未经排序的文件，将会发现没有任何行被删除

#uniq testfile  

h

hello

w

world

f

friend

h

hello

w

world

h

hello

 

排序文件，默认是去重

#cat words | sort |uniq

friend

h

hello

w

world

 

排序之后删除了重复行，同时在行首位置输出该行重复的次数

#sort testfile | uniq -c

1 friend

3 hello

2 world

 

仅显示存在重复的行，并在行首显示该行重复的次数

#sort testfile | uniq -dc

3 hello

2 world

 

仅显示不重复的行

sort testfile | uniq -u

f

friend  

 

cut

cut命令可以从一个文本文件或者文本流中提取文本列。

cut语法

[[email protected] ~]# cut -d‘分隔字符‘ -f fields <==用于有特定分隔字符

[

[[email protected] ~]# cut -c 字符区间            <==用于排列整齐的信息

选项与参数：

-d  ：后面接分隔字符。与 -f 一起使用；

-f  ：依据 -d 的分隔字符将一段信息分割成为数段，用 -f 取出第几段的意思；

-c  ：以字符 (characters) 的单位取出固定字符区间；

 

PATH 变量如下

[[email protected] ~]# echo $PATH

/bin:/usr/bin:/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games

#

# 1 | 2       | 3   | 4       | 5            | 6            | 7

 

将 PATH 变量取出，我要找出第五个路径。

#echo $PATH | cut -d ‘:‘ -f 5

/usr/local/bin

 

将 PATH 变量取出，我要找出第三和第五个路径。

#echo $PATH | cut -d ‘:‘ -f 3,5

/

/sbin:/usr/local/bin

 

将 PATH 变量取出，我要找出第三到最后一个路径。

echo $PATH | cut -d ‘:‘ -f 3-/sbin:/usr/sbin:/usr/local/bin:/usr/X11R6/bin:/usr/games

 

将 PATH 变量取出，我要找出第一到第三个路径。

#echo $PATH | cut -d ‘:‘ -f 1-3

/bin:/usr/bin:/sbin: 

 

将 PATH 变量取出，我要找出第一到第三，还有第五个路径。

echo $PATH | cut -d ‘:‘ -f 1-3,5

/bin:/usr/bin:/sbin:/usr/local/bin

 

实用例子:只显示/etc/passwd的用户和shell

#cat /etc/passwd | cut -d ‘:‘ -f 1,7 

r

root:/bin/bash

d

daemon:/bin/sh

b

bin:/bin/sh

 

 wc

统计文件里面有多少单词，多少行，多少字符。

wc语法

[[email protected] ~]# wc [-lwm]

选项与参数：

-l  ：仅列出行；

-w  ：仅列出多少字(英文单字)；

-m  ：多少字符；

 

默认使用wc统计/etc/passwd

#wc /etc/passwd

40   45 1719 /etc/passwd

40是行数，45是单词数，1719是字节数

 

wc的命令比较简单使用，每个参数使用如下：

#wc -l /etc/passwd   #统计行数，在对记录数时，很常用

40 /etc/passwd       #表示系统有40个账户

#

#wc -w /etc/passwd  #统计单词出现次数

45 /etc/passwd

#

#wc -m /etc/passwd  #统计文件的字节数

1719

seq

它有三个选项

-f, --format=FORMAT use printf style floating-point FORMAT (default: %g)

-s, --separator=STRING use STRING to separate numbers (default: \n)

-w, --equal-width equalize width by padding with leading zeroes

-f 最常用 , 例如一次制做 10 个名 dir001 , dir002 .. dir010 的目录，我们可以

运行下面的命令便可

seq -f ‘dir%03g‘ 1 10 | xargs mkdir

或

mkdir $(seq -f ‘dir%03g‘ 1 10)

它用的是 printf 的格式 , %03g‘ 代表以三位浮点数,以此方法，如用bash3 的 printf

也可作为等价命令

printf ‘dir%03d\n‘ {1..10} | xargs mkdir 或 mkdir `printf ‘dir%03d ‘ {1..10}`

awk 当然也可以

awk ‘BEGIN { while (num < 10 ) printf "dir%03d\n", ++num ; exit}‘ | xargs mkdir

这样会比写一个脚本快, 不必写成

for dir in 001 002 003 004 005 006 007 008 009 010

do

mkdir dir$

done

也可用 seq 下载一些用数字的 jpeg , 只要格式有数字顺序便可,尤以一些 xxx site ;)

for i in `seq -f ‘%02g‘ 1 20`

do

if ! wget -P $HOME/tmp -c ; then

wget -P $HOME/tmp -c $_

fi

done

-s 选项主要改变输出的分格符, 预设是 \n , 就是 newline

案例

用 -s 便可改变 , 如

seq -s ‘ ‘ 1 10

1 2 3 4 5 6 7 8 9 10 , 以空格作为分格

统计命令处理时间：

time for i in $(seq 1111);do count=${#chars};done;

…………………………