Linux上天之路(十六)之Shell编程一

Posted 超级英雄拯救世界之前成长的日子

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Linux上天之路(十六)之Shell编程一相关的知识,希望对你有一定的参考价值。

用户在命令行输入命令后,一般情况下Shell会fork并exec该命令,但是Shell的内建命令例外,执行内建命令相当于调用Shell进程中的一个函数,并不创建新的进程。以前学过的cd、alias、umask、exit等命令即是内建命令,凡是用which命令查不到程序文件所在位置的命令都是内建命令,内建命令没有单独的man手册,要在man手册中查看内建命令,应该

$ man builtins

如export、shift、if、eval、[、for、while等等。内建命令虽然不创建新的进程,但也会有Exit Status,通常也用0表示成功非零表示失败,虽然内建命令不创建新的进程,但执行结束后也会有一个状态码,也可以用特殊变量$?读出。

[zhangyafei@centos shell_learn]$ $?
bash: 0: 未找到命令
[zhangyafei@centos shell_learn]$ echo $?
127
[zhangyafei@centos shell_learn]$ echo $?
0
[zhangyafei@centos shell_learn]$ ls
t1.sh
[zhangyafei@centos shell_learn]$ echo $?
0

1 shell运行方式

编写一个简单的shell脚本t1.sh

#! /bin/sh
?
pwd
ls
pwd

Shell脚本中用#表示注释,相当于C语言的//注释。但如果#位于第一行开头,并且是#!(称为Shebang)则例外,它表示该脚本使用后面指定的解释器/bin/sh解释执行。如果把这个脚本文件加上可执行权限然后执行:

[zhangyafei@centos shell_learn]$ ./t1.sh
bash: ./t1.sh: 权限不够
?
[zhangyafei@centos shell_learn]$ chmod a+x t1.sh 
[zhangyafei@centos shell_learn]$ ./t1.sh 
/home/zhangyafei/shell_learn
t1.sh
/home/zhangyafei/shell_learn

Shell会fork一个子进程并调用exec执行./test.sh这个程序,exec系统调用应该把子进程的代码段替换成./test.sh程序的代码段,并从它的start开始执行。然而test.sh是个文本文件,根本没有代码段和start函数,怎么办呢?其实exec还有另外一种机制,如果要执行的是一个文本文件,并且第一行用Shebang指定了解释器,则用解释器程序的代码段替换当前进程,并且从解释器的_start开始执行,而这个文本文件被当作命令行参数传给解释器。因此,执行上述脚本相当于执行程序。

[zhangyafei@centos shell_learn]$ chmod a-x t1.sh # 给所有用户删除可执行权限
[zhangyafei@centos shell_learn]$ /bin/sh t1.sh 
/home/zhangyafei/shell_learn
t1.sh
/home/zhangyafei/shell_learn
?
[zhangyafei@centos shell_learn]$ . t1.sh 
/home/zhangyafei/shell_learn
t1.sh
/home/zhangyafei/shell_learn
?
[zhangyafei@centos shell_learn]$ source t1.sh 
/home/zhangyafei/shell_learn
t1.sh
/home/zhangyafei/shell_learn

source或者.命令是Shell的内建命令,这种方式也不会创建子Shell,而是直接在交互式Shell下逐行执行脚本中的命令。

以这些方式执行不需要test.sh文件具有可执行权限。

如果将命令行下输入的命令用()括号括起来,那么也会fork出一个子Shell执行小括号中的命令,一行中可以输入由分号;隔开的多个命令,比如:

$ (cd ..;ls -l)

和上面两种方法执行Shell脚本的效果是相同的,cd ..命令改变的是子Shell的PWD,而不会影响到交互式Shell。然而命令

$ cd ..;ls -l

example

[zhangyafei@centos shell_learn]$ cd ..;ls -l
总用量 12
drwxrwxr-x 2 zhangyafei zhangyafei 4096 9月  26 10:40 shell_learn
-rw-rw-r-- 1 zhangyafei zhangyafei   50 9月  24 17:51 test.py
-rw-r--r-- 1 root       root        165 9月  22 17:21 test.zip
[zhangyafei@centos ~]$ cd shell_learn/
[zhangyafei@centos shell_learn]$ (cd ..;ls -l)
总用量 12
drwxrwxr-x 2 zhangyafei zhangyafei 4096 9月  26 10:40 shell_learn
-rw-rw-r-- 1 zhangyafei zhangyafei   50 9月  24 17:51 test.py
-rw-r--r-- 1 root       root        165 9月  22 17:21 test.zip
[zhangyafei@centos shell_learn]$ 

2 shell变量和测试语句

  • 变量

按照惯例,Shell变量由全大写字母加下划线组成,有两种类型的Shell变量:

1.环境变量

环境变量可以从父进程传给子进程,因此Shell进程的环境变量可以从当前Shell进程传给fork出来的子进程。用printenv命令可以显示当前Shell进程的环境变量。

[zhangyafei@centos shell_learn]$ pritenv # env

2.本地变量

只存在于当前Shell进程,用set命令可以显示当前Shell进程中定义的所有变量(包括本地变量和环境变量)和函数。

[zhangyafei@centos shell_learn]$ set  # 环境变量+本地变量

环境变量是任何进程都有的概念,而本地变量是Shell特有的概念。在Shell中,环境变量和本地变量的定义和用法相似。在Shell中定义或赋值一个变量:

$ VARNAME=value

注意等号两边都不能有空格,否则会被Shell解释成命令和命令行参数。

一个变量定义后仅存在于当前Shell进程,它是本地变量,用export命令可以把本地变量导出为环境变量,定义和导出环境变量通常可以一步完成:

$ export VARNAME=value

也可以分两步完成:

$ VARNAME=value
$ export VARNAME

用unset命令可以删除已定义的环境变量或本地变量。

$ unset VARNAME

如果一个变量叫做VARNAME,用可以表示它的值,在不引起歧义的情况下也可以用?VARNAME表示它的值。通过以下例子比较这两种表示法的不同:

$ echo $SHELL

注意,在定义变量时不用,取变量值时要用?。和C语言不同的是,Shell变量不需要明确定义类型,事实上Shell变量的值都是字符串,比如我们定义VAR=45,其实VAR的值是字符串45而非整数。Shell变量不需要先定义后使用,如果对一个没有定义的变量取值,则值为空字符串。

[zhangyafei@centos shell_learn]$ dinner=‘yuxiangrousi‘
[zhangyafei@centos shell_learn]$ env | grep "dinner"
[zhangyafei@centos shell_learn]$ set | grep "dinner"
dinner=yuxiangrousi
[zhangyafei@centos shell_learn]$ export dinner
[zhangyafei@centos shell_learn]$ env | grep "dinner"
dinner=yuxiangrousi
[zhangyafei@centos shell_learn]$ unset dinner
[zhangyafei@centos shell_learn]$ env | grep "dinner"
[zhangyafei@centos shell_learn]$ echo $SHELL
/bin/bash
  • 文件名代换(Globbing):* ? []

这些用于匹配的字符称为通配符(Wildcard),具体如下:

通配符
*   匹配0个或多个任意字符
?   匹配一个任意字符
[若干字符]  匹配方括号中任意一个字符的一次出现
~ 匹配家目录
() 分组
{} 匹配一个范围

$ ls /dev/ttyS*
$ ls ch0?.doc
$ ls ch0[0-2].doc
$ ls ch[012]   [0-9].doc

注意,Globbing所匹配的文件名是由Shell展开的,也就是说在参数还没传给程序之前已经展开了,比如上述ls ch0[012].doc命令,如果当前目录下有ch00.doc和ch02.doc,则传给ls命令的参数实际上是这两个文件名,而不是一个匹配字符串。

其他字符

; 一行执行多条命令使用;分隔
| 管道符
‘’ 单引号 定义字符串
“” 双引号 定义字符串
`` 反引号 命令中执行命令
^ 正则表达式符号 代表以什么开头
$ 正则表达式符号 代表以什么结尾
& 后台执行 加在一条完整命令后面
 转义字符
+-* / 加减乘除运算符号
  • 命令代换:`或 $()

由‘`‘反引号括起来的也是一条命令,Shell先执行该命令,然后将输出结果立刻代换到当前命令行中。例如定义一个变量存放date命令的输出:

[zhangyafei@centos shell_learn]$ DATE=date
[zhangyafei@centos shell_learn]$ echo DATE
DATE
[zhangyafei@centos shell_learn]$ echo `date`
2019年 09月 26日 星期四 11:34:10 CST
命令代换也可以用$()表示:

[zhangyafei@centos shell_learn]$ DATE=$(date)
[zhangyafei@centos shell_learn]$ echo $DATE
2019年 09月 26日 星期四 11:32:54 CST
  • 算术代换:$(())

用于算术计算,中的变量取值将转换成整数,同样含义的?[]等价例如:

[zhangyafei@centos shell_learn]$ VAR=22
[zhangyafei@centos shell_learn]$ echo $VAR+2
22+2
[zhangyafei@centos shell_learn]$ echo $(($VAR+2))
24
$(())中只能用+-*/和()运算符,并且只能做整数运算。
$[base#n],其中base表示进制,n按照base进制解释,后面再有运算数,按十进制解释。
[zhangyafei@centos shell_learn]$ echo $[10#10+11]
21
[zhangyafei@centos shell_learn]$ echo $[10#2+11]
13
转义字符

和C语言类似,在Shell中被用作转义字符,用于去除紧跟其后的单个字符的特殊意义(回车除外),换句话说,紧跟其后的字符取字面值。例如:

[zhangyafei@centos shell_learn]$ echo $SHELL
$SHELL
[zhangyafei@centos shell_learn]$ echo $SHELL
/bin/bash
[zhangyafei@centos shell_learn]$ echo \

比如创建一个文件名为“$ $”的文件可以这样:

$ touch $ $

还有一个字符虽然不具有特殊含义,但是要用它做文件名也很麻烦,就是-号。如果要创建一个文件名以-号开头的文件,这样是不行的:

$ touch -hello
touch: invalid option -- h
Try `touch --help‘ for more information.
即使加上转义也还是报错:
$ touch -hello
touch: invalid option -- h
Try `touch --help‘ for more information.

因为各种UNIX命令都把-号开头的命令行参数当作命令的选项,而不会当作文件名。如果非要处理以-号开头的文件名,可以有两种办法:

$ touch ./-hello

或者

$ touch -- -hello

还有一种用法,在后敲回车表示续行,Shell并不会立刻执行命令,而是把光标移到下一行,给出一个续行提示符>,等待用户继续输入,最后把所有的续行接到一起当作一个命令执行。例如:

$ ls > -l
(ls -l命令的输出)
  • 单引号

和C语言不一样,Shell脚本中的单引号和双引号一样都是字符串的界定符(双引号下一节介绍),而不是字符的界定符。单引号用于保持引号内所有字符的字面值,即使引号内的和回车也不例外,但是字符串中不能出现单引号。如果引号没有配对就输入回车,Shell会给出续行提示符,要求用户把引号配上对。例如:

$ echo ‘$SHELL‘
$SHELL
$ echo ‘ABC(回车)
> DE‘(再按一次回车结束命令)
ABCDE
  • 双引号

被双引号用括住的内容,将被视为单一字串。它防止通配符扩展,但允许变量扩展。这点与单引号的处理方式不同

$ DATE=$(date)
$ echo "$DATE"
$ echo ‘$DATE‘
  • 条件测试:test [

命令test或[可以测试一个条件是否成立,如果测试结果为真,则该命令的Exit Status为0,如果测试结果为假,则命令的Exit Status为1(注意与C语言的逻辑表示正好相反)。例如测试两个数的大小关系:

$ var=2
$ test $var -gt 1
$ echo $?
0
$ test $var -gt 3
$ echo $?
1
$ [ $var -gt 3 ]
$ echo $?
1

虽然看起来很奇怪,但左方括号[确实是一个命令的名字,传给命令的各参数之间应该用空格隔开,比如,$VAR、-gt、3、]是[命令的四个参数,它们之间必须用空格隔开。命令test或[的参数形式是相同的,只不过test命令不需要]参数。以[命令为例,常见的测试命令如下表所示:

[ -d DIR ]              如果DIR存在并且是一个目录则为真
[ -f FILE ]             如果FILE存在且是一个普通文件则为真
[ -z STRING ]           如果STRING的长度为零则为真
[ -n STRING ]           如果STRING的长度非零则为真
[ STRING1 = STRING2 ]   如果两个字符串相同则为真
[ STRING1 != STRING2 ]  如果字符串不相同则为真
[ ARG1 OP ARG2 ]        ARG1和ARG2应该是整数或者取值为整数的变量,OP是-eq(等于)-ne(不等于)-lt(小于)-le(小于等于)-gt(大于)-ge(大于等于)之中的一个
和C语言类似,测试条件之间还可以做与、或、非逻辑运算:

带与、或、非的测试命令

[ ! EXPR ]          EXPR可以是上表中的任意一种测试条件,!表示逻辑反
[ EXPR1 -a EXPR2 ]  EXPR1和EXPR2可以是上表中的任意一种测试条件,-a表示逻辑与
[ EXPR1 -o EXPR2 ]  EXPR1和EXPR2可以是上表中的任意一种测试条件,-o表示逻辑或

例如:

$ VAR=abc
$ [ -d Desktop -a $VAR = ‘abc‘ ]
$ echo $?
0

注意,如果上例中的$VAR变量事先没有定义,则被Shell展开为空字符串,会造成测试条件的语法错误(展开为[ -d Desktop -a = ‘abc‘ ]),作为一种好的Shell编程习惯,应该总是把变量取值放在双引号之中(展开为[ -d Desktop -a "" = ‘abc‘ ]):

$ unset VAR
$ [ -d Desktop -a $VAR = ‘abc‘ ]
bash: [: too many arguments
$ [ -d Desktop -a "$VAR" = ‘abc‘ ]
$ echo $?
1

3 分支语句

  • if/then/elif/else/fi

和C语言类似,在Shell中用if、then、elif、else、fi这几条命令实现分支控制。这种流程控制语句本质上也是由若干条Shell命令组成的,例如先前讲过的

if [ -f ~/.bashrc ]; then
    . ~/.bashrc
fi

其实是三条命令,if [ -f ~/.bashrc ]是第一条,then . ~/.bashrc是第二条,fi是第三条。如果两条命令写在同一行则需要用;号隔开,一行只写一条命令就不需要写;号了,另外,then后面有换行,但这条命令没写完,Shell会自动续行,把下一行接在then后面当作一条命令处理。和[命令一样,要注意命令和各参数之间必须用空格隔开。if命令的参数组成一条子命令,如果该子命令的Exit Status为0(表示真),则执行then后面的子命令,如果Exit Status非0(表示假),则执行elif、else或者fi后面的子命令。if后面的子命令通常是测试命令,但也可以是其它命令。Shell脚本没有{}括号,所以用fi表示if语句块的结束。见下例:

#! /bin/sh
?
if [ -f /bin/bash ]
then echo "/bin/bash is a file"
else echo "/bin/bash is NOT a file"
fi
if :; then echo "always true"; fi

:是一个特殊的命令,称为空命令,该命令不做任何事,但Exit Status总是真。此外,也可以执行/bin/true或/bin/false得到真或假的Exit Status。再看一个例子:

#! /bin/sh
?
echo "Is it morning? Please answer yes or no."
read YES_OR_NO
if [ "$YES_OR_NO" = "yes" ]; then
    echo "Good morning!"
elif [ "$YES_OR_NO" = "no" ]; then
    echo "Good afternoon!"
else
    echo "Sorry, $YES_OR_NO not recognized. Enter yes or no."
    exit 1
fi
    exit 0

上例中的read命令的作用是等待用户输入一行字符串,将该字符串存到一个Shell变量中。

此外,Shell还提供了&&和||语法,和C语言类似,具有Short-circuit特性,很多Shell脚本喜欢写成这样:

test "$(whoami)" != ‘root‘ && (echo you are using a non-privileged account; exit 1)

&&相当于“if...then...”,而||相当于“if not...then...”。&&和||用于连接两个命令,而上面讲的-a和-o仅用于在测试表达式中连接两个测试条件,要注意它们的区别,例如,

test "$VAR" -gt 1 -a "$VAR" -lt 3

和以下写法是等价的

test "$VAR" -gt 1 && test "$VAR" -lt 3
  • case/esac

case命令可类比C语言的switch/case语句,esac表示case语句块的结束。C语言的case只能匹配整型或字符型常量表达式,而Shell脚本的case可以匹配字符串和Wildcard,每个匹配分支可以有若干条命令,末尾必须以;;结束,执行时找到第一个匹配的分支并执行相应的命令,然后直接跳到esac之后,不需要像C语言一样用break跳出。

#! /bin/sh
?
echo "Is it morning? Please answer yes or no."
read YES_OR_NO
case "$YES_OR_NO" in yes|y|Yes|YES)
        echo "Good Morning!";;
    [nN]*)
        echo "Good Afternoon!";;
    *)
        echo "Sorry, $YES_OR_NO not recognized. Enter yes or no."
        exit 1;;
esac
    exit 0

使用case语句的例子可以在系统服务的脚本目录/etc/init.d中找到。这个目录下的脚本大多具有这种形式(以/etc/init.d/nfs-kernel-server为例):

    case "$1" in
        start)
            ...
        ;;
        stop)
            ...
        ;;
        reload | force-reload)
            ...
        ;;
        restart)
        ...
        *)
            log_success_msg "Usage: nfs-kernel-server {start|stop|status|reload|force-reload|restart}"
            exit 1
        ;;
    esac

启动nfs-kernel-server服务的命令是

$ sudo /etc/init.d/nfs-kernel-server start

$1是一个特殊变量,在执行脚本时自动取值为第一个命令行参数,也就是start,所以进入start)分支执行相关的命令。同理,命令行参数指定为stop、reload或restart可以进入其它分支执行停止服务、重新加载配置文件或重新启动服务的相关命令。 

4 循环语句

  • for/do/done

Shell脚本的for循环结构和C语言很不一样,它类似于某些编程语言的foreach循环。例如:

#! /bin/sh
?
for FRUIT in apple banana pear; do
    echo "I like $FRUIT"
done
FRUIT是一个循环变量,第一次循环$FRUIT的取值是apple,第二次取值是banana,第三次取值是pear。再比如,要将当前目录下的chap0、chap1、chap2等文件名改为chap0~、chap1~、chap2~等(按惯例,末尾有~字符的文件名表示临时文件),这个命令可以这样写:
?
$ for FILENAME in chap?; do mv $FILENAME $FILENAME~; done

也可以这样写:

$ for FILENAME in `ls chap?`; do mv $FILENAME $FILENAME~; done
  • while/do/done

while的用法和C语言类似。比如一个验证密码的脚本:

#! /bin/sh
?
echo "Enter password:"
read TRY
while [ "$TRY" != "secret" ]; do
    echo "Sorry, try again"
    read TRY
done

下面的例子通过算术运算控制循环的次数:

#! /bin/sh
?
COUNTER=1
while [ "$COUNTER" -lt 10 ]; do
    echo "Here we go again"
    COUNTER=$(($COUNTER+1))
done

Shell还有until循环,类似C语言的do...while循环。本章从略。

  • break和continue

break[n]可以指定跳出几层循环,continue跳过本次循环步,没跳出整个循环。

break跳出,continue跳过。

  • break

#! /bin/sh 
?
COUNTER=1
while [ "$COUNTER" -lt 10 ]
    do
        if [ "$COUNTER" -gt 5 ]; then
            echo "你已经输错密码五次,退出程序"
            break
        else
            echo "$COUNTER"
        fi
            COUNTER=$(($COUNTER+1))
done
  • continue

#! /bin/sh
?
NUMS="1 2 3 4 5 6 7"
?
for NUM in $NUMS
    do
        echo "$NUM"
        Q=`expr $NUM % 2`
        if [ $Q -eq 0 ]
        then
            echo "Number is an even number!!"
                continue
        fi
            echo "Found odd number"
                                      
 done

习题:把上面验证密码的程序修改一下,如果用户输错五次密码就报错退出。

#! /bin/sh
?
echo ‘please enter password:‘
read TRY
COUNTER=1
while [ "$TRY" != "secret" ]; do
    echo "$COUNTER"
    if [ "$COUNTER" -gt 5 ]
        then
            echo "你已连续输错密码五次,退出程序"
            break
    fi
        COUNTER=$(($COUNTER+1))
            echo "sorry, password is error! try again!"
            read TRY
done

5 命令行参数

  • 位置参数和特殊变量

有很多特殊变量是被Shell自动赋值的,我们已经遇到了?1,现在总结一下:

常用的位置参数和特殊变量

$0  相当于C语言main函数的argv[0]
$1、$2...    这些称为位置参数(Positional Parameter),相当于C语言main函数的argv[1]、argv[2]...
$#  相当于C语言main函数的argc - 1,注意这里的#后面不表示注释
$@  表示参数列表"$1" "$2" ...,例如可以用在for循环中的in后面。
$*  表示参数列表"$1" "$2" ...,同上
$?  上一条命令的Exit Status
$$  当前进程号

位置参数可以用shift命令左移。比如shift 3表示原来的现在变成1,原来的现在变成2等等,原来的2、丢弃,0不移动。不带参数的shift命令相当于shift 1。例如:

#! /bin/sh
?
echo "The program $0 is now running"
echo "The first parameter is $1"
echo "The second parameter is $2"
echo "The parameter list is $@"
shift
echo "The first parameter is $1"
echo "The second parameter is $2"
echo "The parameter list is $@"
?
[root@centos 命令行参数]# . terminal_parameter.sh 1 2 3 4 5 6
The program -bash is now runninog
The first parameter is 1
The second parameter is 2
The parameter list is 1 2 3 4 5 6
The first parameter is 2
The second parameter is 3
The parameter list is 2 3 4 5 6

6 shell输入输出

  • echo

echo显示文本行或变量,或者把字符串输入到文件。

echo [option] string
-e 解析转义字符
-n 不回车换行。默认情况echo回显的内容后面跟一个回车换行。
echo "hello

"
echo -e "hello

"
echo  "hello"
echo -n "hello"
  • 管道|

可以通过管道把一个命令的输出传递给另一个命令做输入。管道用竖线表示。

cat myfile | more
ls -l | grep "myfile"
df -k | awk ‘{print $1}‘ | grep -v "文件系统"
df -k 查看磁盘空间,找到第一列,去除“文件系统”,并输出
  • tee

tee命令把结果输出到标准输出,另一个副本输出到相应文件。

df -k | awk ‘{print $1}‘ | grep -v "文件系统" | tee a.txt
?
tee -a a.txt表示追加操作。
df -k | awk ‘{print $1}‘ | grep -v "文件系统" | tee -a a.txt
  • 文件重定向

cmd > file             把标准输出重定向到新文件中
cmd >> file            追加
cmd > file 2>&1        标准出错也重定向到1所指向的file里
cmd >> file 2>&1
cmd < file1 > file2    输入输出都定向到文件里
cmd < &fd              把文件描述符fd作为标准输入
cmd > &fd              把文件描述符fd作为标准输出
cmd < &-               关闭标准输入 

7 函数

和C语言类似,Shell中也有函数的概念,但是函数定义中没有返回值也没有参数列表。例如:

#! /bin/sh
?
foo(){ echo "Function foo is called";}
echo "-=start=-"
foo
echo "-=end=-"
?
[root@centos 函数]# . 01_func.sh 
-=start=-
Function foo is called
Function foo is called
Function foo is called
-=end=-

注意函数体的左花括号‘{‘和后面的命令之间必须有空格或换行,如果将最后一条命令和右花括号‘}‘写在同一行,命令末尾必须有;号。

在定义foo()函数时并不执行函数体中的命令,就像定义变量一样,只是给foo这个名字一个定义,到后面调用foo函数的时候(注意Shell中的函数调用不写括号)才执行函数体中的命令。Shell脚本中的函数必须先定义后调用,一般把函数定义都写在脚本的前面,把函数调用和其它命令写在脚本的最后(类似C语言中的main函数,这才是整个脚本实际开始执行命令的地方)。

Shell函数没有参数列表并不表示不能传参数,事实上,函数就像是迷你脚本,调用函数时可以传任意个参数,在函数内同样是用1、等变量来提取参数,函数中的位置参数相当于函数的局部变量,改变这些变量并不会影响函数外面的0、2等变量。函数中可以用return命令返回,如果return后面跟一个数字则表示函数的Exit Status。

下面这个脚本可以一次创建多个目录,各目录名通过命令行参数传入,脚本逐个测试各目录是否存在,如果目录不存在,首先打印信息然后试着创建该目录。

#! /bin/sh
?
is_directory()
    {
        DIR_NAME=$1
        if [ ! -d $DIR_NAME ]; then
            return 1
        else
            return 0
        fi
    }
?
for DIR in "$@"; do
    if is_directory "$DIR"
        then :
    else
        echo "$DIR doesn‘t exist. Creating it now..."
        mkdir $DIR > /dev/null 2>&1
        if [ $? -ne 0 ]; then
            echo "Cannot create directory $DIR"
            exit 1
        fi
    fi
done

注意is_directory()返回0表示真返回1表示假。

那么2>&1又是什么含义?

几个基本符号及其含义:

/dev/null 表示空设备文件;0 表示stdin标准输入;1 表示stdout标准输出;2 表示stderr标准错误。从command>/dev/null说起

其实这条命令是一个缩写版,对于一个重定向命令,肯定是a > b这种形式,那么command > /dev/null难道是command 充当 a 的角色,/dev/null 充当 b 的角色。这样看起来比较合理,其实一条命令肯定是充当不了 a,肯定是 command 执行产生的输出来充当 a,其实就是标准输出 stdout。所以command > /dev/null相当于执行了command 1 > /dev/null。执行 command 产生了标准输出 stdout(用1表示),重定向到/dev/null的设备文件中。

说说 2>&1

通过上面command > /dev/null等价于command 1 > /dev/null,那么对于2>&1也就好理解了,2就是标准错误,1是标准输出,那么这条命令不就是相当于把标准错误重定向到标准输出么。

2>1和2>&1的写法有什么区别:

2>1的作用是把标准错误的输出重定向到1,但这个1不是标准输出,而是一个文件!!!,文件名就是1;2>&1的作用是把标准错误的输出重定向到标准输出1,&指示不要把1当作普通文件,而是fd=1即标准输出来处理。command>a 2>a 与 command>a 2>&1的区别

通过上面的分析,对于command>a 2>&1这条命令,等价于command 1>a 2>&1可以理解为执行 command 产生的标准输入重定向到文件 a 中,标准错误也重定向到文件 a 中。那么是否就说command 1>a 2>&1等价于command 1>a 2>a呢。其实不是,command 1>a 2>&1与command 1>a 2>a还是有区别的,区别就在于前者只打开一次文件a,后者会打开文件两次,并导致 stdout 被 stderr 覆盖。&1的含义就可以理解为用标准输出的引用,引用的就是重定向标准输出产生打开的 a。从IO效率上来讲,command 1>a 2>&1比command 1>a 2>a的效率更高。

8 shell脚本的调试工具

Shell提供了一些用于调试脚本的选项,如下所示:

-n:读一遍脚本中的命令但不执行,用于检查脚本中的语法错误

-v:一边执行脚本,一边将执行过的脚本命令打印到标准错误输出

-x:提供跟踪执行信息,将执行的每一条命令和结果依次打印出来

使用这些选项有三种方法,一是在命令行提供参数

$ sh -x ./script.sh

二是在脚本开头提供参数

#! /bin/sh -x

第三种方法是在脚本中用set命令启用或禁用参数

#! /bin/sh
if [ -z "$1" ]; then
    set -x
    echo "ERROR: Insufficient Args."
    exit 1
    set +x
fi

set -x和set +x分别表示启用和禁用-x参数,这样可以只对脚本中的某一段进行跟踪调试。

9 正则表达式

以前我们用grep在一个文件中找出包含某些字符串的行,比如在头文件中找出一个宏定义。其实grep还可以找出符合某个模式(Pattern)的一类字符串。例如找出所有符合xxxxx@xxxx.xxx模式的字符串(也就是email地址),要求x字符可以是字母、数字、下划线、小数点或减号,email地址的每一部分可以有一个或多个x字符,例如abc.d@ef.com、1_2@987-6.54,当然符合这个模式的不全是合法的email地址,但至少可以做一次初步筛选,筛掉a.b、c@d等肯定不是email地址的字符串。再比如,找出所有符合yyy.yyy.yyy.yyy模式的字符串(也就是IP地址),要求y是0-9的数字,IP地址的每一部分可以有1-3个y字符。

如果要用grep查找一个模式,如何表示这个模式,这一类字符串,而不是一个特定的字符串呢?从这两个简单的例子可以看出,要表示一个模式至少应该包含以下信息:

字符类(Character Class):如上例的x和y,它们在模式中表示一个字符,但是取值范围是一类字符中的任意一个。

数量限定符(Quantifier): 邮件地址的每一部分可以有一个或多个x字符,IP地址的每一部分可以有1-3个y字符

各种字符类以及普通字符之间的位置关系:例如邮件地址分三部分,用普通字符@和.隔开,IP地址分四部分,用.隔开,每一部分都可以用字符类和数量限定符描述。为了表示位置关系,还有位置限定符(Anchor)的概念,将在下面介绍。

规定一些特殊语法表示字符类、数量限定符和位置关系,然后用这些特殊语法和普通字符一起表示一个模式,这就是正则表达式(Regular Expression)。例如email地址的正则表达式可以写成[a-zA-Z0-9.-]+@[a-zA-Z0-9.-]+.[a-zA-Z0-9_.-]+,IP地址的正则表达式可以写成[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}。下一节介绍正则表达式的语法,我们先看看正则表达式在grep中怎么用。例如有这样一个文本文件testfile:

192.168.1.1
1234.234.04.5678
123.4234.045.678
abcde

查找其中包含IP地址的行:

$ egrep ‘[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}‘ testfile
192.168.1.1
1234.234.04.5678

egrep相当于grep -E,表示采用Extended正则表达式语法。grep的正则表达式有Basic和Extended两种规范,它们之间的区别下一节再解释。另外还有fgrep命令,相当于grep -F,表示只搜索固定字符串而不搜索正则表达式模式,不会按正则表达式的语法解释后面的参数。

注意正则表达式参数用单引号括起来了,因为正则表达式中用到的很多特殊字符在Shell中也有特殊含义(例如),只有用单引号括起来才能保证这些字符原封不动地传给grep命令,而不会被Shell解释掉。

192.168.1.1符合上述模式,由三个.隔开的四段组成,每段都是1到3个数字,所以这一行被找出来了,可为什么1234.234.04.5678也被找出来了呢?因为grep找的是包含某一模式的行,这一行包含一个符合模式的字符串234.234.04.567。相反,123.4234.045.678这一行不包含符合模式的字符串,所以不会被找出来。

grep是一种查找过滤工具,正则表达式在grep中用来查找符合模式的字符串。其实正则表达式还有一个重要的应用是验证用户输入是否合法,例如用户通过网页表单提交自己的email地址,就需要用程序验证一下是不是合法的email地址,这个工作可以在网页的javascript中做,也可以在网站后台的程序中做,例如php、Perl、Python、Ruby、Java或C,所有这些语言都支持正则表达式,可以说,目前不支持正则表达式的编程语言实在很少见。除了编程语言之外,很多UNIX命令和工具也都支持正则表达式,例如grep、vi、sed、awk、emacs等等。“正则表达式”就像“变量”一样,它是一个广泛的概念,而不是某一种工具或编程语言的特性。

  • 基本语法

我们知道C的变量和Shell脚本变量的定义和使用方法很不相同,表达能力也不相同,C的变量有各种类型,而Shell脚本变量都是字符串。同样道理,各种工具和编程语言所使用的正则表达式规范的语法并不相同,表达能力也各不相同,有的正则表达式规范引入很多扩展,能表达更复杂的模式,但各种正则表达式规范的基本概念都是相通的。本节介绍egrep(1)所使用的正则表达式,它大致上符合POSIX正则表达式规范,详见regex(7)(看这个man page对你的英文绝对是很好的锻炼)。希望读者仿照上一节的例子,一边学习语法,一边用egrep命令做实验。

字符类

字符  含义               举例
.   匹配任意一个字符          abc.可以匹配abcd、abc9等
[]  匹配括号中的任意一个字符  [abc]d可以匹配ad、bd或cd
-   在[]括号内表示字符范围    [0-9a-fA-F]可以匹配一位十六进制数字
^   位于[]括号内的开头,匹配除括号中的字符之外的任意一个字符  [^xy]匹配除xy之外的任一字符,因此[^xy]1可以匹配a1、b1但不匹配x1、y1

[[:xxx:]]   grep工具预定义的一些命名字符类   [[:alpha:]]匹配一个字母,[[:digit:]]匹配一个数字

数量限定符

字符    含义                             举例
?   紧跟在它前面的单元应匹配零次或一次    [0-9]?.[0-9]匹配0.0、2.3、.5等,由于.在正则表达式中是一个特殊字符,所以需要用转义一下,取字面值
+   紧跟在它前面的单元应匹配一次或多次    [a-zA-Z0-9_.-]+@[a-zA-Z0-9_.-]+.[a-zA-Z0-9_.-]+匹配email地址
*   紧跟在它前面的单元应匹配零次或多次    [0-9][0-9]*匹配至少一位数字,等价于[0-9]+,[a-zA-Z_]+[a-zA-Z_0-9]*匹配C语言的标识符
{N} 紧跟在它前面的单元应精确匹配N次       [1-9][0-9]{2}匹配从100到999的整数
{N,}  紧跟在它前面的单元应匹配至少N次     [1-9][0-9]{2,}匹配三位以上(含三位)的整数
{,M}  紧跟在它前面的单元应匹配最多M次     [0-9]{,1}相当于[0-9]?
{N,M} 紧跟在它前面的单元应匹配至少N次,最多M次   [0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}匹配IP地址

再次注意grep找的是包含某一模式的行,而不是完全匹配某一模式的行。再举个例子,如果文本文件的内容是

aaabc
aad
efg

查找a*这个模式的结果是三行都被找出来了

$ egrep ‘a*‘ testfile 
aabc
aad
efg

a匹配0个或多个a,而第三行包含0个a,所以也包含了这一模式。单独用a这样的正则表达式做查找没什么意义,一般是把a*作为正则表达式的一部分来用。

位置限定符

   字符  含义                举例
    ^   匹配行首的位置        ^Content匹配位于一行开头的Content
    $   匹配行末的位置        ;$匹配位于一行结尾的;号,^$匹配空行
    <  匹配单词开头的位置    <th匹配... this,但不匹配ethernet、tenth
    >  匹配单词结尾的位置    p>匹配leap ...,但不匹配parent、sleepy
      匹配单词开头或结尾的位置     at匹配... at ...,但不匹配cat、atexit、batch
    B  匹配非单词开头和结尾的位置   BatB匹配battery,但不匹配... attend、hat ...

位置限定符可以帮助grep更准确地查找,例如上一节我们用[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}查找IP地址,找到这两行

192.168.1.1
1234.234.04.5678

如果用^[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}$查找,就可以把1234.234.04.5678这一行过滤掉了。

其它特殊字符

字符  含义    举例
    转义字符,普通字符转义为特殊字符,特殊字符转义为普通字符   普通字符<写成<表示单词开头的位置,特殊字符.写成.以及写成\就当作普通字符来匹配
()   将正则表达式的一部分括起来组成一个单元,可以对整个单元使用数量限定符    ([0-9]{1,3}.){3}[0-9]{1,3}匹配IP地址
|    连接两个子表达式,表示或的关系     n(o|either)匹配no或neither

以上介绍的是grep正则表达式的Extended规范,Basic规范也有这些语法,只是字符?+{}|()应解释为普通字符,要表示上述特殊含义则需要加转义。如果用grep而不是egrep,并且不加-E参数,则应该遵照Basic规范来写正则表达式。

 

以上是关于Linux上天之路(十六)之Shell编程一的主要内容,如果未能解决你的问题,请参考以下文章

Linux上天之路之Linux界面

Linux上天之路(十八)之自动化部署

Linux Shell系列教程之(十六) Shell输入输出重定向

Python之路(十六):网络编程(中)

linux运维架构之路-shell编程入门

linux运维架构之路-shell编程