第六章:shell编程
1.1 shell的概念介绍
1.1.1 命令解释器
Shell是命令解释器(command interpreter),是Unix操作系统的用户接口,程序从用户接口得到输入信息,shell将用户程序及其输入翻译成操作系统内核(kernel)能够识别的指令,并且操作系统内核执行完将返回的输出通过shell再呈现给用户,下图所示用户、shell和操作系统的关系:
一个系统可以存在多个shell,可以通过cat /etc/shells命令查看系统中安装的shell。
[root@qianfeng01 ~]# cat /etc/shells /bin/sh /bin/bash /usr/bin/sh /usr/bin/bash
操作系统内核(kernel)与shell是独立的套件,而且都可被替换;不同的操作系统使用不同的shell; 同一个kernel之上可以使用不同的shell。 也可以查看当前shell环境是哪种:echo $SHELL
1.1.2 shell脚本
Shell也是一门编程语言,即shell脚本。在此脚本中,我们可以使用一些编程语法来进行一些任务操作。 如:变量、类型、分支结构、循环结构、数组、函数等语法。 在shell脚本里,必须指定一种shell命令解释器。
1.2 shell编程规范
1.2.1 脚本文件的结构
1. 文件的扩展名必须是.sh 2. 文件的首行必须使用#! 指定script的运行shell环境(即脚本解释器) 如:#!/bin/bash 3. 脚本里的行注释符号为# 4. 指令、选项、参数之间即使有多个空格仍会被视为一个空格。 5. tab键形成的空白也被视为一个空格键 6. 空白行会被忽略
1.2.2 脚本文件的执行
第一种执行方式: 使用bash程序来调用执行,只需要有读(r)权限即可
[hadoop@master ~]$ sh *.sh 或者 [hadoop@master ~]$ bash *.sh
第二种执行方式:直接写script,必须要有rx权限才行
[hadoop@master ~]$ ./*.sh 绝对路径写法: /home/hadoop/*.sh 相对路径写法: ./*.sh
第三种:借助变量PATH功能:
将*.sh放入~/bin目录下,因为PATH里拼接了~/bin目录。 注意:~/bin目录必须自行创建
1.2.3 shell中的变量用法
1. 变量的命名规则 - 命名只能使用英文字母,数字和下划线。首个字符不能以数字开头。 - 字母习惯使用大写。 - 中间不能有空格。 - 不能使用标点符号。 - 不能使用bash里的关键字(可用help命令查看保留关键字) 2. 变量的使用规则 - 直接定义变量名称,没有类型需要强调(类似于数学中:x=1,y=2,z=x+y) - 赋值时,"="前后不能有空格 - 命令的执行结果赋值给变量时,使用反单引号 如:TIME=`date` - 调用变量时,必须使用$ 格式: $变量名 或 ${变量名}
1.3 变量分类
Linux Shell中的变量可以分为三种变量:局部变量,环境变量,特殊变量。可以通过set命令查看系统中存在的所有变量
局部变量:也就是用户自定义的变量,在脚本中或命令中定义,仅在当前shell实例中有效,其他shell启动的程序不能访问局部变量。 环境变量:保存和系统操作环境相关的数据。\$HOME、\$PWD、\$SHELL、$USER等等 特殊变量: 一种是位置参数变量:主要用来向脚本中传递参数或数据,变量名不能自定义,变量作用固定。 一种是预定义变量:是Bash中已经定义好的变量,变量名不能自定义,变量作用也是固定的。
1.3.1 局部变量
用户自定义的变量由字母或下划线开头,由字母,数字或下划线序列组成,并且大小写字母意义不同,变量名长度没有限制。
1) 设置变量
习惯上用大写字母来命名变量。变量名以字母表示的字符开头,不能用数字。
2) 变量调用
在使用变量时,要在变量名前加上前缀“$”.
使用echo 命令查看变量值
eg: echo $A
3) 变量赋值
第一种:定义时赋值
变量=值
等号两侧不能有空格
eg: STR="hello world"
eg: A=9
第二种:将一个命令的执行结果赋给变量
eg: A=`ls -la` 反引号,运行里面的命令,并把结果返回给变量A
eg: A=$(ls -la) 等价于反引号
eg: aa=$((4+5))
eg: bb=`expr 4 + 5 `
第三种:将一个变量赋给另一个变量
eg : A=$STR
4) 变量叠加
eg: aa=123
eg: cc="$aa"456
eg: dd=${aa}789
单引号和双引号的区别
现象:单引号里的内容会全部输出,而双引号里的内容会有变化
原因:单引号会将所有特殊字符脱意
eg: NUM=10
SUM="$NUM hehe" echo $SUM 输出10 hehe
SUM2='$NUM hehe' echo $SUM2 输出$NUM hehe
5) 列出所有的变量
set
6) 删除变量
eg: unset NAME
eg: unset A 撤销变量 A
eg: readonly B=2 声明静态的变量 B=2 ,不能 unset
用户自定义的变量,作用域为当前的shell环境。
1.3.2 环境变量
用户自定义变量只在当前的shell中生效,而环境变量会在当前shell和其所有子shell中生效。如果把环境变量写入相应的配置文件,那么这个环境变量就会在所有的shell中生效。
export 变量名=变量值 声明变量
作用域:当前shell以及所有的子shell
1.3.3 位置参数变量
$n | n为数字,$0代表命令本身,$1-$9代表第一到第9个参数, 十以上的参数需要用大括号包含,如${10}。 |
---|
$* | 代表命令行中所有的参数,把所有的参数看成一个整体。以"$1 $2 … $n"的形式输出所有参数 |
$@ | 代表命令行中的所有参数,把每个参数区分对待。以"$1" "$2" … "$n" 的形式输出所有参数 |
$# | 参数的个数 |
shift指令:参数左移,每执行一次,参数序列顺次左移一个位置,$# 的值减1,用于分别处理每个参数,移出去的参数不再可用
$* 和 $@的区别
$* 和 $@ 都表示传递给函数或脚本的所有参数,不被双引号" "包含时,都以"$1" "$2" … "$n" 的形式输出所有参数
当它们被双引号" "包含时,"$*" 会将所有的参数作为一个整体,以"$1 $2 … $n"的形式输出所有参数;"$@" 会将各个参数分开,以"$1" "$2" … "$n" 的形式输出所有参数
shell脚本中执行测试:
输出结果:
1.3.4 预定义变量
$? | 执行上一个命令的返回值 执行成功,返回0,执行失败,返回非0(具体数字由命令决定) |
---|---|
$$ | 当前进程的进程号(PID),即当前脚本执行时生成的进程号 |
$! | 后台运行的最后一个进程的进程号(PID),最近一个被放入后台执行的进程 & |
测试$$:
编写shell脚本 vi pre.sh
pwd >/dev/null 执行
echo $$ 执行
测试$!:
执行下面的语句
ls /etc >/dev/null & 执行
echo $! 执行
测试$?:
./pre.sh ; echo $?
分析:这里的意思是一次顺序执行两个命令
如果pre.sh可以执行,$?会返回0.否则返回非零的一个数字
1.4 read命令
1.4.1 命令说明
read [选项] 值
read -p(提示语句) -n(字符个数) -t(等待时间,单位为秒) –s(隐藏输入)
1.4.2 实例
read –t 30 –p “please input your name: ” NAME
echo $NAME
read –s –p “please input your age : ” AGE
echo $AGE 注意:如果隐藏输入,这里的结果是看不到的
read –n 1 –p “please input your sex [M/F]: ” GENDER
echo $GENDER
注意:
1.在输入时,如果输错了要删除要执行control+delete
2.不要输入中文
3.NAME与"之间要有空格
1.5 运算
1.5.1 expr
格式 :expr m + n 或$((m+n)) 注意expr与运算符和变量间要有空格
sum=$((m+n)) 中=与$之间没有空格
expr命令:对整数型变量进行算术运算
(注意:运算符前后必须要有空格)
expr 3 + 5 expr 3 – 5
echo `expr 10 / 3`
10/3的结果为3,因为是取整
expr 3 \* 10
\ 是转义符
1.5.2 实例
计算(2 +3 )×4 的值
1 .分步计算
S= `expr 2 + 3` expr $S \\* 4
2.一步完成计算
expr \`expr 2 + 3 \` \\* 4 S=`expr \` expr 2 + 3 \` \\* 4` echo $S
或
echo $(((2 + 3) * 4))
1.5.3 $()与${}
$()与${}的区别
$( )的用途和反引号``一样,用来表示优先执行的命令
eg: echo $(ls /root)
${ } 就是取变量了
eg:echo ${PATH}
$((运算内容)) 适用于数值运算
eg: echo $((3+1*4))
1.6 字符串
1.6.1 字符串的基本用法
- 字符串不能单独,必须要配合变量。 - 字符串可以使用单引号[' '],也可以使用双引号[" "],也可以不用引号 - 单引号内的任何字符没有任何意义,都会原样输出, - 单引号内使用变量是无效的,单引号内不能出现单引号 - 双引号内可以使用变量 - 双引号内可以使用转义字符 - 在字符串拼接操作时,我们可以进行无缝拼接,或者是在双引号里使用变量
1.6.2 字符串的长度
可以使用${#variable} 或者 expr length "${variable}"。因为expr是指令,所以别忘记使用反单引号``或者是$() 直接看案例: ]vim test3.sh #!/bin/bash var='welcome to china' length1=${#var} length2=$(expr length "${var}") <==$()写法 length3=`expr length "$var"` <==反单引号写法
1.7 shell数组
1.7.1 Array的使用规则
- 在/bin/bash这个shell中,只有一维数组的概念,并且不限定数组的长度。 - 数组的元素下标是从0开始的, - 获取数组的元素要使用下标 - 下标使用不当,会报错
1.7.2 Array的定义
定义格式: variable=(值1 值2 … 值n) 注意:元素之间除了使用空格作为分隔符,还可以使用换行符。
或者
name[0]=值1 name[1]=值2 … name[n]=值n
1.7.3 读取数组
${variable[index]}: 读取index索引上的元素 ${variable[*]}或者${variable[@]}:读取所有元素 ${#variable[*]}或者${#variable[@]} : 读取数组的长度
案例:
[michael@master ~]$ vim test3.sh #!/bin/bash citys=(cc sh bj sd hlj) hobby[0]=book hobby[1]=film hobby[2]=music echo ${citys[0]} <==cc echo ${hobby[*]} <==book film music echo ${#hobby[@]} <==3
1.8 test测试命令
-
通常test命令不单独使用,而是与if语句连用,或者是放在循环结构中。
-
判断符号[] 除了好用的test外,我们还可以使用中括号来进行检测条件是否成立。
举例说明
[ -r filename ] : 检测filename是否有可读权限 [ -f filename -a -r filename ] : 检测filename是不是普通文件并且有可读权限
1.9 条件控制
1.9.1 if 条件语句-单分支
if/else命令
单分支if条件语句
if [ 条件判断式 ] then 程序 fi
或者
if [ 条件判断式 ] ; then 程序 fi
eg:
!/bin/sh if [ -x /etc/rc.d/init.d/httpd ] then /etc/rc.d/init.d/httpd restart fi
单分支条件语句需要注意几个点
if语句使用fi结尾,和一般语言使用大括号结尾不同。 [ 条件判断式 ] 就是使用test命令判断,所以中括号和条件判断式之间必须有空格 then后面跟符号条件之后执行的程序,可以放在[]之后,用“;”分割,也可以换行写入,就不需要”;"了。 if与中括号之间必须要有空格
1.9.2 if 条件语句-多分支
if [ 条件判断式1] then 当条件判断式1成立时,执行程序1 elif [ 条件判断式2 ] then 当条件判断式2成立时,执行程序2 ...省略更多条件 else 当所有条件都不成立时,最后执行此程序 fi
eg1:
#!/bin/bash read -p "please input your name:" NAME echo $NAME if [ “$NAME” == root ] then echo "hello ${NAME}, welcome !" elif [ $NAME == tom ] then echo "hello ${NAME}, welcome !" else echo "SB, get out here !" fi
eg2:
编写一个坐车脚本
要求:脚本:home.sh,从外面传入一个参数,根据参数判断1.坐飞机 2.坐火车 3.坐火箭 4.不回了
1.9.3 case
case命令是一个多分支的if/else命令,case变量的值用来匹配value1,value2,value3等等。
匹配到后则执行跟在后面的命令直到遇到双分号为止(;;)
case命令以esac作为终止符。
case行尾必须为单词 in 每个模式必须以右括号 ) 结束
匹配模式中可使用方括号表示一个连续的范围,如[0-9];使用竖杠符号“|”表示或。
最后的“*)”表示默认模式,当使用前面的各种模式均无法匹配该变量时,将执行“*)”后的命令序列。
格式
CMD=$1 case $CMD in start) echo "starting" ;; stop) echo "stoping" ;; test) echo “I’m testing” ;; *) echo "Usage: {start|stop} " ;; esac
1.10 循环
1.10.1 for循环
for循环命令用来在一个列表条目中执行有限次数的命令。
比如,你可能会在一个姓名列表或文件列表中循环执行同个命令。
for命令后紧跟一个自定义变量、一个关键字in和一个字符串列表(可以是变量)。
第一次执行for循环时,字符串列表中的第一个字符串会赋值给自定义变量,然后执行循环命令,直到遇到done语句;
第二次执行for循环时,会右推字符串列表中的第二个字符串给自定义变量
依次类推,直到字符串列表遍历完。
遍历结构:
第一种:
for N in 1 2 3
do
echo $N
done
或
for N in 1 2 3; do echo $N; done
或
for N in {1..3}; do echo $N; done
或
for N in {1,2,3}; do echo $N; done
注意:{}中的数字之间不能有空格
第二种:
for ((i = 0; i <= 5; i++))
do
echo "welcome $i times"
done
或
for ((i = 0; i <= 5; i++)); do echo "welcome $i times"; done
1.10.2 while循环
注意:until循环与while正好相反,即:while是条件成立循环执行;until是条件不成立循环执行
while命令根据紧跟其后的命令(command)来判断是否执行while循环,当command执行后的返回值(exit status)为0时,则执行while循环语句块,直到遇到done语句,然后再返回到while命令,判断command的返回值,当得打返回值为非0时,则终止while循环。
第一种
while [ expression ]
do
command
…
done
第二种方式:
while (( expression ))
do
command
…
done
1.11 函数
函数代表着一个或一组命令的集合,表示一个功能模块,常用于模块化编程。
以下是关于函数的一些重要说明:
在shell中,函数必须先定义,再调用
使用return value来获取函数的返回值
函数在当前shell中执行,可以使用脚本中的变量。
函数的格式如下:
函数名()
{
命令1…..
命令2….
return 返回值变量
}
结构:
[ function ] funname [()]
{
action;
[return int;]
}
function start() / function start / start()
注意:
如果函数名后没有(),在函数名和{ 之间,必须要有空格以示区分。
函数返回值,只能通过$? 系统变量获得,可以显示加:return 返回值
如果不加return,将以最后一条命令的运行结果,作为返回值。
return后的内容以字符串的形式写入,但是执行时会自动转成数值型,范围:数值n(0-255)
1.12 脚本调试
1) 编写脚本:test.sh
1 #!/bin/bash 2 3 a=$1 4 set -x 这里是添加的set -x 5 b=3 6 echo "b:"+$b 7 c=$a 8 echo $a
2) 执行 bash -x test.sh
说明:这将执行该脚本并显示所有变量的值。
3) 在shell脚本里添加set -x ,对部分脚本调试
执行 bash test.sh 1
显示: + b=3 + echo b:+3 b:+3 + c=1 + echo 1 1 说明只对set -x以下的脚本进行调试
4) bash -n script 不执行脚本只是检查语法的模式,将返回所有语法错误。如:函数没有正确的闭合
编写test.sh 脚本 #!/bin/bash for N in 1 2 3 do echo $N 这里忘记写done,for没有正确的闭合 function start() { echo "haha" } start
执行 bash -n test.sh
显示:test.sh: line 20: syntax error: unexpected end of file
5) bash –v script 执行并显示脚本内容
1.13 awk介绍
1.13.1 cut命令
cut [选项] 文件名 默认分割符是制表符,一个制表符代表一列
选项:
-f 列号: 提取第几列
-d 分隔符: 按照指定分隔符分割列
eg: cut -f 2 aa.txt 提取第二列
eg: cut -d ":" -f 1,3 /etc/passwd 以:分割,提取第1和第3列
eg: cat /etc/passwd | grep /bin/bash | grep -v root | cut -d ":" -f 1 获取所有可登陆的普通用户用户名
cut的局限性 不能分割不定长度的空格
比如:df -h 不能使用cut分割
df -h | grep sda1 | cut -f 5
1.13.2 awk介绍
一个强大的文本分析工具
把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。
语法:awk ‘条件1{动作1}条件2{动作2}...’文件名
条件(Pattern):
一般使用关系表达式作为条件: > >= <=等
动作(Action):
格式化输出
流程控制语句
eg: df -h | awk '{print $1 "\t" $3}' 显示第一列和第三列
1.13.3 FS内置变量
eg: 输出可登陆用户的用户名和UID
cat /etc/passwd | grep "/bin/bash" | awk 'BEGIN {FS=":"} {print $1 "\t"$3 }'
这里使用FS内置变量指定分隔符为:,而且使用BEGIN保证第一行也操作,因为awk命令会在读取第一行后再执行条件
注意:指定分隔符用-F更简单
eg: cat /etc/passwd | grep "/bin/bash" | awk -F: '{print $1 "\t"$3 }' 效果同上
eg: 判断一下根目录的使用情况
df -h |grep sda1 | awk '{print $5}' | awk -F% '{print $1} $1<80{print "info"}$1>80{print "warning"}'
BEGIN 在所有数据读取之前执行
eg: awk 'BEGIN {printf "first Line \n"} {printf $2 }' aa.txt 在输出之前使用BEGIN输出内容
END 在所有数据执行之后执行
eg: awk 'END {printf "The End \n"} {print $2}' aa.txt 所有命令执行完后,输出一句"The End"
df -h | grep sda2 | awk '{print $5}' | awk -F% '{print $1}'
df -h | grep sda2 | awk '{print $5}' | cut -d"%" -f 1
eg: 获取所有用户信息里的用户名:
cat /etc/passwd | awk -F: '{print $1}'
awk -F: '{print $1}' /etc/passwd
eg: 获取当前机器的ip地址: ifconfig eth0
ifconfig eth0 | grep 'inet addr' | awk -F: '{print $2}' | awk '{print $1}'
1.14 sed介绍
1.14.1 sed命令介绍
sed: stream editor
sed是一个非交互性文本流编辑器。它编辑文件或标准输入导出的文本拷贝。标准输入可能是来自键盘、文件重定向、字符串或变量,或者是一个管道的文本。
注意: sed并不与初始化文件打交道, 它操作的只是一个拷贝,然后所有的改动如果没有重定向到一个文件,将输出到屏幕。
语法:sed [选项]’[动作]’ 文件名
常用选项:
-n 使用安静(silent)模式。显示经过sed特殊处理的数据。
-e 允许多点编辑。
-i 直接修改读取的档案内容,而不是由屏幕输出。
命令 | 功能描述 |
---|---|
a | 新增, a 的后面可以接字符串,在下一行出现 注意:最好动作使用单引号,可以自动换行 |
c | 替换 |
d | 删除 |
i | 插入, i 的后面可以接字符串 |
p | 打印 |
s | 查找并替换,例如 1,20s/old/new/g |
1.14.2 sed命令的使用
eg: sed '2p' sed.txt 显示第二行和所有数据
eg: sed -n '2,3p' sed.txt 只显示第二和第三行
eg: df -h | sed -n '1p' 接收命令结果数据
eg: sed ‘2a bing’ sed.txt 在第二行后面添加数据
eg: sed ‘4i fengjie \ chenchen’ sed.txt 在第4行之前添加两行数据
eg: sed ‘2c this is replace’ sed.txt 替换第二行数据
eg: sed ‘s/it/edu360/g’ sed.txt 把sed.txt文件中的it替换为edu360,并输出
eg: sed -e '1s/1/34/g;3s/yangmi//g' sed.txt 同时进行多个替换
eg: sed –i ‘s/it/edu360/g’ sed.txt 要想真正替换,需要使用-i参数
eg: 使用sed获取机器的ip地址
注意:在对文件进行匹配的时候,^是一个文件的开始 $是一个文件的结束
^.*addr:意思是说从开始到addr全部的内容
ifconfig eth0 | grep 'inet addr'| sed 's/^.*addr://g' | sed 's/ Bcast.*$//g'