awk用法举例

awk文本分割输出工具(按列输出工具)

awk [options] ' PATTERN { action } ' file1, file2, ...

内置变量:

FS:field separator,输入列分隔符(哪个字符分割两个列),默认是空白字符;
RS:Record Separator,输入换行符(哪个字符分割行),默认是换行符;
OFS:Output Field Separator,输出列分隔符;
ORS:Output Row Separator,输出行分隔符; NR:The number of input records,awk所处理的行数(不同文件顺序计数);
FNR:awk处理当前文件时所处理的行数(不同文件各自计数);
NF:Number of field,当前行的字段总数(总列数);

例如现有一个文本文件,名为test.txt,内容为

this is a test mail
this is the second line.

1、输出整段文本

awk '{ print $0 }' test.txt

2、输出文本的第二列和第三列

awk '{ print $2, $3 }' test.txt

结果:

is a
is the

3、指定输出的分隔符为“##”,输出前三列

awk 'BEGIN{OFS="##"}{print $1, $2, $3}' test.txt

结果为:

this##is##a
this##is##the

4、指定输出分隔符“:",输出前两列

awk 'BEGIN{OFS=":"}{print $1, $2}' test.txt

结果:

this:is
this:is

5、输出时插入指定文本,例如插入hello

awk 'BEGIN{OFS=":"}{print $1, "hello", $2}' test.txt

结果:

this:hello:is
this:hello:is

6、直接输出文字

awk 'BEGIN{ print "line one\nline two\nline three" }'

结果:

line one
line two
line three

7、统计每行有多少列

awk '{ print NF }' test.txt

结果:


8、输出文件的最后一列

awk '{ print $NF }' test.txt

结果:

mail
line.

9、输出文件倒数第二列

awk '{ print $(NF-1) }' test.txt

结果:

test
second

10、awk命令中定义变量 -v 变量名="变量值"

awk -v variable="hello world" 'BEGIN{print variable}'
awk 'BEGIN{variable="hello world"; print variable}'

结果:

hello world

11、printf显示输出

printf format, item1, item2, ...

format包括:

%c:显示字符ASCII码
%d,%i:十进制整数
%e,%E:科学计数法
%f:浮点数
%g,%G:科学计数或浮点数
%s:字符串
%u:无符号数
%%:显示%自身

例如:

awk '{printf "%10s\n", $3}' test.txt

结果:

         a
the

12、赋值操作符、算术操作符、字符串操作符

赋值:=  +=  -=  *=  /=  %=  ^=  **=
算术:-x +x x^y x*y x/y x-y x+y x%y
比较:x < y x>=y x!=y x~y(模式匹配)
条件表达式:selector?if-true-exp:if-false-exp
逻辑:&& ||

如,查找/etc/passwd下以字母r开头的用户名

awk -F: '/^r/{print $1}' /etc/passwd
awk 'BEGIN{FS=":"}/^r/{print $1}' /etc/passwd

结果:

root

13、显示uid大于500的用户名(非系统用户)

awk -F: '$3>=500{print $1, $3}' /etc/passwd

结果:

cactiuser
test001
test002

14、显示默认登录脚本为bash的用户(模式匹配)

awk -F: '$7~"bash$"{print $1, $7}' /etc/passwd

结果:

root /bin/bash
mysql /bin/bash
cactiuser /bin/bash
test001 /bin/bash
test002 /bin/bash

15、awk执行前/执行后运行一次,BEGIN/END

例如,加入title

awk 'BEGIN{print "ROW1    ROW2    ROW3"}{printf "%-8s%-8s%-8s\n", $1, $2, $3}' test.txt

结果:

ROW1    ROW2    ROW3
this is a
this is the

在加入结尾信息

 awk 'BEGIN{print "ROW1    ROW2    ROW3"}{printf "%-8s%-8s%-8s\n", $1, $2, $3}END{print "date:--/--/--"}' test.txt

结果:

ROW1    ROW2    ROW3
this is a
this is the
date:--/--/--

16、控制语句(if-else)

例如,判断是root就返回Admin,其他用户就返回Common User

awk -F: '{if ($1=="root") print $1, ": admin"; else print $1, ": Common User"}' /etc/passwd

结果:

root : admin
bin : Common User
daemon : Common User
adm : Common User
lp : Common User

再如,统计一共有多少个uid大于500的用户(非系统用户)

awk -F: -v sum= '{if ($3>=500) sum++}END{print sum}' /etc/passwd

结果为非系统用户个数

17、while循环列

比如,test.txt文件中,打印出所有大于4个字符的列

awk '{i=1; while (i<=NF) { if (length($i)>=4) {print $i}; i++}}' test.txt
awk '{for(i=1;i<NF;i++){ if (length($i)>=4) {print $i} }}' test.txt

结果

this
test
mail
this
second
line.

18、next结束本行处理,进入下一行处理

19、数组

awk数组下标从1开始,并可以是任意字符串。

例如,统计不同登录shell对应的用户数量

awk -F: '{shell[$NF]++}END{for(A in shell) {print A, shell[A]}}' /etc/passwd

结果:

/sbin/shutdown
/bin/bash
/sbin/nologin
/sbin/halt
/bin/sync

再如,统计TCP网络连接中,状态是LISTEN和ESTABLISHED的条目数量

netstat -tan | awk '/^tcp/{STATE[$NF]++}END{for(A in STATE) {print A, STATE[A]}}'

结果:

ESTABLISHED
LISTEN

再如,统计ngiinx日志中ip地址访问次数,并按由多到少排序

 awk '{count[$1]++}; END{ for(ip in count) print ip,": " count[ip]}' /usr/local/nginx/logs/access.log | sort -n -k3 -r

结果类似:

185.130.5.224 :
103.41.53.252 :
120.26.55.211 :
120.26.207.203 :
23.251.63.45 :
45.79.204.72 :
169.229.3.91 :
120.26.227.63 :
121.42.0.35 :
58.96.181.111 :
189.141.160.11 :
123.56.233.103 :
上一篇:Linux一键安装web环境全攻略(阿里云ECS服务器)


下一篇:在Mac上通过PECL安装PHP imagick