Linux基础-正则表达式整理---------------grep、sed、awk

目录:

   Ⅰ:正则表达式

   Ⅱ:作业

Ⅰ:正则表达式

正则就是用一些具有特殊含义的符号组合到一起(称为正则表达式)来描述字符或者字符串的方法。或者说:正则就是用来描述一类事物的规则。

在linux中,通配符是由shell解释的,而正则表达式则是由命令解释的,三种文本处理工具/命令:grep、sed、awk

正则介绍:^ 以什么开头(同一行)
         $
以什么结尾(同一行)

         . 除了换行符以外的任意单个字符

         * 紧挨的左边的第一个字符出现零个到无穷个

         + 紧挨的左边的第一个字符出现1个到无穷个

? 紧挨的左边的第一个字符出现0次到1次

        .* 所有字符

{n}左边的左边的那一个字符出现n次的

{2,4}左边的那一个字符出现2到4个的(表示范围的),例如:2 3 4

{2,}左边的那一个字符出现2到无穷个的(表示范围的),例如:2 3 4 5..........到无穷

        [] 字符组内的任一字符

        [^] 对字符组内的每个字符取反(不匹配字符组内的每个字符)

       ^[^] 非字符组内的字符开头的行

       [a-z] a到z的所有小写字母   例如:a  b  c.....z

       [A-Z] A到Z的所有大写字母  例如:A  B  C .....  Z

       [a-Z] a到Z的所有小写和大写字母  例如:a A  b  B   ........z  Z

       [0-9] 数字0到9    例如:0 1 2 ....9

       \< 单词头 单词一般以空格或特殊字符做分隔,连续的字符串被当做单词

       \> 单词尾

grep种类:grep      fgrep      pgrep     egrep  

-n  :显示行号

-o  :只显示匹配的内容

-q  :静默模式,没有任何输出,得用$?来判断执行成功没有,即有没有过滤到想要的内容

-l  :如果匹配成功,则只将文件名打印出来,失败则不打印,通常-rl一起用,grep -rl 'root' /etc

-A  :如果匹配成功,则将匹配行及其后n行一起打印出来

-B  :如果匹配成功,则将匹配行及其前n行一起打印出来

-C  :如果匹配成功,则将匹配行及其前后n行一起打印出来

--color

-c  :如果匹配成功,则将匹配到的行数打印出来

-E  :等于egrep,扩展

-i  :忽略大小写

-v  :取反,不匹配

-w:匹配单词

-rl :递归寻找并显示文件名

sed:流编辑器 stream editer,是以行为单位的处理程序
         a 后插

c 替换

i 前插

d 删除

p 打印匹配的行 一般和 -n 参数连用,以屏蔽默认输出

r 从文件中读入

w 写入到文件中作业二:grep作业(正则表达式及字符处理)

! 命令取反

{} 命令组合 命令用分号分隔 {1h;G} 可以理解为 -e 参数的另一种写法

= 打印行号(输入行的号码,而非处理的次数行号)

n 读入下一行到模式空间

N 而是追加下一行到模式空间,再把当前行和下一行同时应用后面的命令

s 字符串替换

awk

      -F 可以定义指定分隔符:(冒号)

-v 定义变量并赋值 也可以借用次方式从shell变量中引入

NF表示当前以分隔符(:)为分隔单位的行有几段内容

NR 表示行号

FNR表示读入行所在文件中的行数

-v 定义变量并赋值

== 判断;>=大于等于;<=小于等于;!=  非;>大于;<小于; ~ 使用正则定位 ; !~正则取反

&&且

||或

      |sort  |uniq        配续去重(排列顺序再去除重读的)

du -sh     统计文件大小

find / -size +30M 找出大于30M的文件
       find / -size +10M -size -30M 找出大于10M小于30M的文件

Ⅱ:作业

作业一:grep作业(正则表达式及字符处理)

目标文件/etc/passwd,使用grep命令或egrep
1.显示出所有含有root的行:

grep 'root' /etc/passwd

2.输出任何包含bash的所有行,还要输出紧接着这行的上下各两行的内容:

grep `bash` -C 2 /etc/passwd

3. 显示出有多少行含有nologin。

grep -c 'nologin' /etc/passwd

4.显示出那些行含有root,并将行号一块输出。

grep -n 'nologin' /etc/passwd

5.显示出文件中

grep -l 'root' /etc/passwd

6.新建用户
abominable
abominate
anomie
atomize
编写正则表达式,将他们匹配出来

egrep 'a.omi(nabl|nat|z|)e' /etc/passwd

7.建四个用户
Alex213sb
Wpq2222b
yH438PIG
egon666
egon

过滤出用户名组成是字母+数字+字母的行

egrep '^[a-Z]+[0-9]+[a-Z]+' /etc/passwd

8.显示出/etc目录下所有包含root的文件名

grep -w 'root' /etc

9. 过滤掉/etc/ssh/sshd_config内所有注释和所有空行

grep -v '^#' /etc/ssh/sshd_config |grep -v '^ *$'

作业二:Sed作业:以/etc/passwd文件为模板

1,删除文件每行的第一个字符。

 sed -r 's/^(.)(.*)/\2/' /etc/passwd

2,删除文件每行的第二个字符。

 sed -r 's/^(.)(.)(.*)/\1\3/' /etc/passwd

3,删除文件每行的最后一个字符。

 sed -r 's/(.*)(.)$/\1/' /etc/passwd

4,删除文件每行的倒数第二个字符。

 sed -r 's/(.*)(.)(.)$/\1\3/' /etc/passwd

5,删除文件每行的第二个单词。

 sed -r 's/^([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)/\1\2\4/' /etc/passwd

6,删除文件每行的倒数第二个单词。

 sed -r 's/([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)$/\1\3\4/' /etc/passwd

7,删除文件每行的最后一个单词。

 sed -r 's/([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)$/\1\2\3/' /etc/passwd

8,交换每行的第一个字符和第二个字符。

 sed -r 's/^(.)(.*)(.)$/\3\2\1/' /etc/passwd

9,交换每行的第一个字符和第二个单词。

 sed -r 's/^(.)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)/\4\2\3\1\5/' /etc/passwd

10,交换每行的第一个单词和最后一个单词。

  sed -r 's/^([a-Z]+)([^a-Z]+)(.*)([^a-Z]+)([a-Z]+)$/\5\2\3\4\1/' /etc/passwd

11,删除一个文件中所有的数字。

  sed -r 's/[0-9]//g' /etc/passwd

12,删除每行开头的所有空格。

  sed -r 's/^ *//g' /etc/passwd

13,用制表符替换文件中出现的所有空格。

  sed -r 's/ /\t/g' /etc/passwd

14,把所有大写字母用括号()括起来。

  sed -r 's/[A-Z]/(&)/g' /etc/passwd

15,打印每行3次。

  sed 'p;p' /etc/passwd

16,只显示每行的第一个单词。

  sed -r 's/^([a-Z]+)([^a-Z]+)(.*)/\1/' /etc/passwd

17,打印每行的第一个单词和第三个单词。

  sed -r 's/^([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)([a-Z]+)([^a-Z]+)/\5\2\3\4\1\6/' /etc/passwd

18,用命令获取格式为 mm/yy/dd 的日期格式,结合管道,将其换成 mm;yy;dd格式

date | sed -r ' s/ /; /g'

作业三:awk文本处理

1)打印uid在0~40范围内的用户名

awk -F: '$3>0 && $3<40{print $1,$3}' passwd

2)打印第5-10行的行号和用户名

awk -F: 'NR>=5 && NR<=10{print NR $1}' passwd

3)打印奇数行

awk '(NR%2){print $0}' passwd

4)打印偶数行

awk '!(NR%2){print $0}' passwd

5)打印字段数大于5的行

awk -F: '(NF>3){print $0}' passwd

6)打印UID不等于GID的用户名

awk -F: '($3 != $4){print $0}' passwd

7)打印没有指定shell的用户

awk -F: '($NF != "/bin/bash"){print $0}' passwd

上一篇:[转]MySQL Explain详解


下一篇:Java之利用Socket获取网站内容