shell正则表达式、grep命令和sed命令举例详解

一.正则表达式概述

1.正则表达式定义

1.1 定义

• 使用字符串描述、匹配一系列符合某个规则的字符串

1.2 了解

• 普通字符： 大小写字母、数字、标点符号及一些其它符号
• 元字符： 在正则表达式中具有特殊意义的专用字符

1.3 层次分类

• 基础正则表达式
• 扩展正则表达式
• 编程语言支持的高级正则表达式

1.4 linux三剑客（grep  sed  awk）支持的正则表达式

• shell是不支持正则表达式的（shell支持的是通配符）。shell中的正则表达式只有个别命令支持的，一般常用的是Linux三剑客

2.基础正则表达式的元字符

基础正则表达式是常用的正则表达式部分

2.1 转义字符的运用

2.1.1 将特殊含义的字符转换为普通字符的含义

2.1.2 将普通字符转换为特殊作用的字符

2.1.3 中括号表达式

普通中括号包围的字符组，表示某个单个字符匹配中括号内的任意字符即匹配成功

• x[abc]z ： 可以匹配包含“xaz”、“xbz”、“xcz”的字符串
• 取反表示法： 中括号内开头使用 ^ ,表示只要不是中括号内的字符就匹配   

                x[ ^abc]z ： 可以匹配包含 “xdz”、“xez” 等字符串，但不能匹配包含“xaz”、“xbz”、“xcz”的字符串 

特殊元字符在中括号中匹配

• 想要在中括号中匹配： ^ ，需要将其放在 中括号非开头的位置 ，如：[a^]
• 想要在中括号中匹配： - ，需要将其放在 开头位置或结尾位置 ，如：[abc-]、[-abc]
• 想要在中括号中匹配： ] ，需要将其放在 开头位置 ，如：[]abc]

2.1.4 位置匹配

只匹配字符，不匹配字符

• ^ ： 匹配行首
• $ ： 匹配行尾
• \b   匹配单词边界处的位置（开头和结尾） \bword\b 等价于 \<word\>
• \<   匹配单词开头处的位置
• \>   匹配单词结尾处的位置
• \B   匹配非单词边界处的位置

2.1.5 字符类

2.1.6 量词

\{m\} ： 表示匹配前一个字符或前一个子表达式m次

• \{m，n\} ： （m<n）表示匹配前一个字符或前一个字表达式最少m次，最多n次

• \{m，\} ： 表示匹配前一个字符或前一个子表达式至少m次

• \{，n\} ： 表示匹配前一个字符或前一个字表达式最多n次（匹配0次也算是成功）

• *  表示前一个字符或前一个子表达式匹配0次或多次，等价于：{0，}

• .*   匹配任意长度的任意字符

3.扩展正则表达式的元字符

支持awk和egrep使用，如果grep和sed想要正常使用（grep -E  sed -r）

3.1 扩展常用的量词

• +  表示匹配前一个字符或前一个子表达式1或多次，即至少一次 等价于 {1, }
• ?  表示匹配前一个字符或前一个子表达式0或1次，等价于 {0,1} 等价于 {,1}

3.2 分组捕获和反向引用

使用小括号（）包围一部分正则表达式，这部分正则表达式即成为一个分组整体，也称为一个子表达式。

分组后可以使用 \N 来反向引用对应的分组匹配结果，N是1-9的正整数，\1表示第一个分组表达式的匹配结果，\2表达第二个分组表达式的匹配结果。

注意：反向引用引用的是分组匹配后的结果，不是分组表达式

例如：正则表达式：(abc|def) and \1xyz 可以匹配字符串“abc and abcxyz ” 或“def and defxyz”，但是不能匹配“abc and defxyz” 或 “def and abcxyz”

二.grep 命令

1.命令简介

grep 是一种强大的文本搜索工具，它能使用正则表达式，并把匹配的行打印出来

格式：

grep  [options]  pattern   [file]

options表示：选项;    pattern 表示：匹配的的表达式;   file 表示：文件名

例如：grep  -i  "root" /etc/passwd

2.常用选项

操作：

-m

-i

-n

-c

-o

-q

-A  -B  -C

-e

-w

-E

扩展正则中这些元字符可直接使用： ? 、 + 、 { 、 } 、 | 、 ( 和 ) 。

基础正则中这些元字符前需要加反斜线转义： \? 、 \+ 、 \{ 、 \} 、 \| 、 \( 和 \) 。

grep sed  默认使用基础正则表达式

grep -E 、 sed -r 、 egrep 、 awk 扩展正则表达式

-r

3.操作

① 统计当前主机的连接状态

② 统计当前连接主机数

③ 匹配QQ号

④ 匹配电话号码

⑤  匹配邮箱

⑥ 统计 /etc/fstab 下面有多少单词

三.sed命令

1.关于sed

1.1 简介

sed 是从文件或管道中读取一行，处理一行，输出一行；再读取一行，再处理一行，再输出一行，直到最后一行。每当处理一行时，把当前处理的行存储在临时缓冲区中，称为模式空间（PatternSpace），接着用 sed 命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。一次处理一行的设计模式使得 sed 性能很高，sed 在读取大文件时不会出现卡顿的现象。如果使用 vi 命令打开几十M上百M的文件，明显会出现有卡顿的现象，这是因为 vi 命令打开文件是一次性将文件加载到内存，然后再打开。sed 就避免了这种情况，一行一行的处理，打开速度非常快，执行速度也很快。

1.2 sed 编辑器的工作过程

sed 的工作流程主要包括读取、执行和显示三个过程：

• 读取： sed 从输入流 (文件、管道、标准输入) 中读取一行内容并存储到临时的缓冲区中（又称模式空间，pattern space )。
• 执行： 默认情况下，所有的 sed 命令都在模式空间中顺序地执行，除非指定了行的地址，否则 sed 命令将会在所有的行上依次执行。
• 显示： 发送修改后的内容到输出流。在发送数据后，模式空间将会被清空。在所有的文件内容都被处理完成之前，上述过程将重复执行， 直至所有内容被处理完。

注意：默认情况下所有的 sed 命令都是在模式空间内执行的，因此输入的文件并不会发生任何变化，除非使用 "sed -i" 修改源文件、或使用重定向输出到新的文件中。

1.3 玛玛哈哈

怎么解决 sed 命令处理容量过大，或内容过多而导致执行效率缓慢的问题？

方案一：

使用 split 命令进行文件分割（如果文件是百万行的，那么我们就创建一个单独的目录，将文件分割为一百个一万行的文本），再使用 sed 命令进行处理，除了使用 split 分割，也可以使用一个遍历分割shell脚本进行执行。

方案二：

cat  文件名 | sed  处理    （这个方案只能针对中型的文件文本，如果文本量过大，处理效果不好）

2.sed 命令与选项操作符

1. 格式

sed [option]... 'script;script;...' [input  file...]
     选项         自身脚本语法         支持标准输入管道

2.常用选项

3.操作符

“操作”用于指定文件对操作的动作行为，也就是 sed 的命令。

通常情况下是采用的 “[n1[,n2]]” 操作参数的格式。n1、n2是可选的，代表选择进行操作的行数，如操作需要在5~20行之间进行，则表示为 “5,20 动作行为” 

操作：

显示第二行内容

4.脚本格式

由 ‘地址+命令’ 组成

• ① 不给地址  对全文进行处理
• ② 单地址  

  数字    指定的数字行

  $        最后一行

• ③ 地址范围

x,x    从第x行到第x行     3，6  从第3行到第6行

x,+x   从x行到+x行      3，+4   从3行到第7行

/pat1/,/pat2/     第一个正则表达式和第二个正则表达式之间的行

• ④ 步进  ~

1~2  奇数行

2~2  偶数行

n;打印下一行

操作：

小问题：

如何打印一段时间间的日志

5.搜索替代

s/pattern/string/修饰符 查找替换,支持使用其它分隔符，可以是其它形式：s@@@，s###

替换修饰符：
g 行内全局替换
p 显示替换成功的行
w   /PATH/FILE 将替换成功的行保存至文件中

& 指代之前找到的内容

指代变量

分组替换

sed  -nr  's/正则匹配/\1/p'

还可以变换顺序

操作：

取ip

①

② 

或者

提取版本号

提取0644

6.变量

修改端口

修改网卡名

总结 

到此这篇关于shell正则表达式、grep命令和sed命令举例详解的文章就介绍到这了,更多相关shell正则表达式grep命令和sed命令内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

最新评论