春潮频道.jpg

via 春潮频道

I. 正则表达式介绍

正则表达式.jpeg

正则表达式(regular expression)描述了一种字符串匹配的模式(pattern),可以用来检查一个串是否含有某种子串、将匹配的子串替换或者从某个串中取出符合某个条件的子串等。

构造正则表达式的方法和创建数学表达式的方法一样。也就是用多种元字符与运算符可以将小的表达式结合在一起来创建更大的表达式。正则表达式的组件可以是单个的字符、字符集合、字符范围、字符间的选择或者所有这些组件的任意组合

正则表达式是由普通字符(例如字符 a 到 z)以及特殊字符(称为"元字符")组成的文字模式。模式描述在搜索文本时要匹配的一个或多个字符串。正则表达式作为一个模板,将某个字符模式与所搜索的字符串进行匹配。

via 正则表达式 - 语法

II. 为什么男孩子应该学习正则表达式

基于现实场景的应用需要;文本的复杂处理;正则表达式是一种强大而灵活的文本处理工具,提供了一种紧凑的、动态的方式,能够以一种完全通用的方式来解决各种字符串处理(例如:验证、查找、替换等)问题;大部分语言、数据库都支持正则表达式

博主最开始学习正则表达式是因为博客经常被CC攻击(压测),需要从 nginx 的日志里找到异常的请求及其对应IP;所以,你可以将正则表达式理解为“用特定的字符(元字符/字符转义/分组等)来表示相应的匹配条件”,正则表达式一般是面向文本搜索、匹配、替换;如果你使用 Quantumult X ,则很有可能会接触到正则表达式;

表达式即条件

字符是计算机软件处理文字时最基本的单位,可能是字母,数字,标点符号,空格,换行符,汉字等等字符串是0个或更多个字符的序列。文本也就是文字,字符串。说某个字符串匹配某个正则表达式,通常是指这个字符串里有一部分(或几部分分别)能满足表达式给出的条件

在编写处理字符串的程序或网页时,经常会有查找符合某些复杂规则的字符串的需要。正则表达式就是用于描述这些规则的工具。换句话说,正则表达式就是记录文本规则的代码。

很可能你使用过Windows/Dos下用于文件查找的通配符(wildcard),也就是*和?。如果你想查找某个目录下的所有的Word文档的话,你会搜索.doc。在这里,会被解释成任意的字符串。和通配符类似,正则表达式也是用来进行文本匹配的工具,只不过比起通配符,它能更精确地描述你的需求——当然,代价就是更复杂——比如你可以编写一个正则表达式,用来查找所有以0开头,后面跟着2-3个数字,然后是一个连字号“-”,最后是7或8位数字的字符串(像010-12345678或0376-7654321)。

表达式条件(规则)的字符表达;

III. 正则表达式作用图示(必看)

文科生大多会有这样的疑问,w是w我懂,但\w是什么意思?{0,10} 又是什么意思?知其然知其所以然,这些字符的组合并非无中生有,都有其说明;

正则表达式.png

理解这一点就像理解 E=mc²一样简单(不是),该公式表示一个物体的能量等于物体的质量乘以光速的平方。英文看不懂,总能看懂中文注释吧?从没学过英语字母表的人,看到 hello word! 也会表示难以理解,即便其已听过无数次,在不同的场合。

这个时候就是考验学习能力的时候,学英文最开始是要学什么?26个字母。学习正则表达式,就必要了解其表达式中各个字符,字母、数字、括号(圆括号()、中括号[]、大括号{})、星号*、问号?、感叹号!、$、^、|,等等的单个字符或其组合的定义;如无特别说明,均为半角符号。

示例

正则表达式 描述
hello 匹配 {hello}
gray|grey 匹配 {gray, grey}
gr(a|e)y 匹配 {gray, grey}
gr[ae]y 匹配 {gray, grey}
b[aeiou]bble 匹配 {babble, bebble, bibble, bobble, bubble}
[b-chm-pP]at|ot 匹配 {bat, cat, hat, mat, nat, oat, pat, Pat, ot}
colou?r 匹配 {color, colour}
rege(x(es)?|xps?) 匹配 {regex, regexes, regexp, regexps}
go*gle 匹配 {ggle, gogle, google, gooogle, goooogle, ...}
go+gle 匹配 {gogle, google, gooogle, goooogle, ...}
g(oog)+le 匹配 {google, googoogle, googoogoogle, googoogoogoogle, ...}
z{3} 匹配 {zzz}
z{3,6} 匹配 {zzz, zzzz, zzzzz, zzzzzz}
z{3,} 匹配 {zzz, zzzz, zzzzz, ...}
[Bb]rainf\*\*k 匹配 {Brainfk, brainfk}
\d 匹配 {0,1,2,3,4,5,6,7,8,9}
1\d{10} 匹配 11 个数字,以 1 开头
[2-9]|[12]\d|3[0-6] 匹配 2 到 36 范围内的整数
Hello\nworld 匹配 Hello 后跟换行符,后跟 world
\d+(\.\d\d)? 包含一个正整数或包含两位小数位的浮点数。
[^*@#] 排除 *、@ 、# 三个特色符号
//[^\r\n]*[\r\n] 匹配 // 开头的注释
^dog 匹配以 "dog" 开始
dog$ 匹配以 "dog" 结尾
^dog$ is exactly "dog"

Via 正则表达式 - 示例

IV. 正则表达式在线测试工具及练习示例(简单入门)

在实践中取得快速进步;

正则表达式在线测试工具

https://tool.oschina.net/regex/

正则表达式在线测试工具网页截图

正则表达式练习

示例:将下面文本串放入待匹配文本

https://www.google.com/s?q=bing
https://www.google.com/search?q=bing
https://www.google.com/search?q=google
https://www.bing.com/s?q=google
https://www.bing.com/search?q=google
https://www.bing.com/search?q=google
https://www.sogou.com/search?q=bing
https://www.yahoo.com/search?q=sogou
https://hk.yahoo.cn/search?q=bing
https://hk.duckgogo.cn/search?q=yandex

正则表达式练习1

注意,在上面10条链接中,均已 https:// 开头;如何匹配所有以 https:// 开头的链接呢?

https?:\/\/
https://

以上两条表达式都可以匹配,反斜杠 \ 的作用是用来转义元字符的, 斜杆 / 并不属于元字符,当然这样用也没什么事;

正则表达式练习2

在上面10条链接中,当我们仅需要匹配所有属于谷歌的链接时:

https?:\/\/www\.google\.com\/.*

正则表达式练习3

当我们不仅需要匹配包含谷歌域名的链接且在该域名后包含 bing 时:

https?:\/\/www\.google\.com\/.*?bing

正则表达式练习4

当我们不仅需要匹配包含谷歌域名的链接且在该域名后不包含 bing 时:

https?:\/\/www\.google\.com\/(?!(.*(bing))).*

正则表达式练习5

反之,当我们不仅需要包含谷歌域名的链接且在该域名后不包含 google 时:

https?:\/\/www\.google\.com\/(?!(.*(google))).*

正则表达式练习6

匹配的链接包含谷歌跟bing域名的所有链接

https?:\/\/www\.(google|bing)\.com\/.*

正则表达式练习7

匹配的链接包含谷歌跟bing的域名,但域名后不包含bing

https?:\/\/www\.(google|bing)\.com\/(?!(.*(bing))).*

正则表达式练习8

匹配的链接包含谷歌跟bing的域名,且结尾为 google:

https?:\/\/www\.(google|bing)\.com\/.*?google$

正则表达式练习9

当我们需要匹配不包含谷歌域名,但包含所有其他域名的链接时:

https?:\/\/www\.(?!(google)).*

正则表达式练习10

当我们需要匹配所有域名的链接,链接包含域名但不包含 google 时

https?:\/\/((\w*-{0,1})*?\.)*(\w*-{0,1})*\/(?!(.*bing)).*

域名需符合:域名中的标号都由英文字母和数字组成,每一个标号不超过63个字符,也不区分大小写字母。标号中除连字符(-)外不能使用其他的标点符号。级别最低的域名写在最左边,而级别最高的域名写在最右边。由多个标号组成的完整域名总共不超过255个字符。

正则表达式练习11

当我们什么链接都想要匹配时:

.*

需要注意的是,如果你们在 在线正则表达式测试 做测试时,应该把正则表达式中的 ^ 符号去掉(在其他时实践中,如在写QuantumultX/Surge等代理软件中的正则表达式则应该加回^。当然,不加也没关系。),因为表达式在线测试会把我们的例子中的多行字符串当做1行字符串处理,当为1行字符串时,即代表它只有一个头一个尾;在 Quantumult X/Surge 中,正则表达式也只是一个一个的去匹配请求;

^ 匹配输入字符串的开始位置,除非在方括号表达式中使用,当该符号在方括号表达式中使用时,表示不接受该方括号表达式中的字符集合。要匹配 ^ 字符本身,请使用 \^。

正则表达式分组与替换练习

正则表达式在线测试-分组与替换

刚刚我们做的练习只是匹配部分,正则中更有趣的实践是分组/替换。而分组呢,会使用到括号,在上面的练习中我们使用大量的括号(),注意,是半角。

先分组,再替换。

以下是待匹配文本

https://google.cn/
https://g.cn/

分组替换练习1

将上述替换成 https://www.google.com/

正则表达式

https://(g|google).cn/

替换文本

https://www.google.com/

分组替换练习2

只将 .cn 替换成 .com

正则表达式,这里一共有3组括号;其匹配结果分别对应 $1 $2 $3;

(https://)(g|google)(.cn)/

替换文本

$1$2.com

我们将保留 $1$2,将$2 替换成 .com;

其他示例

手机号(11位数)的正则表达式(举例),以1开头,第二位可以分别是345678,第三位数开始可以是0-9之间任意数字,第三位数开始算到第十一位数一共有9位数,它的正则表达式为;

^1[34578][0-9]{9}$

正则表达式.png

其中符号 ^$ 为元字符,它有特殊的定义,[]用以分组,{}用以表示重复,在这里则表示该分组[0-9]重复的次数为9次;

能看出什么窍门吗?

via 正则表达式学习笔记

V. 必要的知识(元字符/定位符/限定符/特别字符)

构造正则表达式的方法和创建数学表达式的方法一样。也就是用多种元字符与运算符可以将小的表达式结合在一起来创建更大的表达式。正则表达式的组件可以是单个的字符、字符集合、字符范围、字符间的选择或者所有这些组件的任意组合

正则表达式是由普通字符(例如字符 a 到 z)以及特殊字符(称为"元字符")组成的文字模式。模式描述在搜索文本时要匹配的一个或多个字符串。正则表达式作为一个模板,将某个字符模式与所搜索的字符串进行匹配。

元字符

字符 描述
\ 将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如,'n' 匹配字符 "n"。'\n' 匹配一个换行符。序列 '\' 匹配 "\" 而 "(" 则匹配 "("。
^ 匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 '\n' 或 '\r' 之后的位置。
$ 匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 '\n' 或 '\r' 之前的位置。
* 匹配前面的子表达式零次或多次。例如,zo 能匹配 "z" 以及 "zoo"。 等价于{0,}。
+ 匹配前面的子表达式一次或多次。例如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等价于 {1,}。
? 匹配前面的子表达式零次或一次。例如,"do(es)?" 可以匹配 "do" 或 "does" 。? 等价于 {0,1}。
{n} n 是一个非负整数。匹配确定的 n 次。例如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food" 中的两个 o。
{n,} n 是一个非负整数。至少匹配n 次。例如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。
{n,m} m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。例如,"o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。
? 当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串 "oooo",'o+?' 将匹配单个 "o",而 'o+' 将匹配所有 'o'。
. 匹配除换行符(\n、\r)之外的任何单个字符。要匹配包括 '\n' 在内的任何字符,请使用像"(.|\n)"的模式。
(pattern) 匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在JScript 中则使用 $0…$9 属性。要匹配圆括号字符,请使用 '(' 或 ')'。
(?:pattern) 匹配 pattern 但不获取匹配结果,也就是说这是一个非获取匹配,不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如, 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。
(?=pattern) 正向肯定预查(look ahead positive assert),在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,"Windows(?=95|98|NT|2000)"能匹配"Windows2000"中的"Windows",但不能匹配"Windows3.1"中的"Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。
(?!pattern) 正向否定预查(negative assert),在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如"Windows(?!95|98|NT|2000)"能匹配"Windows3.1"中的"Windows",但不能匹配"Windows2000"中的"Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。
(?<=pattern) 反向(look behind)肯定预查,与正向肯定预查类似,只是方向相反。例如,"(?<=95|98|NT|2000)Windows"能匹配"2000Windows"中的"Windows",但不能匹配"3.1Windows"中的"Windows"。
(?<!pattern) 反向否定预查,与正向否定预查类似,只是方向相反。例如"(?<!95|98|NT|2000)Windows"能匹配"3.1Windows"中的"Windows",但不能匹配"2000Windows"中的"Windows"。
x|y 匹配 x 或 y。例如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。
[xyz] 字符集合。匹配所包含的任意一个字符。例如, '[abc]' 可以匹配 "plain" 中的 'a'。
[^xyz] 负值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 "plain" 中的'p'、'l'、'i'、'n'。
[a-z] 字符范围。匹配指定范围内的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。
[^a-z] 负值字符范围。匹配任何不在指定范围内的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。
\b 匹配一个单词边界,也就是指单词和空格间的位置。例如, 'er\b' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。
\B 匹配非单词边界。'er\B' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。
\cx 匹配由 x 指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。
\d 匹配一个数字字符。等价于 [0-9]。
\D 匹配一个非数字字符。等价于 [^0-9]。
\f 匹配一个换页符。等价于 \x0c 和 \cL。
\n 匹配一个换行符。等价于 \x0a 和 \cJ。
\r 匹配一个回车符。等价于 \x0d 和 \cM。
\s 匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。
\S 匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t 匹配一个制表符。等价于 \x09 和 \cI。
\v 匹配一个垂直制表符。等价于 \x0b 和 \cK。
\w 匹配字母、数字、下划线。等价于'[A-Za-z0-9_]'。
\W 匹配非字母、数字、下划线。等价于 '[^A-Za-z0-9_]'。
\xn 匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如,'\x41' 匹配 "A"。'\x041' 则等价于 '\x04' & "1"。正则表达式中可以使用 ASCII 编码。
\num 匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。例如,'(.)\1' 匹配两个连续的相同字符。
\n 标识一个八进制转义值或一个向后引用。如果 \n 之前至少 n 个获取的子表达式,则 n 为向后引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。
\nm 标识一个八进制转义值或一个向后引用。如果 \nm 之前至少有 nm 个获得子表达式,则 nm 为向后引用。如果 \nm 之前至少有 n 个获取,则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 \nm 将匹配八进制转义值 nm。
\nml 如果 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。
\un 匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如, \u00A9 匹配版权符号 (?)。

定位符

定位符使您能够将正则表达式固定到行首或行尾。它们还使您能够创建这样的正则表达式,这些正则表达式出现在一个单词内、在一个单词的开头或者一个单词的结尾。

定位符用来描述字符串或单词的边界,^$ 分别指字符串的开始与结束,\b 描述单词的前或后边界,\B 表示非单词边界。

正则表达式的定位符有:

字符 描述
^ 匹配输入字符串开始的位置。如果设置了 RegExp 对象的 Multiline 属性,^ 还会与 \n 或 \r 之后的位置匹配。
$ 匹配输入字符串结尾的位置。如果设置了 RegExp 对象的 Multiline 属性,$ 还会与 \n 或 \r 之前的位置匹配。
\b 匹配一个单词边界,即字与空格间的位置。
\B 非单词边界匹配。

限定符

限定符用来指定正则表达式的一个给定组件必须要出现多少次才能满足匹配。有 *** 或 +?{n}{n,}{n,m}** 共6种。

字符 描述
* 匹配前面的子表达式零次或多次。例如,zo* 能匹配 "z" 以及 "zoo"。*** 等价于 {0,}**。
+ 匹配前面的子表达式一次或多次。例如,zo+ 能匹配 "zo" 以及 "zoo",但不能匹配 "z"+ 等价于 {1,}
? 匹配前面的子表达式零次或一次。例如,do(es)? 可以匹配 "do""does""doxy" 中的 "do"? 等价于 {0,1}
{n} n 是一个非负整数。匹配确定的 n 次。例如,o{2} 不能匹配 "Bob" 中的 o,但是能匹配 "food" 中的两个 o
{n,} n 是一个非负整数。至少匹配n 次。例如,o{2,} 不能匹配 "Bob" 中的 o,但能匹配 "foooood" 中的所有 oo{1,} 等价于 o+o{0,} 则等价于 o*
{n,m} m 和 n 均为非负整数,其中 n <= m。最少匹配 n 次且最多匹配 m 次。例如,o{1,3} 将匹配 "fooooood" 中的前三个 oo{0,1} 等价于 o?。请注意在逗号和两个数之间不能有空格。

特别字符

正则表达式的特别字符有:

特别字符 描述
$ 匹配输入字符串的结尾位置。如果设置了 RegExp 对象的 Multiline 属性,则 $ 也匹配 '\n' 或 '\r'。要匹配 $ 字符本身,请使用 \$。
( ) 标记一个子表达式的开始和结束位置。子表达式可以获取供以后使用。要匹配这些字符,请使用 ( 和 )。
* 匹配前面的子表达式零次或多次。要匹配 字符,请使用 \
+ 匹配前面的子表达式一次或多次。要匹配 + 字符,请使用 +。
. 匹配除换行符 \n 之外的任何单字符。要匹配 . ,请使用 . 。
[ 标记一个中括号表达式的开始。要匹配 [,请使用 [。
? 匹配前面的子表达式零次或一次,或指明一个非贪婪限定符。要匹配 ? 字符,请使用 \?。
\ 将下一个字符标记为或特殊字符、或原义字符、或向后引用、或八进制转义符。例如, 'n' 匹配字符 'n'。'\n' 匹配换行符。序列 '\' 匹配 "\",而 '(' 则匹配 "("。
^ 匹配输入字符串的开始位置,除非在方括号表达式中使用,当该符号在方括号表达式中使用时,表示不接受该方括号表达式中的字符集合。要匹配 ^ 字符本身,请使用 \^。
{ 标记限定符表达式的开始。要匹配 {,请使用 {。
| 指明两项之间的一个选择。要匹配 |,请使用 |。

正则表达式从左到右进行计算,并遵循优先级顺序,这与算术表达式非常类似。

Via 正则表达式 - 介绍

VI. 正则表达式的应用(Surge/QuantumultX)

VII. 支持正则表达式的 Linux 命令行工具

在使用grep、awk和sed命令时,需要使用正则表达式。

grep:grep(global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。

grep命令_Linux grep 命令用法详解:强大的文本搜索工具.pdf
awk命令_Linux awk 命令用法详解:文本和数据进行处理的编程语言.pdf
sed命令_Linux sed 命令用法详解:功能强大的流式文本编辑器.pdf

via Linux命令大全

VIII. 其他重要的学习资料(从入门到高阶)

带着问题学习

当我们想从电话录里面搜索一个号码会怎样做?直接输入想搜索的号码即可;假设现在我们现在只记得这个号码的部分,以137开头,89结尾的电话号码,这在正则表达式里要怎么表达?

^137\d{6}89$

有用且系统的学习资料

1.正则表达式30分钟入门教程
2.正则表达式30分钟入门教程;(这个示例多)

从零基础到高阶

最后修改:2023 年 10 月 22 日 02 : 52 PM