正则表达式语法与应用

时间:2021-10-07 16:23:19
基本含义
by Jim Hollenhorst  译 寒带鱼

  你是否曾经想过正则表达式是什么,怎样能够快速得到对它的一个基本的认识?我的目的就是在30分钟内带你入门并且对正则表达式有一个基本的理解。事实是正则表达式并没有它看起来那么复杂。学习它最好的办法就是开始写正则表达式并且不断实践。在最初的30分钟之后,你就应该知道一些基本的结构并且有能力在你的程序或者web页面中设计和使用正则表达式了。对那些想要深入研究的人,现在已经有很多非常好的可用资源来让你更深入的学习。

  到底什么是正则表达式?

  我相信你对模式匹配的“计算机通配符”字符应该比较熟悉了。例如,如果你想要在一个Windows文件夹中找到所有Mircosoft Word文件,你要搜索“*.doc”,因为你知道星号会被解释为一个通配符,它匹配所有序列的字符串。正则表达式就是这种功能的一个更加细节的扩展。

  在写处理文本的程序或者web页面时,定位匹配复杂模式的字符串是很常见的。正则表达式就是用来描述这类模式的。这样,一个正则表达式就是一个模式的缩减代码。例如,模式“\w+”是表达“匹配任何包含字母数字字符的非空字符串”的精确方法。.NET框架提供了一个功能强大类库,它使得在你的应用程序中包含正则表达式更加容易。使用这个库,你可以轻易地搜索和替换文本,解码复杂的标题,解析语言,或者验证文本。

  学习正则表达式的神秘的语法的一个好办法是用例子作为开始学习的对象,然后实践创建自己的正则表达式。

  让我们开始吧!


  一些简单的例子
 

  搜索Elvis

  假设你要花费你所有的空余时间来扫描文档来寻找Elvis仍然活着的证据。你可以使用下面的正则表达式来搜索:

  1. elvis -- Find elvis

  这是搜索精确字符序列的一个完全合法的正则表达式。在.NET中,你可以轻松的设置选项来忽略字符的各种情况,所以这个表达式将会匹配“Elivs”,“ELVIS”,或者“eLvIs”。不幸的是,它也将匹配单词“pelvis”的后五个字母。我们可以改进这个表达式如下:

  2. \belvis\b -- Find elvis as a whole word

  现在事情变得更加有趣了。“\b”是一个特殊代码,它表示“匹配任何单词的开头或结尾的位置”。这个表达式将只匹配完整的拼写为“elvis”的单词,无论是小写的还是大写的情况。

  假设你想要找到所有这样的行,在其中单词“elvis”后面都跟着单词“alive”。句点或者点“.”是一个特殊代码匹配除了换行符之外的任何字符。星号“*”表示重复前面的部分有必要的次数以保证能够有一个匹配。这样,“.*”表示“匹配除了换行符之外的任意数目的字符”。现在建立一个表示“搜索在同一行内后面跟着单词‘alive’的单词‘elvis’”的表达式就是一件简单的事了。

  3. \belvis\b.*\balive\b -- Find text with "elvis" followed by "alive"

  仅仅使用几个特殊字符我们就开始创建功能强大的正则表达式了,而且它们已经开始变得难以被我们人类理解了。

  让我们看看另一个例子。

  确定电话号码的合法性

  假设你的web页面收集顾客的7位电话号码,而且你希望验证输入的电话号码是正确的格式,“xxx-xxxx”,这里每个“x”是一个数字。下面的表达式将搜索整个文本寻找这样的一个字符串:

  4. \b\d\d\d-\d\d\d\d -- Find seven-digit phone number
每个“\d”表示“匹配任何单个数字”。“-”没有特殊的意义并且按照字面解释,匹配一个连字符。要避免繁琐的重复,我们可以使用一个含有相同含义的速记符:

  5. \b\d{3}-\d{4} -- Find seven-digit phone number a better way
“\d”后面的“{3}”表示“重复前面的字符三次”。

  .NET正则表达式的基础

  让我们探索一下.NET中正则表达式的基础

  特殊字符

  你应该知道几个有特殊意义的字符。你已经见过了“\b”,“.”,“*”,和“\d”。要匹配任何空白字符,像空格,制表符和换行符,使用“\s”。相似地,“\w”匹配任何字母数字字符。

  让我们尝试更多的例子:

  6. \ba\w*\b -- Find words that start with the letter a

  这个搜索一个单词的开头(\b),然后是一个字母“a”,接着是任意次数重复的字母数字字符(\w*),最后是一个单词的结尾(\b)。

  7. \d+ -- Find repeated strings of digits

  这里,“+”与“*”是相似的,除了它需要至少一次重复。

  8. \b\w{6}\b -- Find six letter words

  在Expresso中测试这几个表达式,然后实践创建你自己的表达式。下面是一个说明有特殊含义的字符的表格:

.  匹配除换行符外的任何字符 \w  匹配任何字母数字字符 \s 匹配任何空白字符 \d 匹配任何数字 \b 匹配一个单词的开始或结尾 ^ 匹配字符串的开始 $ 匹配字字符串的结尾

表1 正则表达式的常用特殊字符

  开始阶段

  特殊字符“^”和“$”被用来搜索那些必须以一些文本开头和(或)以一些文本结尾的文本。特别是在验证输入时特别有用,在这些验证中,输入的整个文本必须要匹配一个模式。例如,要验证一个7位电话号码,你可能要用:

  9. ^\d{3}-\d{4}$ -- Validate a seven-digit phone number

  这是和第5个例子一样的,但是强迫它符合整个文本字符串,匹配文本的头尾之外没有其他字符。通过在.NET中设置“Multiline”选项,“^”和“$”改变他们的意义为匹配一行文本的起点和结束,而不是整个正文字符串。Expresso的例子使用这个选项。

  换码字符

  当你想要匹配这些特殊字符中的一个时会产生一个错误,像“^”或者“$”。使用反斜线符号来去掉它们的特殊意义。这样,“\^”,“\.”,和“\\”,分别匹配文本字符“^”,“.”,和“\”。

  重复

  你已经见过了“{3}”和“*”可以指定一个单独字符的重复次数。稍后,你会看到相同的语法怎样用来重复整个子表达式。此外还有其他几种方法来指定一个重复,如下表所示:

* 重复任意次数 + 重复一次或多次 ? 重复一次或多次 {n} 重复n次 {n,m} 重复最少n次,最多m次 {n,} 重复最少n次

表2 常用量词

  让我们试试几个例子:

10. \b\w{5,6}\b -- Find all five and six letter words

11. \b\d{3}\s\d{3}-\d{4} -- Find ten digit phone numbers

12. \d{3}-\d{2}-\d{4} -- Social security number

13. ^\w* -- The first word in the line or in the text

  在设置和不设置“Multiline”选项的时试试最后一个例子,它改变了“^”的含义。

  字符集合

  搜索字母数字字符,数字,和空白字符是容易的,但如果你需要搜索一个字符集合中的任意字符时怎么办?这可以通过在方括号中列出想要的字符来轻松的解决。这样,“[aeiou]”就能匹配任意韵母,而“[.?!]”就匹配句子末尾的标点。在这个例子中,注意“.”和“?”在方括号中都失去了他们的特殊意义而被解释为文本含义。我们也可以指定一个范围的字符,所以“[a-z0-9]”表示“匹配任何小写字母或者任何数字”。

  让我们试试一个搜索电话号码的更加复杂的表达式:

14. \(?\d{3}[) ]\s?\d{3}[- ]\d{4} A ten digit phone number

  这个表达式将会搜索几种格式的电话号码,像“(800)325-3535”或者“650 555 1212”。“\(?”搜索0个或1个左圆括号,“[)]”搜索一个右圆括号或者一个空格。“\s?”搜索0个或一个空白字符。不幸的是,它也会找到像“650)555-1212”这样括号没有去掉的情况。在下面,你会看到怎样用可选项解决这个问题。

  否定

  有些时候我们需要搜索一个字符,它不是一个很容易定义的字符集合的成员。下面的表格说明了这种字符怎样指定:

\W 匹配任何非字母数字字符 \S 匹配任何非空白字符 \D 匹配任何非数字字符 \B 匹配非单词开始或结束的位置 [^x] 匹配任何非x字符 [^aeiou] 匹配任何不在aeiou中的字符            表3 怎样指定你不想要东西

15. \S+ -- All strings that do not contain whitespace characters

  后面,我们会看到怎样使用“lookahead”和“lookbehind”来搜索缺少更加复杂的模式的情况。

  可选项

  要从几个可选项中选择,允许符合任何一个的匹配,使用竖杠“|”来分隔可选项。例如,邮政编码有两种,一个是5位的,另一个是9位的加一个连字符。我们可以使用下面的表达式找到任何一种:

16. \b\d{5}-\d{4}\b|\b\d{5}\b -- Five and nine digit Zip Codes

  当使用可选项时,顺序是很重要的因为匹配算法将试图先匹配最左面的选择。如果这个例子中的顺序颠倒过来,表达式将只能找到5位的邮政编码,而不会找到9位的。我们可以使用可选项来改进十位电话号码的表达式,允许包含区码无论是通过空白字符还是连字符划分的:

17. (\(\d{3}\)|\d{3})\s?\d{3}[- ]\d{4} -- Ten digit phone numbers, a better way

  分组

  圆括号可以用来划分一个子表达式来允许重复或者其他特殊的处理,例如:

18. (\d{1,3}\.){3}\d{1,3} -- A simple IP address finder

  表达式的第一部分搜索后面跟着一个“\.”的一个一位到三位的数字。这被放在圆括号中并且通过使用修饰符“{3}”被重复三次,后面跟着与之前一样的表达式而不带后缀部分。

  不幸的是,这个例子允许IP地址中被分隔的部分是任意的一位,两位,或三位数字,尽管一个合法的IP地址不能有大于255的数字。要是能够算术比较一个获取的数字N使N<256就好了,但是只用正则表达式是不能够办到的。下一个例子使用模式匹配测试了基于第一位数字的多种可选项来保证限制数字的取值范围。这表明一个表达式会变得很笨重,尽管搜索模式的描述是简单的。

19. ((2[0-4]\d|25[0-5]|[01]?\d\d?)\.){3}(2[0-4]\d|25[0-5]|[01]?\d\d?) -- IP finder

  一个“回引”用来搜索前面被一个分组捕获的已匹配文本的再现。例如,“\1”表示“匹配分组1中已捕获到的文本”。下面是一个例子:

20. \b(\w+)\b\s*\1\b -- Find repeated words

  它的运行过程是先捕获一个分组1中“(\w+)”表示的至少包含一个字母数字字符的字符串,但仅当它是一个单词的开始或结束字符时才行。然后它搜索任意数量的空白字符“\s*”后跟以被捕获的文本“\1”结尾的单词。

  在上面的例子中,想要替换分组“(\w+)”这种写法,我们可以把它写成“(?<Word>\w+)”来给这个分组命名为“Word”。一个对这个分组的回引可以写成“\k<Word>”。试试下面的例子:

21. \b(?<Word>\w+)\b\s*\k<Word>\b -- Capture repeated word in a named group

  通过使用圆括号,有很多可用的特殊用途的语法元素。一些最常用的归纳如下面这张表格:

捕获 (exp) 匹配exp并且在一个自动计数的分组中捕获它 (?<name>exp) 匹配exp并且在一个命名的分组中捕获它
(?:exp) 匹配exp并且不捕获它 察看 (?=exp) 匹配任何后缀exp之前的位置 (?<=exp) 匹配任何前缀exp之后的位置 (?!exp) 匹配任何未找到的后缀exp之后的位置 (?<!exp) 匹配任何未找到的前缀exp之前的位置 评论 (?#comment) 评论

表4 常用分组结构

  前两个我们已经说过了。第三个“(?:exp)”不会改变匹配行为,它只是不像前两个那样捕获已命名的或者计数的分组。

  确定察看(Positive Lookaround)

  下面四个是所谓的前向或后向断言。它们从当前的匹配向前或向后寻找需要的东西而不在匹配中包含它们。这些表达式匹配一个类似于“^”或“\b”的位置而不匹配任何文本,理解这个是很重要的。由于这个原因,他们也被称为“零宽度断言”。最好用例子来解释它们:

  “(?=exp)”是“零宽度确定前向断言”。它匹配一个文本中在给定后缀之前的位置,但不在匹配中包含这个后缀:

22. \b\w+(?=ing\b) -- The beginning of words ending with "ing"

  “(?<=exp)”是“零宽度确定后向断言”。它匹配在给定前缀后面的位置,但不在匹配中包含这个前缀:

23. (?<=\bre)\w+\b -- The end of words starting with "re"

  下面这个例子可以用来重复向三位数为一组的数字中插入逗号的例子:

24. (?<=\d)\d{3}\b -- Three digits at the end of a word, preceded by a digit

  下面是一个同时搜索前缀和后缀的例子:

25. (?<=\s)\w+(?=\s) -- Alphanumeric strings bounded by whitespace

  否定察看(Negative Lookaround)

  之前,我说明了怎样搜索一个不是特定字符或一个字符集合的成员的字符。那么如果我们想要简单的验证一个字符没有出现,但是不想匹配任何东西怎么办?例如,如果我们想要搜索其中“q”不是后跟着“u”的单词怎么办?我们可以尝试:

26. \b\w*q[^u]\w*\b -- Words with "q" followed by NOT "u"

  运行例子你就会看到如果“q”是一个单词的最后一个字母就不会匹配,比如“Iraq”。这是因为“[^q]”总是匹配一个字符。如果“q”是单词的最后一个字符,它会匹配后面跟着的空白字符,所以这个例子中表达式结束时匹配两个完整的单词。否定察看可以解决这个问题,因为它匹配一个位置而不消耗任何文本。与确定察看一样,它也可以用来匹配一个任意复杂的子表达式的位置,而不仅仅是一个字符。我们现在可以做得更好:

27. \b\w*q(?!u)\w*\b -- Search for words with "q" not followed by "u"

  我们使用“零宽度否定前向断言”,“(?!exp)”,只有当后缀“exp”没有出现时它才成功。下面是另一个例子:

28. \d{3}(?!\d) -- Three digits not followed by another digit

  相似地,我们可以使用“(?<!exp)”,“零宽度否定后向断言”,来搜索文本中的一个位置,这里前缀“exp”没有出现:

29. (?<![a-z ])\w{7} -- Strings of 7 alphanumerics not preceded by a letter or space

  这里是另一个使用后向的例子:

30. (?<=<(\w+)>).*(?=<\/\1>) -- Text between HTML tags

  这个使用后向搜索一个HTML标记,而使用前向搜索对应的结束标记,这样,就能获得中间的文本而不包括两个标记。

  评论

  标点的另一个用法是使用“(?#comment)”语法包含评论。一个更好的办法是设置“Ignore Pattern Whitespace”选项,它允许空白字符插入表达式然后当使用表达式时忽略它。设置了这个选项之后,任何文本每行末尾在数字符号“#”后面的东西都被忽略。例如,我们可以格式化先前的例子如下:

31. Text between HTML tags, with comments

(?<=    # Search for a prefix, but exclude it
  <(\w+)> # Match a tag of alphanumerics within angle brackets
)          # End the prefix

.*        # Match any text

(?=     # Search for a suffix, but exclude it
  <\/\1>  # Match the previously captured tag preceded by "/"
)         # End the suffix

  贪婪与懒惰

  当一个正则表达式有一个可以接受一个重复次数范围的量词(像“.*”),正常的行为是匹配尽可能多的字符。考虑下面的正则表达式:

32. a.*b -- The longest string starting with a and ending with b

  如果这被用来搜索字符串“aabab”,它会匹配整个字符串“aabab”。这被称为“贪婪”匹配。有些时候,我们更喜欢“懒惰”匹配,其中一个匹配使用发现的最小数目的重复。表2中所有的量词可以增加一个问号“?”来转换到“懒惰”量词。这样,“*?”的意思就是“匹配任何数目的匹配,但是使用达到一个成功匹配的最小数目的重复”。现在让我们试试懒惰版本的例子(32):

33. a.*?b -- The shortest string starting with a and ending with b

  如果我们把这个应用到相同的字符串“aabab”,它会先匹配“aab”然后匹配“ab”。

*? 重复任意次数,但尽可能少 +?  匹配一次或多次,但尽可能少 ?? 重复零次或多次,但尽可能少 {n,m}? 重复最少n次,但不多于m次,但尽可能少 {n,}? 重复最少n次,但尽可能少

表5 懒惰量词

  我们遗漏了什么?

  我已经描述了很多元素,使用它们来开始创建正则表达式;但是我还遗漏了一些东西,它们在下面的表中归纳出来。这些中的很多都在项目文件中使用额外的例子说明了。例子编号在这个表的左列中列出。

\a 报警字符 \b 通常是单词边界,但是在一个字符集合中它表示退格键 \t  制表符 34 \r 回车 \v 垂直制表符 \f 分页符 35 \n 换行符 \e ESC 36 \nnn ASCII码八进制数为nnn的字符 37 \xnn 十六进制数为nn的字符 38 \unnnn  Unicode码为nnnn的字符 39 \cN  Control N字符,例如回车(Ctrl-M)就是\cM 40 \A 字符串的开始(像^但是不依赖于多行选项) 41 \Z 字符串的结尾或者\n之前的字符串结尾(忽略多行) \z  字符串结尾(忽略多行) 42 \G 当前搜索的开始阶段 43 \p{name} 命名为name的Unicode类中的任何字符,例如\p{IsGreek} (?>exp) 贪婪子表达式,也被称为非回溯子表达式。它只匹配一次然后就不再参与回溯。 44 (?<x>-<y>exp) or (?-<y>exp) Balancing group. This is complicated but powerful. It allows named capture groups to be manipulated on a push down/pop up stack and can be used, for example, to search for matching parentheses, which is otherwise not possible with regular expressions. See the example in the project file. 45 (?im-nsx:exp) 正则表达式选项为子表达式exp 46 (?im-nsx) Change the regular expression options for the rest of the enclosing group (?(exp)yes|no) The subexpression exp is treated as a zero-width positive lookahead. If it matches at this point, the subexpression yes becomes the next match, otherwise no is used. (?(exp)yes) Same as above but with an empty no expression (?(name)yes|no) This is the same syntax as the preceding case. If name is a valid group name, the yes expression is matched if the named group had a successful match, otherwise the no expression is matched. 47 (?(name)yes) Same as above but with an empty no expression

表6 我们遗漏的东西。左端的列显示了项目文件中说明这个结构的例子的序号

  结论

  我们已经给出了很多例子来说明.NET正则表达式的关键特性,强调使用工具(如Expresso)来测试,实践,然后是用例子来学习。如果你想要深入的研究,网上也有很多在线资源会帮助你更深入的学习。你可以从访问Ultrapico网站开始。如果你想读一本相关书籍,我建议Jeffrey Friedl写的最新版的《Mastering Regular Expressions》。

Code Project中还有很多不错的文章,其中包含下面的教程:

·An Introduction to Regular Expressions by Uwe Keim 
·Microsoft Visual C# .NET Developer's Cookbook: Chapter on Strings and Regular Expressions

注:本文例子可以从Ultrapico网站下载Expresso测试,点这里下载该程序,点这里察看原文。

常用正则表达式

"^\d+$"  //非负整数(正整数 + 0)

"^[0-9]*[1-9][0-9]*$"  //正整数

"^((-\d+)|(0+))$"  //非正整数(负整数 + 0)

"^-[0-9]*[1-9][0-9]*$"  //负整数

"^-?\d+$"    //整数

"^\d+(\.\d+)?$"  //非负浮点数(正浮点数 + 0)

"^(([0-9]+\.[0-9]*[1-9][0-9]*)|([0-9]*[1-9][0-9]*\.[0-9]+)|([0-9]*[1-9][0-9]*))$"  //正浮点数

"^((-\d+(\.\d+)?)|(0+(\.0+)?))$"  //非正浮点数(负浮点数 + 0)

"^(-(([0-9]+\.[0-9]*[1-9][0-9]*)|([0-9]*[1-9][0-9]*\.[0-9]+)|([0-9]*[1-9][0-9]*)))$"  //负浮点数

"^(-?\d+)(\.\d+)?$"  //浮点数

"^[A-Za-z]+$"  //由26个英文字母组成的字符串

"^[A-Z]+$"  //由26个英文字母的大写组成的字符串

"^[a-z]+$"  //由26个英文字母的小写组成的字符串

"^[A-Za-z0-9]+$"  //由数字和26个英文字母组成的字符串

"^\w+$"  //由数字、26个英文字母或者下划线组成的字符串

"^[\w-]+(\.[\w-]+)*@[\w-]+(\.[\w-]+)+$"    //email地址

"^[a-zA-z]+://(\w+(-\w+)*)(\.(\w+(-\w+)*))*(\?\S*)?$"  //url 

//提取信息中的网络链接:
(h|H)(r|R)(e|E)(f|F)  *=  *('|")?(\w|\\|\/|\.)+('|"|  *|>)?  

//提取信息中的邮件地址:
\w+([-+.]\w+)*@\w+([-.]\w+)*\.\w+([-.]\w+)*  

//提取信息中的图片链接:
(s|S)(r|R)(c|C)  *=  *('|")?(\w|\\|\/|\.)+('|"|  *|>)?

//提取信息中的IP地址:  
(\d+)\.(\d+)\.(\d+)\.(\d+)    

//提取信息中的中国手机号码:
(86)*0*13\d{9}    

//提取信息中的中国固定电话号码:
(\(\d{3,4}\)|\d{3,4}-|\s)?\d{8}    

//提取信息中的中国电话号码(包括移动和固定电话):
(\(\d{3,4}\)|\d{3,4}-|\s)?\d{7,14}    

//提取信息中的中国邮政编码:
[1-9]{1}(\d+){5}    

//提取信息中的中国身份证号码:
\d{18}|\d{15}    

//提取信息中的整数:
\d+    

//提取信息中的浮点数(即小数):
(-?\d*)\.?\d+    

//提取信息中的任何数字  :
(-?\d*)(\.\d+)?  

//提取信息中的中文字符串:
[\u4e00-\u9fa5]*    

//提取信息中的双字节字符串  (汉字):
[^\x00-\xff]*  

//提取信息中的英文字符串:
\w*