正则表达式
字符串是编程时涉及到的最多的一种数据结构,对字符串进行操作的需求几乎无处不在。比如判断一个字符串是否是合法的Email地址,虽然可以编程提取 @ 前后的子串,再分别判断是否是单词和域名,但这样做不但麻烦,而且代码难以复用。
正则表达式是一种用来匹配字符串的强大工具。它的设计思想是用一种描述性的语言来给字符串定义一个规则,凡是符合规则的字符串,我们就认为它“匹配”了,否则,该字符串就是不合法的。
所以我们判断一个字符串是否是合法的Email的方法是:
- 创建一个匹配Email的正则表达式;
- 用该正则表达式去匹配用户的输入来判断是否合法。
因为正则表达式也是用字符串表示的,所以,我们要首先了解如何用字符来描述字符。
在正则表达式中,如果直接给出字符,就是精确匹配。用 \d 可以匹配一个数字,\w 可以匹配一个字母或数字,\s 可以匹配一个空格(也包括Tab等空白符)。所以:
- '00\d'可以匹配- '007',但无法匹配- '00A';
- '\d\d\d'可以匹配- '010';
- '\w\w\d'可以匹配- 'py3';
- .可以匹配任意字符,所以:- 'py.'可以匹配- 'pyc'、- 'pyo'、- 'py!'等等。
要匹配变长的字符,在正则表达式中,用 * 表示任意个字符(包括0个),用 + 表示至少一个字符,用 ? 表示0个或1个字符,用 {n} 表示n个字符,用 {n,m} 表示n-m个字符:
来看一个复杂的例子:\d{3}\s+\d{3,8}
我们来从左到右解读一下:
- \d{3}表示匹配3个数字,例如- '010';
- \s+表示至少有一个空格,例如匹配- ' ',- '  '等;
- \d{3,8}表示3-8个数字,例如- '1234567'。
综合起来,上面的正则表达式可以匹配以任意个空格隔开的带区号的电话号码。
如果要匹配 '010-12345' 这样的号码呢?由于 '-' 是特殊字符,在正则表达式中,要用 '\' 转义,所以,用于匹配的正则表达式应为 \d{3}\-\d{3,8}。
但是,上面的方法无法匹配 '010 - 12345',我们需要更复杂的匹配方式。
<br>
进阶
要做更精确地匹配,可以用 [] 表示一个范围,比如:
- [0-9a-zA-Z\_]可以匹配一个数字、字母或者下划线;
- [0-9a-zA-Z\_]+可以匹配至少由一个数字、字母或者下划线组成的字符串,比如'a100','0_Z','Py3000'等等;
- [a-zA-Z\_][0-9a-zA-Z\_]*可以匹配由字母或下划线开头,后接任意个由一个数字、字母或者下划线组成的字符串,也就是Python合法的变量;
- [a-zA-Z\_][0-9a-zA-Z\_]{0, 19}更精确地限制了变量的长度是1-20个字符(前面1个字符+后面最多19个字符)。
- A|B可以匹配A或B,所以- (P|p)ython既可以匹配- 'Python'又可以匹配- 'python'。
- ^表示行的开头,- ^\d表示必须以数字开头。
- $表示行的结束,- \d$表示必须以数字结束。
有趣的是 py 也可以用来匹配 'python',但是加上 ^py$ 就变成了整行匹配,只能匹配 'py' 了。
<br>
re模块
有了准备知识,我们就可以在Python中使用正则表达式了。Python提供了 re 模块,包含所有正则表达式的功能。注意,在正则表达式中,我们使用 \ 来表示转义,但在Python的字符串中,\ 同样是一个转义符。因此,使用时我们就要特别注意字符串中的 \ 是否能正确地起作用。比方说:
s = 'ABC\\-001'
这个字符串中,第一个 \ 用于为第二个 \ 转义,所以打印这个字符串实际上得到的是 'ABC-001',这样用作正则表达式时,就能正确地转义 -。而:
s = 'ABC\-001'
这个字符串实际上是 'ABC-001',由于 - 在正则表达式中是一个特殊字符,而这里我们希望的是它只作为用于匹配字符 - 的功能,所以这样得到的正则表达式就出错了。
因此在书写正则表达式时,推荐使用Python字符串的 r 前缀,这样就不用考虑字符转义的问题了:
s = r'ABC\-001'
r 前缀表示后面的字符串中无需转义字符。
接下来看看如何判断正则表达式是否与字符串匹配:
>>> import re
>>> re.match(r'^\d{3}\-\d{3,8}$', '010-12345')
<_sre.SRE_Match object; span=(0, 9), match='010-12345'>
>>> re.match(r'^\d{3}\-\d{3,8}$', '010 12345')
>>>
re 模块的 match() 方法判断是否匹配,如果匹配成功,返回一个 Match 对象,否则返回 None。常见的判断方法就是:
test = '用户输入的字符串'
if re.match(r'正则表达式', test):
    print('ok')
else:
    print('failed')
<br>
切分字符串
用正则表达式切分字符串比用固定的字符更灵活,请看正常的切分代码:
>>> 'a b   c'.split(' ')
['a', 'b', '', '', 'c']
嗯,无法识别连续的空格,用正则表达式试试:
>>> re.split(r'\s+', 'a b   c') # '\s+'表示至少匹配一个空白字符
['a', 'b', 'c']
无论多少个空格都可以正常分割。加入 , 试试:
>>> re.split(r'[\s\,]+', 'a,b, c  d')
['a', 'b', 'c', 'd']
再加入 ; 试试:
>>> re.split(r'[\s\,\;]+', 'a,b;; c  d')
['a', 'b', 'c', 'd']
如果用户输入了一组标签,下次记得可以用正则表达式来把不规范的输入转化成正确的数组。
<br>
分组
除了简单地判断是否匹配之外,正则表达式还有提取子串的强大功能。用 () 表示的就是要提取的分组(Group)。比如:
^(\d{3})-(\d{3,8})$ 分别定义了两个组,可以直接从匹配的字符串中提取出区号和本地号码:
>>> m = re.match(r'^(\d{3})-(\d{3,8})$', '010-12345')
>>> m
<_sre.SRE_Match object; span=(0, 9), match='010-12345'>
>>> m.group(0)
'010-12345'
>>> m.group(1)
'010'
>>> m.group(2)
'12345'
如果正则表达式中定义了组,就可以在 Match 对象上用 group() 方法提取出某个子串。注意到 group(0) 永远是原始字符串,group(1)、group(2) …… 表示第1、2、……个子串。
提取子串非常有用。来看一个更凶残的例子:
>>> t = '19:05:30'
>>> m = re.match(r'^(0[0-9]|1[0-9]|2[0-3]|[0-9])\:(0[0-9]|1[0-9]|2[0-9]|3[0-9]|4[0-9]|5[0-9]|[0-9])\:(0[0-9]|1[0-9]|2[0-9]|3[0-9]|4[0-9]|5[0-9]|[0-9])$', t)
>>> m.groups()
('19', '05', '30')
这个正则表达式可以直接识别合法的时间。但是有些时候,用正则表达式也无法做到完全验证,比如识别日期:
'^(0[1-9]|1[0-2]|[0-9])-(0[1-9]|1[0-9]|2[0-9]|3[0-1]|[0-9])$'
对于'2-30','4-31'这样的非法日期,用正则还是识别不了,或者说写出来非常困难,这时就需要编写其他代码来配合识别了。
<br>
贪婪匹配
最后需要特别指出的是,正则匹配默认是贪婪匹配,也就是匹配尽可能多的字符。举例如下,匹配出数字后面的0:
>>> re.match(r'^(\d+)(0*)$', '102300').groups()
('102300', '')
由于 \d+ 采用贪婪匹配,直接把后面的0全部匹配了,结果 0* 就只能匹配到空字符串了。
必须让 \d+ 采用非贪婪匹配(也就是尽可能少匹配),才能把后面的0匹配出来,这时我们可以使用 ? 来让 \d+ 采用非贪婪匹配:
>>> re.match(r'^(\d+?)(0*)$', '102300').groups()
('1023', '00')
<br>
编译
当我们在Python中使用正则表达式时,re 模块内部会干两件事情:
- 编译正则表达式,如果正则表达式的字符串本身不合法,会报错;
- 用编译后的正则表达式去匹配字符串。
如果一个正则表达式要重复使用几千次,出于效率的考虑,我们可以预编译正则表达式,接下来重复使用时就不需要编译这个步骤了,可以直接匹配:
>>> import re
# 编译:
>>> re_telephone = re.compile(r'^(\d{3})-(\d{3,8})$')
# 使用:
>>> re_telephone.match('010-12345').groups()
('010', '12345')
>>> re_telephone.match('010-8086').groups()
('010', '8086')
编译后生成 Regular Expression 对象,由于该对象自己包含了正则表达式,所以调用对应的方法时不用给出正则字符串。
<br>
小结
正则表达式非常强大,要在短短的一节里讲完是不可能的。要讲清楚正则的所有内容,可以写一本厚厚的书了。如果你经常遇到正则表达式的问题,你可能需要一本正则表达式的参考书。
<br>
练习
习题一
请尝试写一个验证Email地址的正则表达式,可以验证类似以下格式的Email:
[email]someone@gmail.com[/email]
[email]bill.gates@microsoft.com[/email]
代码:
import re
re_email = re.compile(r'^[a-z.]+?@[a-z]+?.com$')
while True:
    test = input('\nPlease input your email address: ')
    if re_email.match(test):
        print('ok')
    else:
        print('failed')
习题二
继续上一题,但这次的Email地址带名字,要既能验证地址又能提取出名字:
<Tom Paris> [email]tom@voyager.com[/email]
<Mary Liu> [email]mary@microsoft.com[/email]
代码:
import re
re_email = re.compile(r'^<([A-Za-z\s]+?)\s([A-Za-z\s]+?)>\s([a-z.]+?@[a-z]+?.com)$')
while True:
    test = input('\nPlease input your email address: ')
    match = re_email.match(test)
    if match:
        print(match.group(1)+' '+match.group(2)+"'s email address is: "+match.group(3))
    else:
        print('failed')
<br>