python-正则表达式

Posted 2021-02-17 LXL_1

 什么是正则表达式

 

正则表达式是对字符串操作的一种逻辑公式，就是 事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符”，这个“规则字符” 来表达对字符的一种过滤逻辑。

正则并不是python独有的，其他语言也都有正则
python中的正则，封装了re模块

 

python正则的详细讲解

常用的匹配模式

\\w      匹配字母数字及下划线
\\W      匹配f非字母数字下划线
\\s      匹配任意空白字符，等价于[\\t\\n\\r\\f]
\\S      匹配任意非空字符
\\d      匹配任意数字
\\D      匹配任意非数字
\\A      匹配字符串开始
\\Z      匹配字符串结束，如果存在换行，只匹配换行前的结束字符串
\\z      匹配字符串结束
\\G      匹配最后匹配完成的位置
\\n      匹配一个换行符
\\t      匹配一个制表符
^       匹配字符串的开头
$       匹配字符串的末尾
.       匹配任意字符，除了换行符，re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符
[....]  用来表示一组字符，单独列出：[amk]匹配a,m或k
[^...]  不在[]中的字符：[^abc]匹配除了a,b,c之外的字符
*       匹配0个或多个的表达式
+       匹配1个或者多个的表达式
?       匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
{n}     精确匹配n前面的表示
{m,m}   匹配n到m次由前面的正则表达式定义片段，贪婪模式
a|b     匹配a或者b
()      匹配括号内的表达式，也表示一个组

re.match()

尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配的话，match（）就会返回None
语法格式：
re.match(pattern,string,flags=0)

最常规的匹配

import re

content= "hello 123 4567 World_This is a regex Demo"
print(len(content))
result = re.match(\'^hello\\s\\d\\d\\d\\s\\d{4}\\s\\w{10}.*Demo$\',content)
print(result)
print(result.group()) #匹配结果
print(result.span()) #匹配的范围

 

结果如下：

 

result.group()获取匹配的结果

result.span()获去匹配字符串的长度范围

 

泛匹配

其实相对来说上面的方式并不是非常方便，其实可以将上述的正则规则进行更改

 

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match("^hello.*Demo$",content)
print(result)
print(result.group())
print(result.span())

 

 

 

这段代码的结果和上面常规匹配的结果是一样的，但是写起来会方便很多

 

匹配目标

如果为了匹配字符串中具体的目标，则需要通过（）括起来，例子如下：

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match(\'^hello\\s(\\d+)\\sWorld.*Demo$\',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

  

这里需要说一下的是通过re.group()获得结果后，如果正则表达式中有括号，则re.group(1)获取的就是第一个括号中匹配的结果

 

贪婪匹配

先看下面代码：

import re

content= "hello 1234567 World_This is a regex Demo"
result= re.match(\'^hello.*(\\d+).*Demo\',content)
print(result)
print(result.group(1))

 

 这段代码的结果是：

 

非贪婪匹配

从结果中可以看出只匹配到了7，并没有匹配到1234567，出现这种情况的原因是前面的.* 给匹配掉了， .*在这里会尽可能的匹配多的内容，也就是我们所说的贪婪匹配，

如果我们想要匹配到1234567则需要将正则表达式改为：

 

这样结果就可以匹配到1234567

 

匹配模式

 

 

 

print(result) 不报错
print(result.group()) 报错

 

 

很多时候匹配的内容是存在换行的问题的，这个时候的就需要用到匹配模式re.S来匹配换行的内容

import re


content = """hello 123456 world_this
my name is zhaofan
"""

result =re.match(\'^he.*?(\\d+).*?zhaofan$\',content,re.S)
print(result)
print(result.group())
print(result.group(1))

 

 结果如下

 

 

 

转义

当我们要匹配的内容中存在特殊字符的时候，就需要用到转移符号\\,例子如下：

import re

content= "price is $5.00"

result = re.match(\'price is $5.00\',content)
print(result)

 

 

import re

content= "price is $5.00"

result = re.match(\'price is \\$5\\.00\',content)
print(result)
print(result.group())

 

 

 

 

对上面的一个小结：
尽量使用泛匹配，使用括号得到匹配目标，尽量使用非贪婪模式，有换行符就用re.S
强调re.match是从字符串的起始位置匹配一个模式

re.search

re.search扫描整个字符串返回第一个成功匹配的结果

import re

content = "extra things hello 123455 world_this is a Demo Extra things"

result = re.match("hello.*?(\\d+).*?Demo",content)
print(result)

 

结果： 

match 必须从第一个字符开始匹配

 

import re

content = "extra things hello 123455 world_this is a Re Extra things"

result = re.search("hello.*?(\\d+).*?Re",content)
print(result)
print(result.group())
print(result.group(1))

 

 结果如下：

 

 

其实这个时候我们就不需要在写^以及$，因为search是扫描整个字符串

 

注意：所以为了匹配方便，我们会更多的用search，不用match,match必须匹配头部，所以很多时候不是特别方便

匹配演练

例子1：

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

result = re.search(\'<li.*?active.*?singer="(.*?)">(.*?)</a>\',html,re.S)
if result:
    print(result.group(1), result.group(2))

 

结果：

 

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

result = re.search(\'<li.*?active.*?singer="(.*?)">(.*?)</a>\',html,re.S)
print(result)
print(result.groups())
print(result.group(1))
print(result.group(2))

 

 结果为：

 

 

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

result = re.search(\'<li.*?singer="(.*?)">(.*?)</a>\',html,re.S)
if result:
    print(result.group(1), result.group(2))

他会搜索第一个结果直接打印

 

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

result = re.search(\'<li.*?singer="(.*?)">(.*?)</a>\',html)
if result:
    print(result.group(1), result.group(2))

 结果：

 

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

result = re.search(\'<li.*?singer="(.*?)">(.*?)</a>\',html)
if result:
    print(result.group(1), result.group(2))
 

去掉 re.S 匹配第一个符合调节没有换行符的结果

 

re.findall

搜索字符串，以列表的形式返回全部能匹配的子串

代码例子如下：

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

results = re.findall(\'<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>\', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])

 

 结果如下：

[(\'/2.mp3\', \'任贤齐\', \'沧海一声笑\'), (\'/3.mp3\', \'齐秦\', \'往事随风\'), (\'/4.mp3\', \'beyond\', \'光辉岁月\'), (\'/5.mp3\', \'陈慧琳\', \'记事本\'), (\'/6.mp3\', \'邓丽君\', \'但愿人长久\')]
<class \'list\'>
(\'/2.mp3\', \'任贤齐\', \'沧海一声笑\')
/2.mp3 任贤齐 沧海一声笑
(\'/3.mp3\', \'齐秦\', \'往事随风\')
/3.mp3 齐秦 往事随风
(\'/4.mp3\', \'beyond\', \'光辉岁月\')
/4.mp3 beyond 光辉岁月
(\'/5.mp3\', \'陈慧琳\', \'记事本\')
/5.mp3 陈慧琳 记事本
(\'/6.mp3\', \'邓丽君\', \'但愿人长久\')
/6.mp3 邓丽君 但愿人长久

 

例子2：

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

results = re.findall(\'<li.*?>\\s*?(<a.*?>)?(\\w+)(</a>)?\\s*?</li>\',html,re.S)
print(results)
for result in results:
    print(result[1])

 

 结果如下：

[(\'\', \'一路上有你\', \'\'), (\'<a href="/2.mp3" singer="任贤齐">\', \'沧海一声笑\', \'</a>\'), (\'<a href="/3.mp3" singer="齐秦">\', \'往事随风\', \'</a>\'), (\'<a href="/4.mp3" singer="beyond">\', \'光辉岁月\', \'</a>\'), (\'<a href="/5.mp3" singer="陈慧琳">\', \'记事本\', \'</a>\'), (\'<a href="/6.mp3" singer="邓丽君">\', \'但愿人长久\', \'</a>\')]
一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

其实这里我们就可以看出

\\s*? 这种用法其实就是为了解决有的有换行，有的没有换行的问题

(<a.*?>)? 这种用法是因为html中有的有a标签，有的没有的，？表示匹配一个或0个，正好可以用于匹配

re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串

re.sub(正则表达式，替换成的字符串，原字符串)

例子1

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub(\'\\d+\',\'\',content)
print(content)

 

 结果会讲数字替换为为空：

Extra things hello  World_this is a regex Demo extra things




例子2,在有些情况下我们替换字符的时候可以通过下面方式实现：

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub(\'\\d+\',r\'LXL\',content)
print(content)

 

 结果如下：

Extra things hello LXL World_this is a regex Demo extra things




例子3,在有些情况下我们替换字符的时候，还想获取我们匹配的字符串，然后在后面添加一些内容，可以通过下面方式实现：

import re

content = "Extra things hello 123455 World_this is a regex Demo extra things"

content = re.sub(\'(\\d+)\',r\'\\1 LXL\',content)
print(content)

这里需要注意的一个问题是\\1是获取第一个匹配的结果，为了防止转义字符的问题，我们需要在前面加上r，前面还需要加上括号

 

import re

html = \'\'\'<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>\'\'\'

html = re.sub(\'<a.*?>|</a>\',\'\',html)
print(html)
results = re.findall(\'<li.*?>(.*?)</li>\',html, re.S)
print(results)
for result in results:
    print(result.strip())

 

结果：

<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            沧海一声笑
        </li>
        <li data-view="4" class="active">
            往事随风
        </li>
        <li data-view="6">光辉岁月</li>
        <li data-view="5">记事本</li>
        <li data-view="5">
            但愿人长久
        </li>
    </ul>
</div>
[\'一路上有你\', \'\\n            沧海一声笑\\n        \', \'\\n            往事随风\\n        \', \'光辉岁月\', \'记事本\', \'\\n            但愿人长久\\n        \']
一路上有你
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

 

re.compile

将正则表达式编译成正则表达式对象，方便复用该正则表达式

import re
content= """hello 12345 world_this
fan
"""

pattern =re.compile("hello.*fan",re.S)
result = re.match(pattern,content)
print(result)
print(result.group())
result = re.match(\'hello.*fan\',content, re.S)
print(result)
print(result.group())

 

 结果：

<re.Match object; span=(0, 26), match=\'hello 12345 world_this\\nfan\'>
hello 12345 world_this
fan
<re.Match object; span=(0, 26), match=\'hello 12345 world_this\\nfan\'>
hello 12345 world_this
fan

正则的综合练习

获取豆瓣网书籍的页面的书籍信息，通过正则实现

 

import requests
import re
content = requests.get(\'https://book.douban.com/\').text
pattern = re.compile(\'<li.*?cover.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">(.*?)</span>.*?year">(.*?)</span>.*?</li>\', re.S)
results = re.findall(pattern, content)
print(results)

for result in results:
    url,name,author,date = result
    author = re.sub(\'\\s\',\'\',author)
    date = re.sub(\'\\s\',\'\',date)
    print(url,name,author,date)

 

 结果如下：