BeautifulSoup的高级应用 之 contents children descendants string strings stripped_strings

Posted llguanli

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了BeautifulSoup的高级应用 之 contents children descendants string strings stripped_strings相关的知识,希望对你有一定的参考价值。

继上一节。BeautifulSoup的高级应用 之 find findAll,这一节,主要解说BeautifulSoup有关的其它几个重要应用函数。

本篇中,所使用的html为:

html_doc = """ 
<html>
<head><title>The Dormouse‘s story</title></head> 
<p class="title"><b>The Dormouse‘s story</b></p> 
<p class="story">Once upon a time there were three little sisters; and their names were 
<a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>, 
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>; and they lived at the bottom of a well.</p> 
<p class="story">...</p> 
</html>"""

.contents.children

tag的 .contents 属性能够将 tag的子节点以列表的形式输出。

from bs4 import BeautifulSoup
soup = BeautifulSoup(html_doc)
head_tag = soup.head 
head_tag 
# <head><title>The Dormouse‘s story</title></head> head_tag.contents 
[<title>The Dormouse‘s story</title>] 
title_tag = head_tag.contents[0] 
title_tag 
# <title>The Dormouse‘s story</title> 
title_tag.contents 
# [u‘The Dormouse‘s story‘]

BeautifulSoup对象本身一定会包括子节点 ,也就是说 标签也是 BeautifulSoup 对象的子节点 :

len(soup.contents) 
# 1 
soup.contents[0].name 
# u‘html‘

字符串没有.contents 属性 ,由于字符串没有子节点 :

text = title_tag.contents[0] 
text.contents 
# AttributeError: ‘NavigableString‘ object has no attribute ‘contents‘

通过 tagtagtag的 .children 生成器 ,能够对 tagtagtag的子节点进行循环 :

for child in title_tag.children: 
    print(child)
# The Dormouse‘s story

.descendants:
.contents和 .children 属性仅包括 tagtagtag的直接子节点 .比如 ,标签仅仅有一个直接子节点

head_tag.contents 
# [<title>The Dormouse‘s story</title>]

可是 标签也包括一个子节点 :字符串 字符串 “The Dormouse’s story”, 这样的情况下字符串 “The Dormouse’s story” 也属于 标签的子孙节点 .descendants 属性能够对全部 tagtagtag的子孙节 点进行递归循环

for child in head_tag.descendants: 
    print(child) 
# <title>The Dormouse‘s story</title>
# The Dormouse‘s story

标签仅仅有一个子节点 ,可是有 2个子孙节点 :节点和 的子 节点 , BeautifulSoup 有一个直接子节点 (节点 ), 却有非常多子孙节点 :

len(list(soup.children)) #这里是html的children子节点
# 1 
len(list(soup.descendants)) #这里是html的descendants子孙节点 多个
# 25

.string:
假设 tagtagtag仅仅有一个 NavigableString 类型子节点 ,那么这个 tag能够使用.string 得到子节点 :

title_tag.string 
# u‘The Dormouse‘s story‘

假设一个 tag仅有一个子节点 ,那么这个 tag也能够使用 .string 方法 ,输出结果与当前唯一子 节点的 .string 结果同样 .
假设 tag包括了多个子节点,tag就无法确定 .string.string.string .string.方法应该调用哪个子节点的内 , .string 的输出结果是 None。

strings 和 stripped_strings:
假设 tag中包括多个字符串 ,能够使用.strings 来循环获取 :

for string in soup.strings: 
    print(repr(string)) 

输出的字符串中 可能包括了非常多空格或行 ,使用 .stripped_strings 能够去除多余空白内容 :

for string in soup.stripped_strings: 
    print(repr(string))

下一篇我们解说父节点。兄弟节点,回退和前进。

以上是关于BeautifulSoup的高级应用 之 contents children descendants string strings stripped_strings的主要内容,如果未能解决你的问题,请参考以下文章

在 Beautifulsoup 中提取价值

Go语言之高级篇Beego框架之爬虫项目实战

python爬虫之beautifulsoup的使用

爬虫之Beautifulsoup及xpath

使用 BeautifulSoup 排除 findAll 的不需要的结果

第三节:Web爬虫之BeautifulSoup解析库