20190221 beautiful soup 入门

Posted 2021-02-10 dsker

beautiful soup 入门

Beautiful Soup 是 python 的一个库，最主要的功能是从网页抓取数据。

Beautiful Soup 自动将输入文档转换为 Unicode 编码，输出文档转换为 utf-8 编码。你不需要考虑编码方式，除非文档没有指定一个编码方式，这时，Beautiful Soup 就不能自动识别编码方式了。然后，你仅仅需要说明一下原始编码方式就可以了。

创建 Beautiful Soup 对象

首先必须要导入 bs4 库

from bs4 import BeautifulSoup  

 

创建 beautifulsoup 对象

soup = BeautifulSoup(html)  


print soup.prettify()
这个方法格式化输出html格式

Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象,所有对象可以归纳为4种:

• Tag
• NavigableString
• BeautifulSoup
• Comment

 

（1）Tag

 标签

标签加上里面包括的内容就是 Tag

 

soup加标签名轻松地获取这些标签的内容 例如：soup.标签名 就可以找到第一个标签名匹配的标签里的所有内容

 

Tag有两个重要属性   name和 attrs

 

soup 对象本身比较特殊，它的 name 即为 [document]，对于其他内部标签，输出的值便为标签本身的名称。

 

soup.标签名.attrs 得到的是一个字典，[属性名:values,...]

当然可以通过索引的方式去查询 soup.标签名.[属性名]

可以对它进行修改

 

（2）NavigableString

soup.tag_name.string即可得到标签里的文字

它的类型是一个 NavigableString （可遍历的字符串）

 

（3）BeautifulSoup

BeautifulSoup 对象表示的是一个文档的全部内容.大部分时候,可以把它当作 Tag 对象，是一个特殊的 Tag

 

（4）Comment

Comment 对象是一个特殊类型的 NavigableString 对象，其实输出的内容仍然不包括注释符号

 

.contents

tag 的 .contents 属性可以将tag的子节点以列表的方式输出，可索引

 

.descendants 属性可以对所有tag的子孙节点进行递归循环，和 children类似，我们也需要遍历获取其中的内容。

for x in soup.tag.descendants 

 

如果一个标签里面没有标签了，那么 .string 就会返回标签里面的内容。如果标签里面只有唯一的一个标签了，那么 .string 也会返回最里面的内容。

如果tag包含了多个子节点,tag就无法确定，string 方法应该调用哪个子节点的内容, .string 的输出结果是 None

 

.strings

获取多个内容，不过需要遍历获取

 

.stripped_strings 

输出的字符串中可能包含了很多空格或空行,使用 .stripped_strings 可以去除多余空白内容

 

 

搜索文档树

（1）find_all( name , attrs , recursive , text , **kwargs )

find_all() 方法搜索当前tag的所有tag子节点,并判断是否符合过滤器的条件

 

1）name 参数

name 参数可以查找所有名字为 name 的tag,字符串对象会被自动忽略掉

可以穿字符串，正则表达式，列表（与列表任意元素匹配的都会返回在列表里），True（返回所有），传方法（返回True表示找到，参数是Tag）

 

2）keyword 参数

通过参数去筛选标签，可以同时有多个参数

可以通过 find_all() 方法的 attrs 参数定义一个字典参数来搜索包含特殊属性的tag

 

3）text 参数

通过 text 参数可以搜搜文档中的字符串内容.与 name 参数的可选值一样, text 参数接受 字符串 , 正则表达式 , 列表, True

 

4）limit 参数

find_all() 方法返回全部的搜索结构,如果文档树很大那么搜索会很慢.如果我们不需要全部结果,可以使用 limit 参数限制返回结果的数量.效果与SQL中的limit关键字类似,当搜索到的结果数量达到 limit 的限制时,就停止搜索返回结果.

 

5）recursive 参数 （这个词的意思是递归）

调用tag的 find_all() 方法时,Beautiful Soup会检索当前tag的所有子孙节点,如果只想搜索tag的直接子节点,可以使用参数 recursive=False .

 

（2）find( name , attrs , recursive , text , **kwargs )

它与 find_all() 方法唯一的区别是 find_all() 方法的返回结果是值包含一个元素的列表,而 find() 方法直接返回结果

 

（3）find_parents()  find_parent()

find_all() 和 find() 只搜索当前节点的所有子节点,孙子节点等. find_parents() 和 find_parent() 用来搜索当前节点的父辈节点,搜索方法与普通tag的搜索方法相同,搜索文档搜索文档包含的内容