网络爬虫

Posted 2021-01-03 zhoulixiansen

使用pyquery解析库；

‘‘‘
字符串初始化
‘‘‘
html=‘‘‘
<div>
<ul>
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active" ><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>
</li>
</div>
‘‘‘
# from pyquery import PyQuery as pq
# doc=pq(html)
# print(doc(‘li‘))
‘‘‘
运行结果如下：
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>
在这里首先引入一个PyQuery对象，取别名为pq。然后声明HTML长字符串，并将其当做参数传入PyQuery类中，这样就完成了初始化操作，
接下来，将初始化的对象传入CSS选择器，在这个实例中，我们传入li节点，这样就可以选择所有的li节点。


①URL的初始化
初始化的参数不仅仅可以采用字符串形式的传递，还可以传入网页的URL，此时只需要指定参数的url即可：

‘‘‘

# from pyquery import PyQuery as pq
# doc=pq(url=‘https://cuiqingcai.com‘)
# print(doc(‘title‘))
‘‘‘
运行结果如下：
<title>静觅丨崔庆才的个人博客</title>&#13;

这样的话PyQuery对象首先会请求这个URL，然后用得到的HTML内容完成初始化，这其实就相当于用网页的源代码以字符串的形式传递给
PyQuery类来初始化。

他与下面的功能是相同的：

‘‘‘

# from pyquery import PyQuery as pq
# import requests
# doc=pq(requests.get(‘https://cuiqingcai.com‘).text)
# print(doc(‘title‘))
‘‘‘
运行结果和下面一致的：
②文件的初始化
不仅仅可以传递URL，也可以传递本地的文件名，将参数指定为filename即可：
最常见的传递方式还是采用字符串的形式。
‘‘‘
# from pyquery import PyQuery as pq
# doc=pq(filename=‘demo.html‘)
# print(doc(‘li‘))
‘‘‘
基本的CSS选择器

‘‘‘
htmls=‘‘‘
<div id="container">
<ul class="list">
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active" ><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>
</li>
</div>
‘‘‘
#
# from pyquery import PyQuery as pq
# doc=pq(htmls)
# print(doc(‘#container .list li‘))
# print(type(doc(‘container .list li‘)))

‘‘‘
结果如下：
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>


<class ‘pyquery.pyquery.PyQuery‘>

在这里我们初始化PyQuery对象之后，传入了一个CSS选择器#container .list li, 它的意思就是选取id为container的节点，然后选取其内部的
class为list的节点内部的所有li节点。然后，打印输出。可以看到，我们成功获取到符合条件的节点。
最后，将它的类型打印输出。可以看到，它的类型依旧是PyQuery类型的。

查找节点：用法和jQuery使用方法完全一致；
1，子节点
查找子节点时，需要用到find()方法，此时传入参数是CSS选择器。这里还是以前面的HTML为例：

‘‘‘

# from pyquery import PyQuery as pq
# doc=pq(htmls)
# items=doc(‘.list‘)
# print(type(items))
# print(items)
# lis=items.find(‘li‘)
# print(type(lis))
# print(lis)

‘‘‘
<class ‘pyquery.pyquery.PyQuery‘>
<ul class="list">
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>
</ul>
<class ‘pyquery.pyquery.PyQuery‘>
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>
首先我们选取class为list的节点，然后调用find()方法，传入CSS选择器，选择内部的li节点，最后打印输出。可以发现，find()方法会
将所有符合条件的节点选出来，最后的节点类型依旧是PyQuery类型。
find()是选取所有的子孙节点，而如果我们只想查找子节点，采用children()方法
如果要筛选出所有子节点中符合条件的节点就如下所示：
‘‘‘

# from pyquery import PyQuery as pq
# doc=pq(htmls)
# items=doc(‘.list‘)
# print(type(items))
# print(items)
# lis=items.children(‘.active‘)
# print(type(lis))
# print(lis)
‘‘‘
结果如下：
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
父节点：
可以采用parent()方法来获取某个节点的父节点，示例如下：
‘‘‘
# from pyquery import PyQuery as pq
# doc=pq(htmls)
# items=doc(‘.list‘)
# container=items.parent()
# print(type(container))
# print(container)
‘‘‘
在这里我们首先用.list选取class为list节点，然后调用parent()方法得到其父节点，其类型依旧是PyQuery类型的。
这里的父节点是该节点的直接父节点，也就是说，他不会查找父节点的父节点，那如果想获取某一个祖先节点，可以采用parents()方法：

‘‘‘
from pyquery import PyQuery as pq
doc=pq(htmls)
items=doc(‘.list‘)
container=items.parents()
print(type(container))
print(container)
‘‘‘
<html><body><div id="container">
<ul class="list">
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>

</ul></div>
</body></html><body><div id="container">
<ul class="list">
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>

</ul></div>
</body><div id="container">
<ul class="list">
<li class="item-0">first item</li>
<li class="item-1"><a href="link2.html">second item</a></li>
<li class="item-0 active"><a href="link3.html"><span class="bold">third item</span></a></li>
<li class="item-1 active"><a href="link4.html">fourth item</a></li>
<li class="item-0"><a href="link5.html">fifth item</a></li>

</ul></div>
一共输出三个内容，也就是说他返回了所有的祖先节点。如果想筛选某一个祖先节点，就在parents()中传入参数
‘‘‘