网络爬虫--requests库中两个重要的对象

Posted Freeman耀

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了网络爬虫--requests库中两个重要的对象相关的知识,希望对你有一定的参考价值。

当我们使用resquests.get()时,返回的时response的对象,他包含服务器返回的所有信息,也包含请求的request的信息。 
首先: 
response对象的属性有以下几个, 
r.status_code是http请求的返回状态,200表示连接成功,404表示连接失败,这时候应该抛出异常,进行处理。 
r.text是url对应的页面内容 
r.encoding是从http的header中猜测的响应内容编码方式 
r.apparent_encoding是从内容中分析出响应的内容编码方式。 
r.content是http响应内容的二进制形式

通用的代码框架

try: 
    r=requests.get(url,timeout=30) 
    r.raise_for_status()#如果不是200,就会抛出异常 
    r.encoding=r.apparent_encoding 
    return r.text 
except: 
    return “产生异常”

以上是关于网络爬虫--requests库中两个重要的对象的主要内容,如果未能解决你的问题,请参考以下文章

python3网络爬虫学习——使用requests

第一个爬虫和测试

Python网络爬虫——BeautifulSoup4库的使用

一个金蝶网址的网络爬虫

爬虫学习 05.Python网络爬虫之三种数据解析方式

python网络爬虫requests库的基本介绍和使用