爬虫学习

Posted brady-wang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫学习相关的知识,希望对你有一定的参考价值。

#coding:utf8
__author__ = wang
import urllib2
import cookielib

url = "http://www.baidu.com";

response = urllib2.urlopen(url)
print(len(response.read()));


request = urllib2.Request(url)
request.add_header(user-agent,Mozilla/5.0)
response1 = urllib2.urlopen(request)
print len(response1.read())

cj = cookielib.CookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
urllib2.install_opener(opener)
response2 = urllib2.urlopen(url)
print cj
print len(response2.read())

 

以上是关于爬虫学习的主要内容,如果未能解决你的问题,请参考以下文章

python爬虫学习笔记-M3U8流视频数据爬虫

在学习爬虫的路上,有多少坑在前边

IOS开发-OC学习-常用功能代码片段整理

java SpringRetry学习的代码片段

python 机器学习有用的代码片段

crawler4j 学习