python爬虫-基础入门-爬取整个网站《1》

Posted 公子缘

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python爬虫-基础入门-爬取整个网站《1》相关的知识,希望对你有一定的参考价值。

python爬虫-基础入门-爬取整个网站《1》

描述:

  使用环境:python2.7.15 ,开发工具:pycharm,现爬取一个网站页面(http://www.baidu.com)所有数据。

python代码如下:

 1 # -*- coding:  utf-8 -*-
 2 
 3 import urllib2
 4 
 5 def baiduNet() :
 6 
 7     request = urllib2.Request("http://www.baidu.com")
 8     response = urllib2.urlopen(request)
 9     netcontext = response.read()
10 
11     file = open("baidutext.txt","w")
12     file.write(netcontext)
13 
14 
15 if __name__ == "__main__" :
16     baiduNet()

 

执行后baidutext.txt数据,部分截图如下:

 

打开浏览器,访问百度,鼠标右键页面,查看源代码,如下:

 

使用代码爬取到的页面数据和源网站页面数据是一样的,爬取网页成功。

 

如有问题,欢迎纠正!!!

如有转载,请标明源处:https://www.cnblogs.com/Charles-Yuan/p/9903221.html

 

以上是关于python爬虫-基础入门-爬取整个网站《1》的主要内容,如果未能解决你的问题,请参考以下文章

如何一个月入门Python爬虫,轻松爬取大规模数据

如何入门 Python 爬虫

10分钟入门爬虫-小说网站爬取

Python最简单的图片爬虫,20行代码带你爬遍整个网站

零基础学python(1)——爬取房天下网站信息

用scrapy框架爬取某网站汽车的高清图片python爬虫入门进阶(21)