Python开发简单爬虫---爬取百度百科页面数据

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python开发简单爬虫---爬取百度百科页面数据相关的知识,希望对你有一定的参考价值。

一、开发爬虫的步骤

技术分享

1.确定目标抓取策略:

打开目标页面,通过右键审查元素确定网页的url格式、数据格式、和网页编码形式。

①先看url的格式, F12观察一下链接的形式;
② 再看目标文本信息的标签格式, 比如文本数据为div class="xxx",
③ 容易看到编码为utf-8


2.分析目标
目标: 百度百科python词条
入口页: http://baike.baidu.com/item/Python
词条页面url格式:/item/****
数据格式:
标题: <dd class="lemmaWgt-lemmaTitle-title"><h1>****</h1></dd>

简介: <div class = "lemma-summary">****</div>
页面编码: utf-8

3.实例代码

爬取百度百科Python词条以及相关的1000个页面数据

 










以上是关于Python开发简单爬虫---爬取百度百科页面数据的主要内容,如果未能解决你的问题,请参考以下文章

python爬虫—爬取百度百科数据

最最简单的python爬虫教程--爬取百度百科案例

最最简单的python爬虫教程--爬取百度百科案例

Python 开发简单爬虫 - 基础框架

使用Python的BeautifulSoup库实现一个可以爬取1000条百度百科数据的爬虫

python开发轻量级爬虫