BeautifulSoup 与 scrapy 的区别是什么?

Posted renshaoqi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了BeautifulSoup 与 scrapy 的区别是什么?相关的知识,希望对你有一定的参考价值。

  Scrapy 是一个框架。scrapy是一个web网站抓取框架,你可以给scrapy一个网站的网址,然后他就会帮你采集数据,并且你可以指定网址的数量来进行采集。scrapy是一个完整的Web抓取框架或者说是爬虫框架。

  BeautifulSoup 是一个数据解析库。并且从网址中获取数据同样可以做的很好。最重要的是如果你从中提取数据的话也会异常方便(很适合新手入门)。但是该模块只是把你给他的网址采集下来,然后停止采集。该模块不会帮你一直采集数据,除非你手动指定,或者写一个循环来自己实现这个功能。

  简而言之,你可以用BeautifulSoup 建立一个类似于scrapy的框架,scrapy是更加完善的爬虫框架,而scrapy只是数据解析库。

 

以上是关于BeautifulSoup 与 scrapy 的区别是什么?的主要内容,如果未能解决你的问题,请参考以下文章

为什么要使用scrapy而不是requests+beautifulsoup?

Scrapy+BeautifulSoup+MongoDB 高性能数据采集方案(Chapter 1st)

BeautifulSoup抓取百度贴吧

第三章:爬虫基础知识回顾

Scrapy基础一 ------学习Scrapy之前所要了解的

关于BeautifulSoup的一些基本操作