爬虫日记(84):Scrapy的Crawler类

Posted caimouse

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫日记(84):Scrapy的Crawler类相关的知识,希望对你有一定的参考价值。

spidercls是一个蜘蛛类,比如这里是<class \'ItemDemo.spiders.quotes.QuotesSpider\'>内容,self.settings是前面加载所有文件和命令行的参数合集。接着就来到类Crawler的构造函数,它的代码如下:

第42行判断spidercls变量是否是一个Spider的派生类的实例,如果是一个对象就返回出错。

第45行如果参数设置还没有转行为Settings对象,就进行转换。

这两行代码都是对参数进行判断,避免出错。

第48行把蜘蛛类保存到成员变量spidercls,以便后面使用。

第49行把设置参数保存到成员变量settings。

第50行代码主要把蜘蛛

以上是关于爬虫日记(84):Scrapy的Crawler类的主要内容,如果未能解决你的问题,请参考以下文章

爬虫日记(84):Scrapy的Crawler类

爬虫日记(85):Scrapy的ExecutionEngine类

爬虫日记(88):Scrapy的Downloader类

scrapy 爬虫怎么在程序里把爬虫停止

scrapy 主动停止爬虫

scrapy中主动触发关闭爬虫的方法