爬虫日记(84):Scrapy的Crawler类
Posted caimouse
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫日记(84):Scrapy的Crawler类相关的知识,希望对你有一定的参考价值。
spidercls是一个蜘蛛类,比如这里是<class \'ItemDemo.spiders.quotes.QuotesSpider\'>内容,self.settings是前面加载所有文件和命令行的参数合集。接着就来到类Crawler的构造函数,它的代码如下:
第42行判断spidercls变量是否是一个Spider的派生类的实例,如果是一个对象就返回出错。
第45行如果参数设置还没有转行为Settings对象,就进行转换。
这两行代码都是对参数进行判断,避免出错。
第48行把蜘蛛类保存到成员变量spidercls,以便后面使用。
第49行把设置参数保存到成员变量settings。
第50行代码主要把蜘蛛
以上是关于爬虫日记(84):Scrapy的Crawler类的主要内容,如果未能解决你的问题,请参考以下文章