爬虫 基础

Posted lichunyan58

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫 基础相关的知识,希望对你有一定的参考价值。

抓包:charles       Fiddler

HTTP请求处理,urllib、requests  专门获得网络连接的库

Scrapy框架:(Scrapy,Pyspider)
高定制性高性能(异步网络框架twisted),所以数据下载速度非常快,
提供了数据存储、数据下载、提取规则等组件

爬虫使用场景:通用爬虫、聚焦爬虫。

Ctrl + f        显示搜索框

Ctrl + p      可以查看构造request 请求方法时需要传递哪些参数

以上是关于爬虫 基础的主要内容,如果未能解决你的问题,请参考以下文章

爬虫基础知识

爬虫基础知识

如何入门爬虫(基础篇)

如何入门爬虫(基础篇)

python爬虫之基础学习

python基础 爬虫项目都有哪些?