什么是爬虫?爬虫的工作原理是什么呢

Posted 2020-12-06

随着互联网的发展，大家对于爬虫这个词已经不再陌生了。但是什么是爬虫?爬虫的工作原理是什么呢?对于IT小白还是非常疑惑的，今天就为大家详细的介绍一下。

　　什么是网络爬虫?

　　网络爬虫就是一种从互联网抓取数据信息的自动化程序，如果我们将互联网比作一张大的蜘蛛网，数据就是存放在蜘蛛网的一个节点，爬虫就是一个小蜘蛛，沿着网络抓取数据。

　　爬虫可以在抓取的过程中进行各种异常处理、错误重试等操作，确保抓取持续高效运行。

　　爬虫分为通用爬虫以及专用爬虫，通用爬虫是搜索引擎抓取系统的重要组成部分，主要目的将互联网网页下载到本地，形成一个互联网内容的镜像备份;专用爬虫主要为某一类特定的人群提供服务。

　　爬虫工作原理是什么?

　　爬虫首先要做的工作是获取网页的源代码，源代码里包含了网页的部分有用信息;之后爬虫构造一个请求并发送给服务器，服务器接收到响应并将其解析出来。实际上，获取网页——分析网页源代码——提取信息，便是爬虫工作的三部曲。