Python爬虫是啥？

Posted 2023-03-27

网络爬虫（又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
其实通俗的讲就是通过程序去获取web页面上自己想要的数据，也就是自动抓取数据。
爬虫可以做什么？
你可以用爬虫爬图片，爬取视频等等你想要爬取的数据，只要你能通过浏览器访问的数据都可以通过爬虫获取。
爬虫的本质是什么？
模拟浏览器打开网页，获取网页中我们想要的那部分数据
浏览器打开网页的过程：
当你在浏览器中输入地址后，经过DNS服务器找到服务器主机，向服务器发送一个请求，服务器经过解析后发送给用户浏览器结果，包括html,js,css等文件内容，浏览器解析出来最后呈现给用户在浏览器上看到的结果。
所以用户看到的浏览器的结果就是由HTML代码构成的，我们爬虫就是为了获取这些内容，通过分析和过滤html代码，从中获取我们想要资源。

参考技术A

爬虫一般是指网络资源的抓取，由于Python的脚本特性，易于配置对字符的处理非常灵活，Python有丰富的网络抓取模块，因此两者经常联系在一起Python就被叫作爬虫。

Python爬虫的构架组成：

Python的工作流程则：

参考技术B

Python

就是一个程序，他把网页源代码下载下来，然后，用字符串提取的方式提取里面有效的信息，然后再把这个网页里的所有链接，再以同样的方式访问下载，然后再找里面的链接。周而复始，这样就可以慢慢的像虫子一样爬满整个网络的网页信息了，简单说叫数据采集。

参考技术C 爬虫又叫做网络爬虫，可以理解为蜘蛛在网络上进行爬行，互联网是一个巨大的网络，爬虫就是行走在网络上的爬虫，遇到自己喜欢的食物，就会抓取下来，抓取网络资源。
而Python是最适合爬虫的语言，因为Python本身上就是一种比较简单的编程语言，适合零基础人员，更适合初学者学习，门槛低、功能强大;从实际情况上来说，爬虫是Python里面较为简单的课程，学习起来并不是非常困难的，简单的说，只要能在网络上看到的数据都是可以爬取的，大多数的爬虫都是通过发送请求-获取页面-解析页面-提取和存储内容来实现，实际就是用来获取网页的信息。 参考技术D 为自动提取网页的程序，它为搜索引擎从zhi万维网上下载网页。网络爬虫为一个自动提取网页的程序，它为搜索引擎从万维网上下载网页，是搜索引擎的重要组成。传统爬虫从一个或若干初始网页的URL开始，获得初始网页上的URL，在抓取网页的过程中，不断从当前页面上抽取新的URL放入队列,直到满足系统的一定停止条件。将根据一定的搜索策略从队列中选择下一步要抓取的网页URL，并重复上述过程，直到达到系统的某一条件时停止。另外，所有被爬虫抓取的网页将会被系统存贮，进行一定的分析、过滤，并建立索引，以便之后的查询和检索。