Python爬虫面试常见问题

Posted 残风卷云

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python爬虫面试常见问题相关的知识,希望对你有一定的参考价值。

先收藏一下,有空再整理答案

爬虫面试常见问题

一、项目问题:

1.你写爬虫的时候都遇到过什么反爬虫措施,你是怎样解决的

2.用的什么框架。为什么选择这个框架

二、框架问题:

1.scrapy的基本结构(五个部分都是什么,请求发出去的整个流程)

2.scrapy的去重原理(指纹去重到底是什么原理)

3.scrapy中间件有几种类,你用过哪些中间件

4.scrapy中间件在哪里起的作业(面向切片编程)

三、代理问题:

1.为什么会用到代理

2.代理怎么使用(具体代码, 请求在什么时候添加的代理)

3.代理失效了怎么处理

四、验证码处理:

1.登陆验证码处理

2.爬取速度过快出现的验证码处理

3.如何用机器识别验证码

五、模拟登陆问题:

1.模拟登陆流程

2.cookie如何处理

3.如何处理网站传参加密的情况

六、分布式:

1.分布式原理

2.分布式如何判断爬虫已经停止了

3.分布式的去重原理

七、数据存储和数据库问题:

1.关系型数据库和非关系型数据库的区别

2.爬下来数据你会选择什么存储方式,为什么

3.各种数据库支持的数据类型,和特点

八、Python基础问题:

ps:基础问题是非常多的,因为是爬虫性质,所以抽了一些问的比较多的,总结如下:

1.Python2与Python3的区别,如何实现python2代码迁移到Python3环境

2.Python2和Python3的编码方式有什么差别

3.迭代器,生成器,装饰器

4.Python的数据类型

九、协议问题:

1.http协议,请求由什么组成,每个字段分别有什么用,https和http有什么差距

2.证书问题

3.TCP,UDP各种相关问题

十、数据提取问题:

1.主要使用什么样的结构化数据提取方式,可能会写一两个例子

2.正则的使用

3.动态加载的数据如何提取

4.json数据如何提取

十一、算法问题:

算法:你们要善用Python的数据类型,对Python的数据结构深入了解

Python web面试常见问题

一、Python语法以及其他基础部分:

1.可变与不可变类型

2.浅拷贝与深拷贝的实现方式、区别;deepcopy如果你来设计,如何实现

3.new()与init()的区别

4.你知道几种设计模式

5.编码与解码你了解过吗

6.列表推导式list comprehension和生成器的优劣

7.什么是装饰器;如果想在函数之后进行装饰,应该怎么做

8.手写个使用装饰器实现的单例模式

9.使用装饰器的单例和使用其他方法的单例,在后续使用中,有何区别

10.手写:正则邮箱地址

11.介绍下垃圾回收:引用计数/分代回收/孤立引用环

12.多进程和多线程的区别,cpu密集型适合用什么

13.进程通信的方式有几种

14.介绍下协程,为何比线程快

15.range和xrange的区别

二、算法排序部分:

1.手写快排;堆排;几种常用排序的算法复杂度是多少;快排平均复杂度多少,最坏情况如何优化

2.手写:已知一个长度n的无序列表,元素均是数字,要求把所有间隔为d的组合找出来,你写的解法算法复杂度多少

3.手写:一个列表A=[A1,A2,…,An],要求把列表中所有的组合情况打印出来;

4.手写:用一行python写出1+2+3+…+10**8

5.手写python:用递归的方式判断字符串是否为回文

6.单向链表长度未知,如何判断其中是否有环

7.单向链表如何使用快速排序算法进行排序

7.手写:一个长度n的无序数字元素列表,如何求中位数,如何尽快的估算中位数,9).你的算法复杂度是多少;

8.如何遍历一个内部未知的文件夹(两种树的优先遍历方式)

三、网络基础部分:

1.TCP/IP分别在模型的哪一层

2.socket长连接是什么意思

3.select和epoll你了解么,区别在哪

4.TCP UDP区别;三次握手四次挥手讲一下

5.TIME_WAIT过多是因为什么

6.http一次连接的全过程:你来说下从用户发起request——到用户接收到 response

7.http连接方式。get和post的区别,你还了解其他的方式么

8.restful你知道么

9.状态码你知道多少,比如200/403/404/504等等

四、数据库部分:

1.MySQL锁有几种;死锁是怎么产生的; 为何,以及如何分区、分表;

2.MySQL的char varchar text的区别:

了解join么,有几种有何区别,A LEFT JOIN B,查询的结果中,B没有的那部分是如何显示的(NULL)

3.索引类型有几种,BTree索引和hash索引的区别

4.手写:如何对查询命令进行优化

5.NoSQL了解么,和关系数据库的区别,redis有几种常用存储类型

五、linux部分:

1.讲一下你常用的Linux/git命令和作用;

2.查看当前进程是用什么命令,除了文件相关的操作外,你平时还有什么操作命令;

六. Django项目部分:

都是让简单的介绍下你在公司的项目,不管是不是后端相关的,主要是要体现出你干了什么

你在项目中遇到最难的部分是什么,你是怎么解决的; 你看过django的admin源码么

看过flask的源码么,你如何理解开源

MVC / MTV, 缓存怎么用, 中间件是干嘛的

CSRF是什么,django是如何避免的,XSS

如果你来设计login,简单的说一下思路

session和cookie的联系与区别,session为什么说是安全的

uWSGI和Nginx的作用;

以上是关于Python爬虫面试常见问题的主要内容,如果未能解决你的问题,请参考以下文章

常见的Python爬虫面试题,叫面试官唱征服

Python面试数据分析,爬虫和深度学习一般都问啥问题,笔试题目考哪些?

高频Python一线大厂面试题:算法+爬虫+数据处理+基础

高频一线大厂Python面试题:算法+爬虫+数据处理+基础

高频一线大厂 Python 面试题:算法+爬虫+数据处理+基础

python面试题----4