Python爬虫入门教程 44-100 Charles的安装与使用-手机APP爬虫部分

Posted 梦想橡皮擦 Python爬虫、Python爬虫百例入门、

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python爬虫入门教程 44-100 Charles的安装与使用-手机APP爬虫部分相关的知识,希望对你有一定的参考价值。

1. 第二款抓包工具Charles安装与使用

Charles和Fiddler一样,也是一款抓包工具,比Fiddler界面更加清晰,支持多平台
python3爬虫入门教程

1.1 官方网址

https://www.charlesproxy.com/

1.2 下载地址

Charles工具下载地址:https://www.charlesproxy.com/download/

自己去百度一款,我找了2个百度网盘的 链接挂了就不补了啊~

  1. 链接: https://pan.baidu.com/s/1pMawsEv 密码:meuk
  2. 链接: https://pan.baidu.com/s/1kV3h0gf 密码: nqaa

下载之后,安装就比较简单了,常规操作即可

2. Charles基本操作

打开Charles在电脑上就可以使用了
python3爬虫入门教程

2.1 PC设置抓包,包括HTTP和HTTPS

软件安装好了之后,默认是需要抓取电脑浏览器访问的,但是好多网站是https的请求,那样你访问大概率得到的是unknow

如下图,会显示一堆小锁的图标,表示加密请求,我们需要配置一些内容,将这些锁解开
python3爬虫入门教程

2.2 安装根证书

电脑上安装根证书,只需要按照下面三个步骤就可以了,弹出来安装证书,一路下一步即可。
python3爬虫入门教程
勾选代理里面的windows proxy即可抓包
python3爬虫入门教程

接下来是关键的一个步骤,需要抓取本地的https包
python3爬虫入门教程

弹出的窗口配置一下host,你直接写 * 即可
大部分人会设置Host:* port:443 ;但是如果直接点击OK也是没有问题的

python3爬虫入门教程

这时候,在刷新一下百度,https解包了
python3爬虫入门教程

3. Charles抓取手机APP基本操作

配置完毕了电脑抓包之后,就需要开始准备手机APP抓包了,基本操作和Fiddler是非常类似的
设置基本代理

python3爬虫入门教程

配置如下内容,端口号一般默认8888即可

python3爬虫入门教程

4. 夜神模拟器基本设置

打开模拟器设置,wlan,长按,选择代理设置,基本配置之后,打开默认浏览器。
python3爬虫入门教程

在手机已经设置好代理网络后,在手机浏览器中输入http://charlesproxy.com/getssl 安装证书(如果需要抓取https数据,则证书必须安装)

或者输入 chls.pro/ssl 也是可以安装证书的

python3爬虫入门教程

证书安装完毕,打开浏览器输入百度,查看是否安装成功

运行之后,出现百度抓取链接,表示成功。
python3爬虫入门教程

如果想只抓取手机APP发送的请求的话,可以不勾选WindowsProxy选项,这样在测试时就不会被本机Http请求所干扰。

5. Charles 使用说明

python3爬虫入门教程

  • 扫把按钮:点击之后可清除抓取到的所有请求
  • 图标按钮:红点亮起说明正在抓取请求,红点展示为灰色说明目前不在抓取请求状态
  • 乌龟按钮:灰色乌龟是网速设置正常,绿色乌龟指慢速网速开启了
  • 六角形图标:断点图标,灰色说明断点未开启,红色说明在使用断点
  • 钢笔图标:编辑请求,点击之后可以修改请求的内容
  • 刷新图标:重复发送请求的图标,先选定某一请求点击该图标则请求会被再次发送
  • 对号图标:
  • 扳手图标:对应于导航栏中的tools图标,有些许功能
  • 设置图标:设置charles中的情况

过滤不必要的网络包

选择Proxy->Recording Settings菜单,然后在include栏添加需要抓取包的指定服务器请求协议、地址、端口号,也可以在exclude栏添加不抓取包的地址。

在Sequence界面的Filter栏中填入需要过滤的关键字

代理转发

中文乱码

edit -> preferences -> 选择一个中文字体

其他内容就不补充了,自行体验吧

最后,给你附录几个写的不错的博客

https://blog.csdn.net/zhangxiang_1102/article/details/77855548
https://segmentfault.com/a/1190000012329292?utm_source=tag-newest
https://www.cnblogs.com/jiayuchn-test/p/8875105.html

下一篇,我们就实际应用一下Charles,期待哪一个APP被我们临幸吧。

以上是关于Python爬虫入门教程 44-100 Charles的安装与使用-手机APP爬虫部分的主要内容,如果未能解决你的问题,请参考以下文章

Python爬虫入门:爬虫基础了解

如何入门 Python 爬虫?

如何入门爬虫(基础篇)

如何入门爬虫(基础篇)

python爬虫入门教程全集

python爬虫