python爬虫 selenium+phantomjs动态解析网页,加载页面成功,返回空数据
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python爬虫 selenium+phantomjs动态解析网页,加载页面成功,返回空数据相关的知识,希望对你有一定的参考价值。
废话不多说,直接说重点:
刚开始做的时候,代理IP,头部信息池,都已经做好了,使用selenium+phantomjs获取js动态加载后的源码
起初挺好的,能出来动态加载后的源码,但是运行了几次之后,电脑有点卡顿(估计是运存太小),源码就获取不到了,返回的数据
都是空数据,以至于都是出错
在做的时候一定要给页面加载之前做一个延时,以保证页面的正常加载出来,这样我们才能获取导数据
我在加载前后都做了延时等待,当然,我这个就是说这个意思,没必要仿照
可以根据自己的需求进行设置,然后源码就加载出来了,就是有点慢!
以上是关于python爬虫 selenium+phantomjs动态解析网页,加载页面成功,返回空数据的主要内容,如果未能解决你的问题,请参考以下文章
Python 爬虫实例(12)—— python selenium 爬虫
小白学 Python 爬虫(40):爬虫框架 Scrapy 入门基础对接 Selenium 实战