python 开发之selenium

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python 开发之selenium相关的知识,希望对你有一定的参考价值。

使用selenium和PhantomJS来模拟浏览器点击下一页,获取页面数据进行抓取分析
用python写爬虫的时候,主要用的是selenium的Webdriver来获取页面数据
使用webdriver需要安装对应浏览器的driver,并加入到环境变量中
from selenium import webdriver
driver = webdriver.PhantomJS() 使用PhantomJS浏览器创建浏览器对象
driver.get("https://www.douyu.com/directory/all") 使用get方法加载页面
driver.find_element_by_class_name("shark-pager-next").click() class="shark-pager-next"是下一页按钮,click() 是模拟点击
利用BeatuifulSoup 对页面信息进行提取
模拟点击时需要安装 https://bitbucket.org/ariya/phantomjs/downloads/phantomjs-2.1.1-windows.zip

以上是关于python 开发之selenium的主要内容,如果未能解决你的问题,请参考以下文章

python开发工具之分析

编程基础之Python4安装Python开发工具

Python库之游戏开发

python开发之路-LuffyCity

python开发之路---第二章之--函数之高阶函数

python开发之路---第二章之--函数之其余内容