python爬虫selenium的三种等待
Posted 一棵树0108
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python爬虫selenium的三种等待相关的知识,希望对你有一定的参考价值。
一、 强制等待
第一种也是最简单粗暴的一种办法就是强制等待sleep(xx),强制让闪电侠等xx时间,不管凹凸曼能不能跟上速度,还是已经提前到了,都必须等xx时间。
1 from selenium import webdriver 2 from time import sleep 3 driver = webdriver.Firefox() 4 driver.get(‘https://huilansame.github.io‘) 5 sleep(3) # 强制等待3秒再执行下一步 6 print driver.current_url 7 driver.quit()
这种叫强制等待,不管你浏览器是否加载完了,程序都得等待3秒,3秒一到,继续执行下面的代码,作为调试很有用,有时候也可以在代码里这样等待,不过不建议总用这种等待方式,太死板,严重影响程序执行速度。
二、隐性等待
1 from selenium import webdriver 2 driver = webdriver.Firefox() 3 driver.implicitly_wait(30) # 隐性等待,最长等30秒 4 driver.get(‘https://huilansame.github.io‘) 5 print driver.current_url 6 driver.quit()
隐形等待是设置了一个最长等待时间,如果在规定时间内网页加载完成,则执行下一步,否则一直等到时间截止,然后执行下一步。
注意这里有一个弊端,那就是程序会一直等待整个页面加载完成,也就是一般情况下你看到浏览器标签栏那个小圈不再转,才会执行下一步,但有时候页面想要的元素早就在加载完成了,但是因为个别js之类的东西特别慢,我仍得等到页面全部完成才能执行下一步,我想等我要的元素出来之后就下一步怎么办?有办法,这就要看selenium提供的另一种等待方式——显性等待wait了。
三、 显性等待
第三种办法就是显性等待,WebDriverWait,配合该类的until()和until_not()方法,就能够根据判断条件而进行灵活地等待了。它主要的意思就是:程序每隔xx秒看一眼,如果条件成立了,则执行下一步,否则继续等待,直到超过设置的最长时间,然后抛出TimeoutException。
from selenium import webdriver from selenium.webdriver.support.wait import WebDriverWait from selenium.webdriver.support import expected_conditions as EC from selenium.webdriver.common.by import By driver = webdriver.Firefox()
1 # 隐性等待和显性等待可以同时用,但要注意:等待的最长时间取两者之中的大者 2 driver.implicitly_wait(10) 3 4 driver.get(‘https://huilansame.github.io‘) 5 locator = (By.LINK_TEXT, ‘CSDN‘) 6 try: 7 wait = WebDriverWait(driver, 20, 0.5) 8 wait.until(EC.presence_of_element_located(locator)) 9 print(driver.find_element_by_link_text(‘CSDN‘).get_attribute(‘href‘)) 10 finally: 11 driver.close()
expected_conditions模块
expected_conditions是selenium的一个模块,其中包含一系列可用于判断的条件。
1 EC.title_is 2 EC.title_contains 3 # 这两个条件类验证title,验证传入的参数title是否等于或在driver.title中
1 EC.presence_of_element_located((By.CSS_SELECTOR,‘.ui-page > wrap‘)) 2 EC.presence_of_all_elements_located((By.CSS_SELECTOR,‘.ui-page‘)) 3 # 这两个条件验证元素是否出现,传入的参数都是元组类型的locator,如(By.ID, ‘kw‘) 4 # 一个只要一个符合条件的元素加载出来就通过; 5 # 另一个必须所有符合条件的元素都加载出来才行
1 EC.visibility_of_element_located 2 EC.invisibility_of_element_located 3 EC.visibility_of 4 # 这三个条件验证元素是否可见 5 # 前两个传入参数是元组类型的locator,第三个传入WebElement 6 # 第一个和第三个其实质是一样的
1 EC.text_to_be_present_in_element 2 EC.text_to_be_present_in_element_value 3 # 这两个判断某段文本是否出现在某元素中 4 # 一个判断元素的text,一个判断元素的value属性
1 EC.frame_to_be_available_and_switch_to_it 2 # 这个条件判断frame是否可切入, 3 # 可传入locator元组或者直接传入定位方式:id、name、index或WebElement
1 # 这个条件判断是否有alert出现 2 EC.alert_is_present 3 #这个条件判断元素是否可点击,传入locator 4 EC.element_to_be_clickable 5 # 这四个条件判断元素是否被选中, 6 第一个条件传入WebElement对象,第二个传入locator元组 7 # 第三个传入WebElement对象以及状态,相等返回True,否则返回False 8 # 第四个传入locator以及状态,相等返回True,否则返回False 9 EC.element_to_be_selected 10 EC.element_located_to_be_selected 11 EC.element_selection_state_to_be 12 EC.element_located_selection_state_to_be 13 # 最后一个条件判断一个元素是否仍在页面中,传入WebElement对象,可以判断页面是否刷新 14 EC.staleness_of
以上是关于python爬虫selenium的三种等待的主要内容,如果未能解决你的问题,请参考以下文章
selenium中的三种等待方式(显示等待WebDriverWait()隐式等待implicitly()强制等待sleep())---基于python