Scrapy Splash:点击按钮无法打开下一页

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Scrapy Splash:点击按钮无法打开下一页相关的知识,希望对你有一定的参考价值。

我无法使用Scrapy-Splash执行Click按钮。我试图抓住的网站就是这个:https://search.siemens.com/en/?q=iot&lr=lang_en&as_oq=&as_sitesearch=&site=siemens_c_ww&client=siemens_f_ww&getfields=%2A&proxystylesheet=p_ia&queryString=lang%3Den%26site%3Dsiemens_c_ww%26q%3Diot%26lr%3Dlang_en%26collapse%3Dtrue%26class%3Dsearch%2Cbanner%2Ctext%26_charset%3DUTF-8&start=10&hl=en&access=p&filter=1&output=xml_no_dtd&sort=date%253AD%253AL%253Ad1&oe=UTF-8&ie=UTF-8&exclude_apps=1&ud=1&sheet=0

我使用以下脚本:

function main(splash, args)
  assert(splash:go(args.url))
  assert(splash:wait(0.5))
  assert(splash:runjs('document.querySelector(".next a[href]").click()'))
  splash:set_viewport_full()
  return 
    html = splash:html(),
    png = splash:png(),
    har = splash:har(),
  
end

执行后我回到第一页而不是下一页。单击按钮手动工作。我尝试使用mouse_click()得到相同的结果。谢谢你有更多的想法来解决这个问题:)

答案

我认为你需要在点击按钮后等待一段延迟时间。 Splash需要时间来重新呈现动态页面

以上是关于Scrapy Splash:点击按钮无法打开下一页的主要内容,如果未能解决你的问题,请参考以下文章

单击按钮移动到下一页时出错

Scrapy下一页按钮和上一页按钮在同一类,无法到达下一页

如何在不单击“下一步”按钮的情况下以重力形式进入下一页

Flyout的“轻度解雇”需要2个点击才能打开下一个弹出窗口

打开下一个表单后,我的程序将关闭

Android Studio:使按钮打开下一个活动