如何使用延迟python代码更慢地抓取[重复]

Posted

技术标签:

【中文标题】如何使用延迟python代码更慢地抓取[重复]【英文标题】:How to scrape more slowly using delay python code [duplicate] 【发布时间】:2018-10-23 17:21:48 【问题描述】:

我正在制作一个网页scraper,它有一个从一个页面到另一个页面的循环。唯一的问题是它运行得太快,我被暂时禁止访问该网站。 (该网站允许机器人访问其内容)。

是否有任何库/命令可以添加到我的代码中以使其运行速度变慢?

【问题讨论】:

【参考方案1】:

以下代码将使您的代码休眠 1 秒。

import time
time.sleep(1)

【讨论】:

另外,你可以使用 AsyncIO。

以上是关于如何使用延迟python代码更慢地抓取[重复]的主要内容,如果未能解决你的问题,请参考以下文章

如何使用 ScrollController 检查 ListView 滚动速度

使用javascript屏幕延迟抓取网站[关闭]

Python(如何使文本在python shell中显得更慢)

使用python和beautifulsoup4抓取网页后重复数据

如何使用 Python 3.5 和 BeautifulSoup 抓取 href [重复]

如何用python抓取百度地图数据