如何进行自定义延迟



我想进行自定义延迟,因为全局延迟在我的代码中效率低下。

因为我不知道我在这个线程中寻找什么:刮擦很慢(60 页/分钟)我决定最好把它作为一个新问题来问。

基本上我有:

amazon request
API request
API request

如果我使用 DOWNLOAD_DELAY = 1就像有:

amazon request
delay(1)
API request
delay(1)
API request
delay(1)

当我实际上只需要:

amazon request
API request
delay(1)
API request
delay(1)

如何实现延迟? 我不认为 Scrapy 有这个功能。

你可以在 python. 中的时间模块中使用 sleep 函数。 https://docs.python.org/2/library/time.html。

它的参数以秒为单位,因此代码将:

from time import sleep
amazon request
API request
sleep(1)
API request
sleep(1)

最新更新