我想进行自定义延迟,因为全局延迟在我的代码中效率低下。
因为我不知道我在这个线程中寻找什么:刮擦很慢(60 页/分钟)我决定最好把它作为一个新问题来问。
基本上我有:
amazon request
API request
API request
如果我使用 DOWNLOAD_DELAY = 1就像有:
amazon request
delay(1)
API request
delay(1)
API request
delay(1)
当我实际上只需要:
amazon request
API request
delay(1)
API request
delay(1)
如何实现延迟? 我不认为 Scrapy 有这个功能。
你可以在 python. 中的时间模块中使用 sleep 函数。 https://docs.python.org/2/library/time.html。
它的参数以秒为单位,因此代码将:
from time import sleep
amazon request
API request
sleep(1)
API request
sleep(1)