有没有办法找到你目前正在抓取的URL ?



我目前正在尝试创建一个爬行每个结果的蜘蛛,并从每个结果中获取一些信息。唯一的问题是,我不知道如何找到我目前在的URL(我也需要检索)。

有办法吗?

我知道如何使用Selenium和Scrapy-Selenium,但我只使用一个简单的CrawlSpider为这个项目。

您可以使用:

current_url = response.request.url

最新更新