您的位置:首頁/技術文章
文章詳情頁

python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示

瀏覽:113日期:2022-08-03 11:20:00

問題描述

python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示

爬蟲運行時一直是這樣的每一分鐘出現一條這樣的信息,無限循環。不能爬取下來數據python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示

這是redis服務端的顯示

這樣是什么問題,望有高手可以為我解惑,謝謝。

問題解答

回答1:

使用scrapy_redis,你要去投放url讓spider去爬取,你投放了嗎?比如

redis-cli lpush myspider:start_urls http://google.com

標簽: Python 編程
相關文章:
国产综合久久一区二区三区