文章詳情頁
python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示
瀏覽:113日期:2022-08-03 11:20:00
問題描述
爬蟲運行時一直是這樣的每一分鐘出現一條這樣的信息,無限循環。不能爬取下來數據
這是redis服務端的顯示
這樣是什么問題,望有高手可以為我解惑,謝謝。
問題解答
回答1:使用scrapy_redis,你要去投放url讓spider去爬取,你投放了嗎?比如
redis-cli lpush myspider:start_urls http://google.com
相關文章:
1. angular.js - angularjs如何傳遞id給另一個視圖 根據id獲取json數據?2. docker gitlab 如何git clone?3. Span標簽4. mysql - 記得以前在哪里看過一個估算時間的網站5. dockerfile - [docker build image失敗- npm install]6. docker start -a dockername 老是卡住,什么情況?7. docker images顯示的鏡像過多,狗眼被亮瞎了,怎么辦?8. 數據庫無法進入9. 在windows下安裝docker Toolbox 啟動Docker Quickstart Terminal 失??!10. javascript - 前端開發 本地靜態文件頻繁修改,預覽時的緩存怎么解決?
排行榜
