您的位置:首頁技術文章
文章詳情頁

python - scrapy 處理 文章 分頁的內容

瀏覽:94日期:2022-08-03 16:15:10

問題描述

如一篇文章有2-3頁,然后想把這些內容頁爬下來,拼接成一頁,然后再放入數據庫。文章url如:article_1.html,article_2.htmlitem有:item[’title’],item[’content’]而item[’content’]就是拼接成一頁的內容。大概怎么寫呢?

問題解答

回答1:

找到分頁接口url

回答2:

找到那個下一頁的鏈接,加入到爬取url列表中

回答3:

可以在rules里面寫正則自動掃描符合的url

標簽: Python 編程
相關文章:
国产综合久久一区二区三区