python爬蟲防封IP的方法應該放到代碼的哪個位置

問題描述

想要爬豆瓣電影，但是很容易403，就想代理IP或者修改請求頭，但是看了很多資料，不知道他們那些代碼應該放到整個程序的哪個位置，我用的是美麗湯和request，應該增添什么代碼，增添到什么位置

問題解答

BeautifulSoup的中文名原來叫美麗湯。。。

吐槽完畢，服務端一般是通過IP報文來檢測請求的IP的地址的，所以單純的修改HTTP請求的內容一般來說是不起作用的，最好的方式是使用 Requests 的代理功能來進行訪問，可以解除 IP 限制的問題。

請看看Python爬蟲聯想詞視頻和代碼https://zhuanlan.zhihu.com/p/...

跟黃哥學Python爬蟲抓取代理IP和驗證。https://zhuanlan.zhihu.com/p/...跟黃哥學Python爬蟲抓取代理IPhttps://zhuanlan.zhihu.com/p/...