這篇文章主要介紹了python爬蟲(chóng)設(shè)置代理ip的方法,具有一定借鑒價(jià)值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
創(chuàng)新互聯(lián)公司是創(chuàng)新、創(chuàng)意、研發(fā)型一體的綜合型網(wǎng)站建設(shè)公司,自成立以來(lái)公司不斷探索創(chuàng)新,始終堅(jiān)持為客戶提供滿意周到的服務(wù),在本地打下了良好的口碑,在過(guò)去的10年時(shí)間我們累計(jì)服務(wù)了上千家以及全國(guó)政企客戶,如成都圍欄護(hù)欄等企業(yè)單位,完善的項(xiàng)目管理流程,嚴(yán)格把控項(xiàng)目進(jìn)度與質(zhì)量監(jiān)控加上過(guò)硬的技術(shù)實(shí)力獲得客戶的一致稱譽(yù)。
python爬蟲(chóng)設(shè)置代理ip的方法:首先寫入獲取到的ip地址到proxy;然后用百度檢測(cè)ip代理是否成功,并請(qǐng)求網(wǎng)頁(yè)傳的參數(shù);最后發(fā)送get請(qǐng)求,并獲取返回頁(yè)面保存到本地。
python爬蟲(chóng)設(shè)置代理ip的方法:
設(shè)置ip代理是爬蟲(chóng)必不可少的技巧;
查看本機(jī)ip地址;打開(kāi)百度,輸入“ip地址”,可以看到本機(jī)的IP地址;
本文使用的是goubanjia.com里面的免費(fèi)ip;
使用時(shí)注意要注意傳輸協(xié)議是http還是https,代碼如下;
# 用到的庫(kù) import requests # 寫入獲取到的ip地址到proxy proxy = { 'https':'221.178.232.130:8080' } # 用百度檢測(cè)ip代理是否成功 url = 'https://www.baidu.com/s?' # 請(qǐng)求網(wǎng)頁(yè)傳的參數(shù) params={ 'wd':'ip地址' } # 請(qǐng)求頭 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36' } # 發(fā)送get請(qǐng)求 response = requests.get(url=url,headers=headers,params=params,proxies=proxy) # 獲取返回頁(yè)面保存到本地,便于查看 with open('ip.html','w',encoding='utf-8') as f: f.write(response.text)
打開(kāi)存入的“ip.html”查看內(nèi)容如下;
感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享python爬蟲(chóng)設(shè)置代理ip的方法內(nèi)容對(duì)大家有幫助,同時(shí)也希望大家多多支持創(chuàng)新互聯(lián),關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,遇到問(wèn)題就找創(chuàng)新互聯(lián),詳細(xì)的解決方法等著你來(lái)學(xué)習(xí)!
網(wǎng)站標(biāo)題:python爬蟲(chóng)設(shè)置代理ip的方法
本文鏈接:http://aaarwkj.com/article14/gdspde.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供虛擬主機(jī)、品牌網(wǎng)站設(shè)計(jì)、網(wǎng)站內(nèi)鏈、ChatGPT、App設(shè)計(jì)、服務(wù)器托管
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)