(轉(zhuǎn))Python模塊之requests

一、HTTP協(xié)議

HTTP(Hyper Text Transfer Protocol)意為超文本傳輸協(xié)議,它提供了一種發(fā)布和接收HTML網(wǎng)頁的方法,我們一般稱客戶端為用戶代理程序(user agent),應(yīng)答的服務(wù)器上存儲著一些資源,比如HTML文件和圖像,我們稱這個應(yīng)答服務(wù)器為源服務(wù)器。而HTTP就是一個客戶端終端(用戶)和服務(wù)器端(網(wǎng)站)請求和應(yīng)答(其實(shí)簡單看來就是瀏覽網(wǎng)頁的過程)的標(biāo)準(zhǔn)。

二、請求方法

在HTTP協(xié)議中,定義了八種方法來操作指定的資源(下面只會用到GET,POST):

OPTIONS,HEAD,GET,POST,PUT,DELETE,TRACE,CONNECT。

簡單說明一下各個方法的功能:

OPTIONS:使服務(wù)器傳回該資源所支持的所有HTTP請求方法,可以測試服務(wù)器功能是否正常運(yùn)作。

HEAD:向服務(wù)器發(fā)出指定資源的請求,只不過服務(wù)器將不傳回資源的本文部分。

GET:向指定的資源發(fā)出“顯示”請求。

POST:向指定資源提交數(shù)據(jù),請求服務(wù)器進(jìn)行處理(例如提交表單或者上傳文件)。

PUT:向指定的資源上傳最新內(nèi)容。

DELETE:請求服務(wù)器刪除所標(biāo)識的資源。

TRACE:顯示服務(wù)器收到的請求,用于測試。

CONNECT:通常用于SSL加密服務(wù)器的鏈接。

(以上參考維基百科)

通常我們?yōu)g覽網(wǎng)頁時,其實(shí)就是一個GET方法,從服務(wù)器端加載網(wǎng)頁進(jìn)來。

所以GET是其中最常用的一種方法。而在我們平常使用(比如爬蟲)時,幾乎都要用到這個方法。

三、安裝requests

>>>pip install requests

一、發(fā)送請求

首先導(dǎo)入requests庫

>>>import requests

導(dǎo)入后,你就可以直接發(fā)出請求了:

>>>r=requests.get('https://www.zhihu.com/')

這樣一來,你就得到了一個Response對象r,這個對象里已經(jīng)包含了你想要的網(wǎng)頁信息。

遇到某些需要登錄驗(yàn)證信息的網(wǎng)站,只用GET方法是得不到在瀏覽器上看到的網(wǎng)頁的,這時你得附帶headers和cookies:

>>>r=requests.get('https://www.zhihu.com/',headers={'key':'value'},cookies={'key':'value'})

其中headers和cookies參數(shù)是以字典的方式存儲的,它們的信息可以在瀏覽器里開發(fā)者工具中看到。一般headers用以偽裝成瀏覽器,而cookies是你存儲的表單密碼cookie。這兩者在請求網(wǎng)頁內(nèi)容中最常用,如果請求失敗時,可以檢查一下看看自己有沒有將headers和cookies考慮進(jìn)來。

二、傳遞參數(shù)進(jìn)URLs

在使用該方法前你需要了解網(wǎng)址的參數(shù),網(wǎng)址中一般在后面加上?號,而問號后面帶的是一串參數(shù),比如:

>>>paylod={'key1':'value1','key2':['value2','value3']}>>>r=requests.get('https://www.zhihu.com/get',params=payload)>>>print(r)https://www.zhihu.com/get?key1=value1&key2=value2&key2=value3

這種帶參數(shù)的網(wǎng)址,在一些有表格數(shù)據(jù)的網(wǎng)站非常常見。

三、響應(yīng)內(nèi)容

用上面獲取的Response對象的.text方法,可以得到網(wǎng)頁的內(nèi)容:

>>>r.textu'....................'

requests會自動為你編碼,你可以用.encoding方法查看編碼,或是更改編碼格式:

>>>r.encoding'utf-8'>>>r.encoding='ISO-8859-1'

除了.text方法外,還有其它響應(yīng)內(nèi)容的方法:

1.如果想獲得二進(jìn)制,可以用.content的方法:

>>>r.contentb'..................'

2.用.json()方法可以返回json內(nèi)容:

>>>r.json()b'{'xxx':'xxx'}'

3.在某些情況下你可能需要得到原始套接字回應(yīng),此時你可以在原始的request請求中將stream參數(shù)設(shè)為True,然后再用.raw方法:

>>>r=requests.get('http://www.zhihu.com/get',stream=True)>>>r.raw

四、返回狀態(tài)碼

在發(fā)送請求后,我們可以通過以下方法檢查狀態(tài)碼:

>>>r.status_code200

requests還提供了一個簡單的參考方式:

r.status_code==requests.codes.okTrue

如果我們發(fā)送了一個錯誤的請求,可以用.raise_for_status()來引出一個錯誤:

>>>r.status_code404>>>r.raise_for_status()Traceback(mostrecentcalllast):File"requests/models.py",line832,inraise_for_statusraisehttp_errorrequests.exceptions.HTTPError:404ClientError

五、返回請求頭

我們可以點(diǎn)取屬性取得請求時的請求頭(Headers):

>>>r.headers{'content-encoding':'gzip','transfer-encoding':'chunked','connection':'close','server':'nginx/1.0.4','x-runtime':'148ms','etag':'"e1ca502697e5c9317743dc078f67693f"','content-type':'application/json'}

所以我們可以直接訪問我們想要的內(nèi)容:

>>>r.headers['content-encoding']'gzip'

同理,你也可以通過這種方式訪問Cookies:

>>>r.cookies['example_cookie_name']'example_cookie_value'

六、重定向和歷史紀(jì)錄

在了解該功能前,你需要了解重定向的內(nèi)容,重定向指的是把你的網(wǎng)絡(luò)請求重新定個方向,讓它轉(zhuǎn)移到其它位置。為什么要重定向呢?因?yàn)楫?dāng)你的網(wǎng)絡(luò)結(jié)構(gòu)發(fā)生變化、更換網(wǎng)址和改變擴(kuò)展名(比如.php改成.html)時,如果不進(jìn)行重定向,用戶便會訪問到一個錯誤的網(wǎng)址,從而發(fā)生錯誤,使網(wǎng)站損失用戶。所以,在一些網(wǎng)站進(jìn)行重大改版時,在進(jìn)入網(wǎng)頁時你常常會發(fā)現(xiàn)出現(xiàn)跳轉(zhuǎn)的情況,其實(shí)就是重定向。

在requests中,可以用history方法來追蹤重定向。同時可以在請求時選擇開啟或關(guān)閉重定向(除了HEAD請求外,默認(rèn)都是開啟。)

>>>r=requests.get('http://github.com',allow_redirects=True)>>>r.history[]

七、超時設(shè)定

你可以傳入一個時限來限定requests最大訪問時間,當(dāng)無響應(yīng)時長超過這個時限時,就會發(fā)生錯誤:

>>r=requests.get('http://www.zhihu.com/',timeout=0.1)Traceback(mostrecentcalllast):File"",line1,inrequests.exceptions.Timeout:HTTPConnectionPool(host='github.com',port=80):Requesttimedout.(timeout=0.1)

寫在最后

本文翻譯于官方文檔(雖然寫完才發(fā)現(xiàn)有中文版。。),其中內(nèi)容經(jīng)過自己的一些理解所寫,對原有文檔進(jìn)行了適當(dāng)刪減,同時一些地方的知識做了點(diǎn)補(bǔ)充。


轉(zhuǎn)自知乎作者:林駿翔

鏈接:https://zhuanlan.zhihu.com/p/21976757

來源:知乎

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,663評論 6 531
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,125評論 3 414
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,506評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,614評論 1 307
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,402評論 6 404
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 54,934評論 1 321
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,021評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,168評論 0 287
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,690評論 1 333
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,596評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,784評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,288評論 5 357
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,027評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,404評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,662評論 1 280
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,398評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,743評論 2 370

推薦閱讀更多精彩內(nèi)容