最新的爬蟲庫requests-html

前語為了照顧有英語障礙的朋友,部分文字是經(jīng)過翻譯的

image.png
在使解析HTML(例如,抓取Web)盡可能簡單直觀。

使用此庫時,您會自動獲得:

完整的JavaScript支持!

  • CSS Selectors(又名jQuery風(fēng)格,感謝PyQuery)。
  • XPath Selectors,對于膽小的人來說。
  • 模擬用戶代理(如真實(shí)的Web瀏覽器)。
  • 自動跟蹤重定向。
  • 連接池和cookie持久性。
  • 請求體驗(yàn)?zāi)煜ず拖矏郏哂猩衿娴慕馕瞿芰Α?/li>

教程和用法

使用請求向'python.org'發(fā)出GET請求:>>> from requests_html import `
>>> from requests_html import HTMLSession 
>>> session = HTMLSession()

>>> r = session.get(' https://python.org/ ')
按原樣獲取頁面上所有鏈接的列表(不包括錨點(diǎn)):

r.html.links {'//docs.python.org/3/tutorial/','/ about / apps

image.png
以絕對形式獲取頁面上所有鏈接的列表(不包括錨點(diǎn)):
>>> r.html.absolute_links

{'https://github.com/python/pythondotorg/issues','https://docs.python.org/3/tutorial/','....}

選擇帶有CSS Selector的元素:
 >>> about = r.html.find(' #about ',first = True)
抓取元素的文本內(nèi)容:
>>> print(about.text)
關(guān)于
應(yīng)用程序
報價
入門
幫助
Python手冊
反思Element的屬性:
>>> about.attrs 
{'id':'about','class':('tier-1','element-1'),'aria-haspopup':'true'}
渲染元素的HTML:
>>> about.html 
'<li aria-haspopup =“true”class =“tier-1 element-1”id =“about”> \ n <a class =“”href     =“/ about /
選擇元素中的元素:
>>> about.find(' a ')
[< Element'a'href ='/ about /'title =''class =''>,<Element'a'href ='/ about / apps /'title = ''>,<Element'a'href ='/ about / quotes /'title =''>,<Element'a'href ='/ about / gettingstarted /'title =''>,<Element'a'href ='/ about / help /'title =''>,<Element'a'href ='http://brochure.getpython.info/'title =''>]
搜索元素中的鏈接:
>>> about.absolute_links 
  {'http://brochure.getpython.info/','https://www.python.org/about/gettingstarted/','https://www.python.org/about/ ','https://www.python.org/about/quotes/','https://www.python.org/about/help/','https://www.python.org/about/apps /'}
在頁面上搜索文字:
>>> r.html.search('Python is a {} language')[0]
programming
更復(fù)雜的CSS Selector示例(從Chrome開發(fā)工具復(fù)制):
>>> r = session.get('https://github.com/')
>>> sel = 'body > div.application-main > div.jumbotron.jumbotron-codelines > div       
> div > div.col-md-7.text-center.text-md-left > p'

 >>> print(r.html.find(sel, first=True).text)
GitHub is a development platform inspired by the way you work. From open source to business, you can host and review code, manage projects, and build software alongside millions of other developers.
XPath is also supported:
  >>> r.html.xpath('/html/body/div[1]/a')
[<Element 'a' class=('px-2', 'py-4', 'show-on-focus', 'js-skip-to-content') href='#start-of-content' tabindex='1'>]

JavaScript Support

讓我們抓一些由JavaScript呈現(xiàn)的文本:
  >>> r = session.get('http://python-requests.org')

  >>> r.html.render()

  >>> r.html.search('Python 2 will retire in only {months} months!')['months']
  '<time>25</time>'

請注意,第一次運(yùn)行該render()方法時,它會將Chromium下載到您的主目錄(例如~/.pyppeteer/)。這只發(fā)生過一次。

使用不帶請求

您也可以在沒有請求的情況下使用此庫:

>>> from requests_html import  HTML 
>>> doc =  “”“ <a > ”“”

>>> html = HTML(html = doc)
>>> html.links 
{ 'https://httpbin.org'}
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,572評論 6 531
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,071評論 3 414
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,409評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,569評論 1 307
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,360評論 6 404
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 54,895評論 1 321
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,979評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,123評論 0 286
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,643評論 1 333
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,559評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,742評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,250評論 5 356
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 43,981評論 3 346
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,363評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,622評論 1 280
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,354評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,707評論 2 370

推薦閱讀更多精彩內(nèi)容

  • 第一部分 HTML&CSS整理答案 1. 什么是HTML5? 答:HTML5是最新的HTML標(biāo)準(zhǔn)。 注意:講述HT...
    kismetajun閱讀 27,552評論 1 45
  • 這篇文章在介紹官網(wǎng)的同時使用了比較多的腳本示例,示例里遇到的問題有部分在本篇文章進(jìn)行了解釋,還有一篇文章專門記錄了...
    顧顧314閱讀 12,952評論 3 32
  • # Python 資源大全中文版 我想很多程序員應(yīng)該記得 GitHub 上有一個 Awesome - XXX 系列...
    小邁克閱讀 3,016評論 1 3
  • # Python 資源大全中文版 我想很多程序員應(yīng)該記得 GitHub 上有一個 Awesome - XXX 系列...
    aimaile閱讀 26,526評論 6 427
  • 說到世外桃源,不禁讓我們就想到了陶淵明的《桃花源記》,這部流傳千古的名作,喚醒了我們每個人內(nèi)心深處的那一種訴求,是...
    地中海的傳說閱讀 218評論 0 0