python爬取糗事百科段子

最近在學習python爬蟲,看到了崔大神的博客,由于他使用的python2.x,于是自己就想用python3實現一下,練練手。有哪些可以改進的地方,望指正。謝謝!

本篇目標

1.抓取糗事百科中24小時欄目的段子

2.過濾有圖片的段子(畢竟在終端中顯示圖片不太現實)

3.實現顯示段子的發布者、段子內容、好笑值和評論數

分析站點并抓取頁面代碼

1.頁面的url是https://www.qiushibaike.com/hot/page/1/,其中數字1代表的是頁碼,通過站點分析,24小時欄目下的頁面總共有13頁,所以爬取是就直接在1-13頁中,無需單獨獲取最大的頁碼數(其實主要是因為懶,能省一步是一步:happy:)

2.經測試該網站沒有反爬蟲措施,所以可以肆無忌憚的爬,連請求頭都不用加,開不開心。

代碼奉上:

import requests
from requests.exceptions import RequestException

def get_page(page):
    '''獲取網頁源代碼'''

    try:
        url = "https://www.qiushibaike.com/hot/page/" + str(page)
        response = requests.get(url)
        if response.status_code == 200:
            return response.text
        else:
            return None
    except RequestException:
        return None
 
def main(page):
  '''主函數'''
  
    html = get_page(page)
    if html:
        print(html)
    else:
        print('請求網頁失敗!')

if __name__ == '__main__':
  '''程序入口'''
  
    map(main, [i for i in range(1,14)])

抓取某頁中所以的段子

獲取頁面的HTML代碼后,就需要分析該頁面具體每個段子的結構了,先上圖:


單個段子代碼詳情

經分析,可知:

1.每個<div class="article block untagged……" 標簽都包含一個段子,結構很清晰

2.發布者在<h2></h2> 標簽中,段子內容在<div class="content"> 下的<span> 標簽中,好笑值和評論數在上圖中都標明了位置(請自行查看)

3.帶圖片對待段子在 標簽下多一個<div> 標簽,如下:

帶圖片段子詳情

代碼奉上:

pattern = re.compile(
  '<div.*?article block.*?<h2>(.*?)</h2>.*?content.*?<span>(.*?)</span>.*?' +
  '<!--.*?或gif.*?>(.*?)<div class="stats".*?<span.*?number">(\d+)</i>.*?' +
  '</span>.*?<a.*?>.*?number">(\d+)</i>.*?</div>',re.S)
items = re.findall(pattern, html)
    for item in items:
        if not item[2].split():
            print(item[0], item[1], "好笑值:" + item[3], "評論數:" + item[4])

代碼說明:

1).*? 是一個固定的搭配,.和*代表可以匹配任意無限多個字符,加上?表示使用非貪婪模式進行匹配,也就是會盡可能短地做匹配,以后我們還會大量用到 .*? 的搭配。

2)(.*?)表示一個分組,就是我們需要匹配的內容。

3)re.S表示點(.)可以匹配換行符

4)沒有圖片的段子,item[2] 匹配的內容為幾個換行符,所以可以用split() 方法去除換行符,再加 if 判斷過濾有圖片的段子

輸出結果:


輸出結果

總結

1.整個項目比較簡單,主要就是正則匹配部分

2.由于能力有限,所以沒辦法做到和崔大神的一樣回車一下顯示一個段子

3.本來想再用BeautifulSoup實現下的,后來發現比較麻煩就中斷了,還不如正則簡單

完整代碼和輸出文件請訪問:https://github.com/xieys 歡迎Follow和star

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,882評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,208評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,746評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,666評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,477評論 6 407
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,960評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,047評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,200評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,726評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,617評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,807評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,327評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,049評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,425評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,674評論 1 281
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,432評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,769評論 2 372

推薦閱讀更多精彩內容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,610評論 25 708
  • 這是Python爬蟲系列的第一篇文章。之前學了一段時間的Python,在網上搜到爬蟲系列的教程,但是由于網站更新可...
    DamienXiong閱讀 703評論 0 0
  • 大家好,上次我們實驗了爬取了糗事百科的段子,那么這次我們來嘗試一下爬取百度貼吧的帖子。與上一篇不同的是,這次我們需...
    追不到的那縷風閱讀 572評論 0 0
  • 又到了007作業雨時間,最近從北方跑回南方工作,接連不斷的材料上報以及搬家等雜事堆在一起,總覺得自己少了些動力,多...
    童言AND無忌閱讀 405評論 4 2
  • 佛洛依德——名言 1、笑話給予我們快感,是通過把一個充滿能量和緊張度的有意識過程轉化為一個輕松的無意識過程。 2、...
    文藝聯盟閱讀 468評論 2 3