rocketMq-consumer介紹

系列

rocketMq概念介紹

rocketMq-namesrv介紹

rocketMq-Topic創建過程

rocketMq-producer介紹

rocketMq-consumer介紹

rocketMq - rebalance介紹

rocketMq - 并發消費過程

rocketMq - 串行消費過程

rocketMq-broker介紹

rocketMq-broker消息存儲介紹

rocketMq - commitLog

rocketMq - index介紹

rocketMq-延遲消息介紹

rocketMq-事務消息介紹

rocketMq消息查詢

rocketMq和kafka的架構區別

rocketMq - master/slave同步


說到rocketMq的consumer,該篇文章特指pushConsumer,pullConsumer在后續文章中在分享。

提到consumer,需要搞清楚幾個核心問題,分別是consumer的初始化過程做了哪些事情,消息是如何消費,consumer如何動態平衡的,整個邏輯還是比較繞的,其中這章節主要會講清楚兩個事情,1、初始化過程中client做了哪些事情;2、consumer如何動態平衡拉取任務,具體的任務消費會由額外的一章進行講解。


consumer的初始化過程

consumer初始化過程

說明:整體執行過程如下,著重介紹subscribe和start兩個過程

? ? 1、創建consumer并設置消費分組

? ? 2、設置消費位移

? ? 3、設置訂閱topic

? ? 4、設置消費執行的回調函數

? ? 5、啟動consumer


consumer的初始化流程圖


初始化流程圖


consumer內部初始化過程

說明:整個初始化比較復雜,為了大家能夠理解,先用簡單的語句概述一遍

? ? 1、構建consumer的訂閱信息,包括consumer本身的訂閱和消費分組的重試隊列。

? ? 2、創建Rebalance服務,該服務每隔20s進行消費端負責的messageQueue的消費。

? ? 3、啟動消費偏移量獲取服務,獲取上一次消費位移。

? ? 4、啟動定時任務,其中核心任務之一是定時去namesrv拉取broker信息。

? ? 5、啟動pullMessageService,負責從broker拉取待消費消息

? ? 6、啟動rebalanceService,負責定期調整consumer端負載均衡包括第一次觸發拉取任務

? ? 7、其中rebalanceService和pullMessageService相互配合使用,前者負責將新加入messageQueue拉取任務加入到pullMessageservice當中,將舊的messageQueue的拉取任務從pullMessageService中停止,兩者之間通過消息隊列的形式進行通信。


構建subscription過程

構建subscribe信息

說明:參見DefaultMQPushConsumerImpl類

? ? 1、訂閱消息最后保存至RebalanceImpl當中,因為這個是后面動態負載均衡的核心。


client端啟動過程

consumer啟動過程-注冊訂閱消息過程

說明:參見DefaultMQPushConsumerImpl類


consumer啟動過程-注冊回調函數并啟動一系列服務

說明:參見DefaultMQPushConsumerImpl類

? ? 1、啟動了獲取消費進度的服務


consumer核心邏輯-啟動核心消費邏輯

說明:參見MQClientInstance類

? ? 1、啟動定時任務,主要是從namsrv中拉取broker的信息

? ? 2、啟動client從broker拉取消息的服務

? ? 3、啟動Rebalance服務,負責觸發消息拉取的任務

? ? 4、步驟3和步驟4之間的兩個服務通過消息隊列通信


定時拉取broker信息

說明:參見MQClientInstance類

? ? 1、負責從namesrv拉取broker的信息


拉取任務的執行過程

定時獲取拉取任務執行消息拉取

說明:參見PullMessageService類

? ? 1、負責從pullRequestQueue中獲取拉取任務并執行,該任務由Rebalance服務投遞


拉取任務的生成過程

定期動態消費負載均衡

說明:參見RebalanceService類

? ? 1、consumer端負載均衡的入口


針對每個consumer動態調整負載均衡

說明:參見MQClientInstance類

? ? 1、每個consumer客戶端只會有一個對象,所以這里for循環只有一次。


針對每個topic進行負載均衡

說明:參見MQClientInstance類

1、針對每個訂閱信息都進行動態負責均衡,包括consumer本身的訂閱分組和consumerGroup的重試分組。


針對topic下的messageQueue和consumer進行動態負載均衡

說明:參見RebalanceImpl類

? ? 1、動態負載均衡就是一個topic下所有的messageQueue和消費分組里面的消費者按照一定的動態調整策略進行分配,同一個消費分組里面的消費者每人負責一部分的messageQueue。


動態調整拉取任務

說明:參見RebalanceImpl類

? ? 1、consumer新負責的messageQueue加入到拉取任務當中來

? ? ? ? 2、consumer不負責的messageQueue從拉取任務中剔除。



新增消息拉取任務

說明:參見PullMessageService類

投遞待拉取消息任務

說明:參見PullMessageService類


訂閱重試隊列邏輯

注冊%retry%@consumerGroup消費分組

說明:

? ? 核心代碼邏輯,這個表明了consumer訂閱了重試隊列并對重試隊列進行消費。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,119評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,382評論 3 415
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,038評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,853評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,616評論 6 408
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,112評論 1 323
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,192評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,355評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,869評論 1 334
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,727評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,928評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,467評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,165評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,570評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,813評論 1 282
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,585評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,892評論 2 372

推薦閱讀更多精彩內容