rocketMq-broker消息存儲介紹

系列

rocketMq概念介紹

rocketMq-namesrv介紹

rocketMq-Topic創建過程

rocketMq-producer介紹

rocketMq-consumer介紹

rocketMq - rebalance介紹

rocketMq - 并發消費過程

rocketMq - 串行消費過程

rocketMq-broker介紹

rocketMq-broker消息存儲介紹

rocketMq - commitLog

rocketMq - index介紹

rocketMq-延遲消息介紹

rocketMq-事務消息介紹

rocketMq消息查詢

rocketMq和kafka的架構區別

rocketMq - master/slave同步


broker的消息存儲做了那些事

????rocketMq的broker消息存儲主要包括3個部分,分別commitLog的存儲,consumeQueue的存儲,index的存儲,這章分享會把這三個過程分解清楚,同時會對里面涉及的存儲位置的偏移量著重講解清楚。

? ? 1、commitLog的存儲是producer發送消息給broker端broker同步處理的

? ? 2、consumeQueue和index兩者存儲其實是一個定時任務從commitLog中獲取偏移量然后存儲過去的

? ? 3、consumeQueue和index的存儲 與 commitLog的存儲是隔離開的,非同步的


broker的消息存儲過程


消息存儲過程

說明:分享自再說rocketmq消息存儲

? ? 1、commitLog其實有兩層夠層,其中MappendFileQueue是邏輯的存儲隊列概念,里面保存著順序增長的MappedFile文件。

? ? 2、MappedFile文件是真正存儲實際數據的文件

? ? 3、在整個broker的存儲體系中,MappedFile文件保存了commitLog、consumeQueue、Index等,是核心的數據結構。


broker的消息存儲過程


注冊消息消費函數

說明:參見BrokerController類

? ? 1、其中sendProcessor就是broker端接收message的入口函數


處理發送消息

說明:參見SendMessageProcessor類

? ? 1、這里我們先看下單個消息的處理過程,也就是sendMessage過程


組裝消息并開始存儲

說明:參見SendMessageProcessor類

? ? 1、putMessage函數開始執行數據的保存


commitLog消息存儲

說明:參見DefaultMessageStore類

? ? 1、commitLog.putMessage開始進入commitLog的保存邏輯


獲取mappedFile文件并存儲消息

說明:參見CommitLog類

????1、先從mappedFileQueue獲取最后一個MappedFile文件,如果為空就創建一個commitLog對應的MappedFile文件,文件命名以實際以文件大小命名,分別是00000000000000000000、00000000001073741824、00000000002147483648,文件名之間差1G=1024*1024*1224B=1073741824。每個commitLog的MappedFile文件大小是1G,剩余多余無非存入新消息就用填充字符填充到1G。

????2、mappedFile.appendMessage執行保存消息到MappedFile的動作


通過回調函數來執行message的保存

說明:參見MappedFile類

? ? 1、這里我們以單個消息存儲為例繼續說明



計算存儲位置及計算consumeQueue偏移

說明:參見CommitLog類

? ? 1、做一些前置準備,包括計算下一個存儲位置等



判斷剩余空間

說明:參見CommitLog類

? ? 1、這里有個特別的地方需要注意,就是如果剩余空間無法裝下消息+8個字節的結束標識符,就默認結束了,結束標識符應該用于標識mappedFile是否結束。


按照格式寫入緩存

說明:參見CommitLog類

? ? 1、這里的消息寫入過程我們分析暫時到寫入緩存就結束了,真正實際上是還會有刷盤的動作的,這里暫時不展開分析,后續單獨開一章刷盤的的分析。


消息存儲格式

說明:

? ? commitLog的MappedFile文件中保存的數據格式如上圖所示,在末尾不能保存整個消息的時候就會重新生成一個MappedFile文件,當然在末尾應該會有填充結束標識符,文件結束符是以特殊magic_code結束的,為BLANK_MAGIC_CODE=0xBBCCDDEE ^1880681586 +8;


comsumeQueue的存儲過程


consumeQueue的保存過程

說明:參見DefaultMessageStore類

? ? 1、該實現類是一個線程函數,內部通過run操作循環去commitLog去消息位移信息保存到consumeQueue當中



循環拉取commitLog消息并生成dispatch消息

說明:參見DefaultMessageStore類



dispatchList保存consumeQueue和index

說明:參見DefaultMessageStore類

? ? 1、this.dispatcherList.addLast(new CommitLogDispatcherBuildConsumeQueue());

? ? ?2、this.dispatcherList.addLast(new CommitLogDispatcherBuildIndex());



consumeQueue保存操作



consumeQueue保存邏輯

說明:參見ConsumeQueue類

? ? 1、ConsumeQueue的消息單元格式如下圖。


ConsumeQueue的消息格式
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,967評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,273評論 3 415
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,870評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,742評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,527評論 6 407
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,010評論 1 322
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,108評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,250評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,769評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,656評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,853評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,371評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,103評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,472評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,717評論 1 281
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,487評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,815評論 2 372

推薦閱讀更多精彩內容

  • Spring Cloud為開發人員提供了快速構建分布式系統中一些常見模式的工具(例如配置管理,服務發現,斷路器,智...
    卡卡羅2017閱讀 134,781評論 18 139
  • 姓名:周小蓬 16019110037 轉載自:http://blog.csdn.net/YChenFeng/art...
    aeytifiw閱讀 34,737評論 13 425
  • 本來昨天晚上已經寫好一文,但是關于寶馬事件,早上在大群討論的這么激烈,我還是要寫一寫對這件事情的看法。 我要說,對...
    蛻變的林林閱讀 700評論 2 0
  • 在有限的生命里,能多一些慢下來的時光,日子就會少些羈絆和框約,多些潤澤和散淡。然而,在這千帆競發的時光里,誰...
    靜悟不語閱讀 183評論 0 0
  • 和姥姥躺在床上聊天,說到姥爺,說到大舅,說到我爸。說的我想哭。忽然說到我小時候。最近記性特別差,對很多往事都記不清...
    梓語crazy閱讀 247評論 0 0