前面我們系統的了解了一個查詢語句執行流程,并介紹了執行過程中涉及的處理模塊。相信你還記得,一條查詢語句的執行過程一般是經過連接器、分析器、優化器、執行器等功能模塊,最后到達存儲引擎。
那么,一條更新語句的執行流程又是怎么樣的呢?
之前你可能經常聽DBA同事說,MySQL可以恢復到半個月內任意一秒的狀態,驚嘆的同時,你是不是心中不免會好奇,這是怎樣做到的呢?
我們還是從一個表的一條更新語句說起,下面是這個表的創建語句,這個表有一個主鍵ID和一個整型字段c:
mysql> create table T(ID int primary key, c int);
如果要將ID=2這一行的值加1,SQL語句就會這么寫:
mysql> update T set c=c+1 where ID=2;
前面我有跟你介紹過MySQL語句的基本執行鏈路,這里我在把那張圖拿過來,你也可以先簡單看看這個圖回顧下。首先,可以確定的說,查詢語句的那一套流程,更新語句也是同樣會走一遍。
你執行語句前要先連接數據庫,這是連接器的工作。
前面我們說過,在一個表上有更新的時候,跟這個表有關的查詢緩存會失效,所以這條語句就會把表T上的所有緩存結果都清空。這也是我們一般不建議使用查詢緩存的原因。
接下來,分析器會通過詞法和語法分析知道這是一條更新語句。優化器決定使用ID這個索引。然后,執行器負責具體執行,找到這一行,然后更新。
與查詢流程不一樣的是,更新流程還涉及兩個重要的日志模塊,它們正是我們今天要討論的主角:redo log (重做日志)和binlog(歸檔日志)。如果接觸MySQL,那這兩個詞肯定繞不過的,我后面的內容里也會不斷地和你強調。不過話說回來,redo log和binlog在設計上有很多有意思的地方,這些設計思路也可以用到你自己的程序里。
重要的日志模塊:redo log
不知道你還記不記得《孔乙己》這篇文章,酒店掌柜有一個粉板,專門用來記錄客人的賒賬記錄。如果賒賬的人不多,那么他可以把顧客名和賬目寫在粉板上。但如果賒賬的人多了,粉板總會有記不下的時候,這個時候掌柜一定還有一個專門記錄賒賬的賬本。
如果有人要賒賬或者還賬的話,掌柜一般有兩種做法:
- 一種做法直接把賬本翻過來,把這次賒的帳加上去或者扣除掉
- 另一種做法是現在粉板上記下這次的帳,等打烊之后再把賬本翻出來核算
在生意紅火柜臺很忙時,掌柜一定會選擇后者,因為前者操作實在是太麻煩了。首先,你得找到這個人的賒賬總額那條記錄。你想想,密密麻麻幾十頁,掌柜要找到那個名字,可能還得帶上老花鏡慢慢找,找到之后再拿出算盤計算,最后再將結果寫回到賬本上。
這整個過程想想都麻煩。相比之下,還是先在粉板上記一下方便。你想想,如果掌柜沒有粉板的幫助,每次記賬都得翻賬本,效率是不是低得讓人難以忍受?
同樣,MySQL里也有這個問題,如果每一次的更新操作都要寫入磁盤,然后磁盤也要找到對應的那條記錄,然后在更新,整個過程IO成本、查找成本都很高。為了解決這個問題,MySQL的設計者就用了類似酒店掌柜粉板的思路來提升更新效率。
而粉板和賬本配合的過程,其實就是MySQL里經常說的WAL技術,WAL的全稱是Write-Ahead Logging,它的關鍵點就是先寫日志,再寫磁盤,也就是先寫粉板,等不忙的時候再寫賬本。
具體來說,當有一條記錄需要更新的時候,InnoDB引擎就會先把記錄寫到redo log(粉板)里面,并更新內存,這個時候更新就算完成了。同時,InnoDB引擎會在適當的時候,將這個操作記錄更新到磁盤里面,而這個更新往往是在系統比較空閑的時候做,這就像打烊以后掌柜做的事情。
如果今天賒賬的不多,掌柜可以等到打烊后再整理。但如果某天賒賬的特別多,粉板寫滿了,又怎么辦呢?這個時候掌柜只好放下手中的活,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉,為記新賬騰出空間。
與此類似,InnoDB的redo log是固定大小的,比如可以配置為一組四個文件,每個文件的大小是1GB,那么這塊"粉板"總共就可以記錄4GB的操作。從頭開始寫,寫到末尾就又回到開頭循環寫,如下面這個圖所示。
write pos是當前記錄的位置,一邊寫一邊后移,寫到第3號文件末尾后就回到0號文件開頭。checkpoint是當前要擦除的位置,也是往后推移并且循環的,擦除記錄前要把記錄更新到數據庫文件。
write po和checkpoint之間的是"粉板"上還空著的部分,可以用來記錄新的操作。如果write pos 追上checkpoint,表示"粉板"滿了,這時候不能再執行新的更新,得停下來先擦掉一些記錄,把checkpoint推進一下。
有了redo log,InnoDB就可以保證即使數據庫發生異常重啟,之前提交的記錄都不會丟失,這個功能稱為crash-safe。
要理解crash-safe這個概念,可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或寫在了賬本上,之后即便掌柜忘記了,比如突然停業幾天,恢復生意后依然可以通過賬本和粉板上的數據明確賒賬賬目。
重要的日志模塊:binlog
前面我們講過,MySQL整體來看,其實就有兩塊:一塊是Server層,它主要做的是MySQL功能層面的事情;還有一塊是引擎層,負責存儲相關的具體事宜。上面我們聊到的粉板redo log是InnoDB引擎特有的日志,而Server層也有自己的日志,稱為binlog(歸檔日志)。
我想你肯定會問,為什么會有兩份日志呢?
因為最開始MySQL里面并沒有InnoDB引擎,MySQL自帶的引擎是MyISAM,但是MyISAM沒有crash-safe的能力,binlog日志只能用于歸檔。而InnoDB是另一個公司以插件形式引入MySQL的,既然只依靠binlog是沒有crash-safe能力的,所以InnoDB使用另外一套日志系統--也就是redo log來實現crash-safe能力。
這兩種日志有以下三點不同。
- redo log是InnoDB引擎持有的;binlog是MySQL的Server層實現的,所有引擎都可以使用。
- redo log是物理日志,記錄的是"在某個數據頁做了什么修改";binlog是邏輯日志,記錄的是這個語句的原始邏輯,比如"給ID=2這一行的c字段加1"。
- redo log是循環寫的,空間固定會用完;binlog是可以追加寫入的。"追加寫"是指binlog文件寫到一定大小后會切換到下一個,并不會覆蓋以前的日志。
有了對這兩個日志的概念性,我們再來看執行器和InnoDB引擎在執行這個簡單的update語句時的內部流程。
- 執行器先找引擎取ID=2的這一行。ID是主鍵,引擎直接用樹搜索找到這一行,如果ID=2這一行所在的數據頁本來就在內存中,就直接返回給執行器;否則,需要先從磁盤讀入內存,然后在返回。
- 執行器拿到引擎給的行數據,把這個值加上1,比如原來是N,現在就是N+1,得到新的一行數據,在調用引擎接口寫入這行新數據。
- 引擎將這行新數據更新到內存中,同時將這個更新操作記錄到redo log里面,此時redo log處于prepare狀態。然后告訴執行器執行完成了,隨時可以提交事務。
- 執行器生成這個操作的binlog,并把binlog寫入磁盤。
- 執行器調用引擎的提交事務接口,引擎把剛剛寫入的rodo log改成提交(commit)狀態,更新完成。
這里我給出這個update語句的執行流程圖,圖中淺色框表示是在InnoDB內部執行的,深色框表示是在執行器中執行的。
你可能注意到了,最后三步看上去有點"繞",將redo log的寫入拆成了兩個步驟:prepare和commit,這就是"兩階段提交"。
兩階段提交
為什么必須有"兩階段提交"呢?這是為了讓兩份日志之間的邏輯一致。要說明這個問題,我們得從文章開頭的那個問題說起:怎樣讓數據恢復到半個月內任意一秒的狀態?
前面我們說過了,binlog會記錄所有的邏輯操作,并且是采用"追加寫"的形式。如果你的DBA承諾說半個月內可以恢復,那么備份系統中一定會保存最近半個月內所有binlog,同時系統會定期做整庫備份。這里的"定期"取決于系統的重要性,可以是一天一備,也可以是一周一備。
當需要恢復到指定的某一秒時,比如某天下午兩點發現中午十二點有一次誤刪表,需要找回數據,那你可以這么做:
- 首先,找到最近的一次全量備份,如果你運氣好,可能就是昨天晚上的一個備份,從這個備份恢復到臨時表;
- 然后,從備份的時間點開始,將備份的binlog依次取出來,重放到中午誤刪表之前的那個時刻。
這樣你的臨時庫就跟誤刪之前的線上庫一樣了,然后你可以把表數據從臨時庫取出來,按需要恢復到線上庫去。
好了,說完了數據恢復過程,我們回來說說,為什么日志需要"兩階段提交"。這里不妨使用反證法來進行解釋。
由于redo log和binlog是兩個獨立的邏輯,如果不用兩階段提交,要么就是先寫完redo log再寫binlog,或者采用反過來的順序。我們看看這兩種方式會有什么問題。
仍然用前面的update語句來做例子。假設當前ID=2的行,字段c的值是0,在假設執行update語句過程中在寫完第一個日記后,第二個日志還沒有寫完期間發生了crash,會出現什么情況呢?
-
先寫redo log后寫binlog。假設在redo log寫完,binlog還沒有寫完的時候,MySQL進程異常重啟。由于我們前面說過的,redo log寫完之后,系統即使崩潰,仍然能夠把數據恢復回來,所以恢復后這一行c的值是1。
但是由于binlog沒寫完就crash了,這時候binlog里面就沒有記錄這個語句。因此,之后備份日志的時候,存起來的binlog里面就沒有這條語句。
然后你會發現,如果需要用這個binlog來恢復臨時庫的話,由于這個語句的binlog丟失,這個臨時庫就會少了這一次更新,恢復出來的這一行c的值就是0,與原庫的值不同。
先寫binlog后寫redo log。如果在binlog寫完之后crash,由于redo log還沒寫,崩潰恢復以后這個事務無效,所以這一行的數據是0。但是binlog里面已經記錄了"把c從0改成1"這個日志。所以,之后用binlog來恢復的時候就多了一個事務出來,恢復出來的這一行c的值就是1,與原庫的值不同。
可以看到,如果不使用“兩階段提交”,那么數據庫的狀態就有可能和用它的日志恢復出來的庫的狀態不一致。
你可能會說,這個概率是不是很低,平時也沒有動不動就需要恢復臨時庫的場景啊?
其實不是的,不只是誤操作后需要用這個過程來恢復數據。當你需要擴容的時候,也就是需要再多搭建一些備庫來增加系統的讀能力的時候,現在常見的做法也是用全量備份加上應用binlog來實現的,這個"不一致"就會導致你的線上出現主從數據庫不一致的情況。
簡單說,redo log和binlog都可以用于表示事務的提交狀態,而兩階段提交就是讓這兩個狀態保持邏輯上一致。
小結
今天,我介紹了MySQL里面最重要的兩個日志,即物理日志redo log和邏輯日志binlog。
redo log用于保證crash-safe能力。innodb_flush_log_at_trx_commit這個參數設置成1的時候,表示每次事務的redo log都直接持久化到磁盤。這個參數我建議你設置成1,這樣可以保證MySQL異常重啟之后數據不丟失。
sync_binlog這個參數設置成1的時候,表示每次事務的binlog都持久化到磁盤。這個參數我也建議你設置成1,這樣可以保證MySQL異常重啟之后binlog不丟失。
我還跟你介紹了與MySQL日志系統密切相關的"兩階段提交"。兩階段提交是跨系統維持數據邏輯一致性時常用的一個方案,即使你不做數據庫內核開發,日常開發中也有可能會用的到。