2018-07-10 如何用消息系統避免分布式事務?

https://yq.aliyun.com/articles/10

前陣子從支付寶轉賬1萬塊錢到余額寶,這是日常生活的一件普通小事,但作為互聯網研發人員的職業病,我就思考支付寶扣除1萬之后,如果系統掛掉怎么辦,這時余額寶賬戶并沒有增加1萬,數據就會出現不一致狀況了。

上述場景在各個類型的系統中都能找到相似影子,比如在電商系統中,當有用戶下單后,除了在訂單表插入一條記錄外,對應商品表的這個商品數量必須減1吧,怎么保證?!在搜索廣告系統中,當用戶點擊某廣告后,除了在點擊事件表中增加一條記錄外,還得去商家賬戶表中找到這個商家并扣除廣告費吧,怎么保證?!等等,相信大家或多或多少都能碰到相似情景。

這些問題本質上都可以抽象為:當一個表數據更新后,怎么保證另一個表的數據也必須要更新成功。

1 本地事務

還是以支付寶轉賬余額寶為例,假設有

支付寶賬戶表:A(id,userId,amount)

余額寶賬戶表:B(id,userId,amount)

用戶的userId=1;

從支付寶轉賬1萬塊錢到余額寶的動作分為兩步:

1)支付寶表扣除1萬:update A set amount=amount-10000 where userId=1;

2)余額寶表增加1萬:update B set amount=amount+10000 where userId=1;

如何確保支付寶余額寶收支平衡呢?有人說這個很簡單嘛,可以用事務解決。

Begin transaction
         update A set amount=amount-10000 where userId=1;
         update B set amount=amount+10000 where userId=1;
End transaction
commit;

非常正確!如果你使用spring的話一個注解就能搞定上述事務功能。

@Transactional(rollbackFor=Exception.class)
    public void update() {
        updateATable(); //更新A表
        updateBTable(); //更新B表
    }

如果系統規模較小,數據表都在一個數據庫實例上,上述本地事務方式可以很好地運行,但是如果系統規模較大,比如支付寶賬戶表和余額寶賬戶表顯然不會在同一個數據庫實例上,他們往往分布在不同的物理節點上,這時本地事務已經失去用武之地。

既然本地事務失效,分布式事務自然就登上舞臺。

2 分布式事務—兩階段提交協議

兩階段提交協議(Two-phase Commit,2PC)經常被用來實現分布式事務。一般分為協調器C和若干事務執行者Si兩種角色,這里的事務執行者就是具體的數據庫,協調器可以和事務執行器在一臺機器上。

image

1) 我們的應用程序(client)發起一個開始請求到TC;

2) TC先將<prepare>消息寫到本地日志,之后向所有的Si發起<prepare>消息。以支付寶轉賬到余額寶為例,TC給A的prepare消息是通知支付寶數據庫相應賬目扣款1萬,TC給B的prepare消息是通知余額寶數據庫相應賬目增加1w。為什么在執行任務前需要先寫本地日志,主要是為了故障后恢復用,本地日志起到現實生活中憑證 的效果,如果沒有本地日志(憑證),容易死無對證;

3) Si收到<prepare>消息后,執行具體本機事務,但不會進行commit,如果成功返回<yes>,不成功返回<no>。同理,返回前都應把要返回的消息寫到日志里,當作憑證。

4) TC收集所有執行器返回的消息,如果所有執行器都返回yes,那么給所有執行器發生送commit消息,執行器收到commit后執行本地事務的commit操作;如果有任一個執行器返回no,那么給所有執行器發送abort消息,執行器收到abort消息后執行事務abort操作。

注:TC或Si把發送或接收到的消息先寫到日志里,主要是為了故障后恢復用。如某一Si從故障中恢復后,先檢查本機的日志,如果已收到<commit >,則提交,如果<abort >則回滾。如果是<yes>,則再向TC詢問一下,確定下一步。如果什么都沒有,則很可能在<prepare>階段Si就崩潰了,因此需要回滾。

現如今實現基于兩階段提交的分布式事務也沒那么困難了,如果使用java,那么可以使用開源軟件atomikos(http://www.atomikos.com/)來快速實現。

不過但凡使用過的上述兩階段提交的同學都可以發現性能實在是太差,根本不適合高并發的系統。為什么?

1)兩階段提交涉及多次節點間的網絡通信,通信時間太長!

2)事務時間相對于變長了,鎖定的資源的時間也變長了,造成資源等待時間也增加好多!

正是由于分布式事務存在很嚴重的性能問題,大部分高并發服務都在避免使用,往往通過其他途徑來解決數據一致性問題。

3 使用消息隊列來避免分布式事務

如果仔細觀察生活的話,生活的很多場景已經給了我們提示。

比如在北京很有名的姚記炒肝點了炒肝并付了錢后,他們并不會直接把你點的炒肝給你,往往是給你一張小票,然后讓你拿著小票到出貨區排隊去取。為什么他們要將付錢和取貨兩個動作分開呢?原因很多,其中一個很重要的原因是為了使他們接待能力增強(并發量更高)。

還是回到我們的問題,只要這張小票在,你最終是能拿到炒肝的。同理轉賬服務也是如此,當支付寶賬戶扣除1萬后,我們只要生成一個憑證(消息)即可,這個憑證(消息)上寫著“讓余額寶賬戶增加 1萬”,只要這個憑證(消息)能可靠保存,我們最終是可以拿著這個憑證(消息)讓余額寶賬戶增加1萬的,即我們能依靠這個憑證(消息)完成最終一致性。

3.1 如何可靠保存憑證(消息)

有兩種方法:

3.1.1 業務與消息耦合的方式

支付寶在完成扣款的同時,同時記錄消息數據,這個消息數據與業務數據保存在同一數據庫實例里(消息記錄表表名為message);

Begin transaction
         update A set amount=amount-10000 where userId=1;
         insert into message(userId, amount,status) values(1, 10000, 1);
End transaction
commit;

上述事務能保證只要支付寶賬戶里被扣了錢,消息一定能保存下來。

當上述事務提交成功后,我們通過實時消息服務將此消息通知余額寶,余額寶處理成功后發送回復成功消息,支付寶收到回復后刪除該條消息數據。

3.1.2 業務與消息解耦方式

上述保存消息的方式使得消息數據和業務數據緊耦合在一起,從架構上看不夠優雅,而且容易誘發其他問題。為了解耦,可以采用以下方式。

1)支付寶在扣款事務提交之前,向實時消息服務請求發送消息,實時消息服務只記錄消息數據,而不真正發送,只有消息發送成功后才會提交事務;

2)當支付寶扣款事務被提交成功后,向實時消息服務確認發送。只有在得到確認發送指令后,實時消息服務才真正發送該消息;

3)當支付寶扣款事務提交失敗回滾后,向實時消息服務取消發送。在得到取消發送指令后,該消息將不會被發送;

4)對于那些未確認的消息或者取消的消息,需要有一個消息狀態確認系統定時去支付寶系統查詢這個消息的狀態并進行更新。為什么需要這一步驟,舉個例子:假設在第2步支付寶扣款事務被成功提交后,系統掛了,此時消息狀態并未被更新為“確認發送”,從而導致消息不能被發送。

優點:消息數據獨立存儲,降低業務系統與消息系統間的耦合;

缺點:一次消息發送需要兩次請求;業務處理服務需要實現消息狀態回查接口。

3.2 如何解決消息重復投遞的問題

還有一個很嚴重的問題就是消息重復投遞,以我們支付寶轉賬到余額寶為例,如果相同的消息被重復投遞兩次,那么我們余額寶賬戶將會增加2萬而不是1萬了。

為什么相同的消息會被重復投遞?比如余額寶處理完消息msg后,發送了處理成功的消息給支付寶,正常情況下支付寶應該要刪除消息msg,但如果支付寶這時候悲劇的掛了,重啟后一看消息msg還在,就會繼續發送消息msg。

解決方法很簡單,在余額寶這邊增加消息應用狀態表(message_apply),通俗來說就是個賬本,用于記錄消息的消費情況,每次來一個消息,在真正執行之前,先去消息應用狀態表中查詢一遍,如果找到說明是重復消息,丟棄即可,如果沒找到才執行,同時插入到消息應用狀態表(同一事務)。

for each msg in queue
  Begin transaction
    select count(*) as cnt from message_apply where msg_id=msg.msg_id;
    if cnt==0 then
      update B set amount=amount+10000 where userId=1;
      insert into message_apply(msg_id) values(msg.msg_id);
  End transaction
  commit;

Ebay的研發人員早在2008年就提出了應用消息狀態確認表來解決消息重復投遞的問題:http://queue.acm.org/detail.cfm?id=1394128

參考文獻

Dan PritchettBase: An Acid Alternative,http://queue.acm.org/detail.cfm?id=1394128

程立,大規模SOA系統中的分布式事務處理

mysql兩階段提交,http://blog.csdn.net/jesseyoung/article/details/37970271

原創文章,非作者同意,禁止轉載!

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,488評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,034評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,327評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,554評論 1 307
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,337評論 6 404
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,883評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,975評論 3 439
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,114評論 0 286
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,625評論 1 332
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,555評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,737評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,244評論 5 355
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 43,973評論 3 345
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,362評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,615評論 1 280
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,343評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,699評論 2 370

推薦閱讀更多精彩內容

  • 如何用消息系統避免分布式事務? 前陣子從支付寶轉賬1萬塊錢到余額寶,這是日常生活的一件普通小事,但作為互聯網研發人...
    名猿閱讀 719評論 0 10
  • 事務消費 我們經常支付寶轉賬余額寶,這是日常生活的一件普通小事,但是我們思考支付寶扣除轉賬的錢之后,如果系統掛掉怎...
    bbe9e62bc5ba閱讀 79,109評論 23 81
  • 昨天下午看了哪吒,是近期難得一見的好片。新鮮的故事和華麗的場景令人震撼,人物形象十分飽滿,哪吒的頑劣不服、李靖的隱...
    Patty_PAN閱讀 989評論 0 0
  • 2018-07-10 看了東野圭吾的白夜行,這么有名的小說,居然一直沒有看過 在準備找工作啦,比我想象的還要難很多
    迦西閱讀 120評論 0 0
  • 10月15日是我的生日,那個時候,大學里同學之間開始相互之間過生日,送禮物。我也收到了唐唐寄過來的禮物,很貴重,是...
    鞭_鞭子的子閱讀 217評論 0 0