億級流量電商系統(tǒng)JVM模型參數預估方案

1. 需求分析

大促在即,擁有億級流量的電商平臺開發(fā)了一個訂單系統(tǒng),我們應該如何來預估其并發(fā)量?如何根據并發(fā)量來合理配置JVM參數呢?

假設,現在有一個場景,一個電商平臺,比如京東,需要承擔每天上億的流量。現在開發(fā)了一個訂單系統(tǒng),那么這個訂單系統(tǒng)每秒的并發(fā)量是多少呢?我們應該如何分配其內存空間呢?先來分析一下

每日億級流量,平均一個用戶點擊量在20-30左右,通過這個計算出日活用戶數約1億/20=500萬, 看的人多,買的人少,通常下單率不超過10%,我們按照留存率10%來計算,日均訂單約50萬單。這是分兩種情況:

一種是普通流量,非特殊節(jié)假日,通常早上、中午、晚上非工作時間有1個小時的時間集中購買。我們按照早上1小時,中午1小時,晚上1小時來計算,也就是3小時。這樣平均到每秒就是50萬/3/3600=46, 也就是及時并發(fā),通常我們的服務都是一個集群,有好幾臺服務器承受著幾十并發(fā),應該不成問題。

另一種是大促流量,比如雙十一,基本流量都集中在雙十一當天的投幾分鐘。這時每秒的并發(fā)量大概在50萬/10/60=866,平均每秒并發(fā)量不到1000。這時服務集群有3臺服務器,沒太服務器承受的壓力是400單/s。

2. 常規(guī)方案及問題暴露

對于這每秒400但會產生多大的對象呢?

我們假設訂單對象的大小是1kb,實際上訂單對象的大小和訂單對象中的字段有關系,我們假設是1kb。每秒400單,也就是會產生400kb的訂單對象。下單還涉及到其他對象,比如庫存,優(yōu)惠券,積分等等,我們將對象擴大20倍, 大約是(400kb*20)/秒. 可能同時還有其他操作,比如查詢訂單的操作,我們再講其擴大10倍,大約是80M,也就是每秒產生約80M的對象,這些對象在1s后都會變?yōu)槔?/p>

對于一臺4核8G的服務器來說,通常我們不設置JVM參數,也可能會根據物理機的8G內存來設置JVM參數。如果根據JVM參數來設置參數如何設置呢?

之前說過開啟逃逸分析會將對象分配到棧上,我們這里計算分析的時候暫且忽略逃逸分析分配到棧上的對象,因為這部分對象相對來說比較少。下面我們來驗證上面的預估算法是否準確,會有什么樣的問題呢?

物理機有8G,分給os操作系統(tǒng)3G,分給JVM5G,然后JVM中給堆分配3G,元數據空間分配512M,線程棧分配1M等等。這是估算,不夠精細,到底分配這么多空間夠不夠呢,會不會浪費呢?會產生什么樣的問題呢?

設置jvm參數大致如下:? -Xms3072M -Xmx3072M -Xss1M -XX:MetaspaceSize=512M -XX:MaxMetaspaceSize=512M

這樣設置到底行不行呢?有沒有問題呢?我們來看看運行時數據區(qū):

根據計算

整個堆空間3G

Eden區(qū)800M

s1/s2各100M

方法區(qū)512M

一個線程1M

按照這個模型來分析,得到如下結果:

大促期間1s產生80M的對象數據。我們知道對象數據都是放在Eden園區(qū),Eden園區(qū)一共800M,那么大約10s就放滿了,放滿了就會觸發(fā)Minor GC

觸發(fā)Minor GC的期間,會Stop The World暫停業(yè)務線程。在第10s觸發(fā)MinorGC的時候,前9s的720M數據都已經變成垃圾了,會被回收掉,最后1s的80M數據由于還有對象引用,只是暫停了業(yè)務線程,因此不是垃圾,不能被回收。會被放入S1區(qū)。

在Survivor區(qū)有一個對象動態(tài)年齡判斷機制。什么是對象動態(tài)年齡判斷機制呢?

當前放對象的Survivor區(qū)域里(其中一塊區(qū)域,放對象的那塊s區(qū)),一批對象的總大小大于這塊Survivor區(qū)域內存大小的50%(-XX:TargetSurvivorRatio可以指定),那么此時大于等于這批對象年齡最大值的對象,就可以直接進入老年代了,

例如:Survivor區(qū)域里現在有一批對象,年齡1+年齡2+年齡n的多個年齡對象總和超過了Survivor區(qū)域的50%,此時就會把年齡n(含)以上的對象都放入老年代。這個規(guī)則其實是希望那些可能是長期存活的對象,盡早進入老年代。

對象動態(tài)年齡判斷機制一般是在minor gc之后觸發(fā)的。

也就是說當在Survivor區(qū)經過幾代的回收以后,如果對象總和大于Survivor區(qū)域的一半,則會直接放入到老年代。Survivor是100M,第10s的對象是80M,大于100M,會直接將這個對象放入到老年代。

老年代一共有2G空間,2G空間執(zhí)行多少次會滿呢?2G/80M=25次,也就是發(fā)生25次(25秒)Minor GC就會觸發(fā)一次Full GC。這個頻率就太高了,通常應該要很少觸發(fā)Full GC,起碼也得1個小時觸發(fā)一次。而觸發(fā)的原因是因為垃圾對象(這些對象1s后都變成垃圾了),這樣肯定是不行的。我們需要優(yōu)化JVM參數。

3. JVM優(yōu)化

有問題有就解決問題。問題的根本原因是老年代發(fā)生了Full GC,為什么會發(fā)生Full GC呢?

之所以80M對象會放到了老年代是因為每秒產生的數據 大于 Survivor區(qū)空間的一半。所以,我們可以調整Survivor區(qū)大小。通常我們不會修改默認的Eden:S1:S2的比例,所以,我們可以考慮從整體擴大新生代的內存空間。假設我們擴大到2G,讓老年代是1G。

這時會怎么樣呢?

Young區(qū)占2G,Eden區(qū)有1.6G, S1、S2各有200M。

這時在分析:

Eden區(qū)有1.6G,每秒產生80M的對象放到Eden區(qū),大約1.6G/80=20s放滿。

放滿以后觸發(fā)Minor GC, 此時前19s的對象都已經成為垃圾被回收,第20s的對象被轉移到S1區(qū)。

此時,S1區(qū)有200M,80<S1區(qū)空間的一半,所以不會轉移到老年代。這樣第一次GC結束

又過了20s,進行第二次Minor GC,這次Eden區(qū)又產生了1.52G的垃圾被回收,之前在S1區(qū)的80M對象也已經變成垃圾被回收。新的80M對象被放入到S2區(qū)。沒有進入到老年代。

以此類推,第三次,第四次,垃圾對象不會再進入老年代,因此也不會在發(fā)生Full GC.

由此分析,大大降低了Full GC發(fā)生的頻率。

最終參數設置:

4. 總結

通過上面的數據分析,我們要養(yǎng)成一個習慣,做任何事情都是要有理有據,不能是拍腦袋就說出來的。一定要能夠經得起驗證的。

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,030評論 6 531
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 98,310評論 3 415
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,951評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,796評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,566評論 6 407
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,055評論 1 322
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,142評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,303評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 48,799評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,683評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,899評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,409評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,135評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,520評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,757評論 1 282
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,528評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,844評論 2 372

推薦閱讀更多精彩內容