分布式應用系統監控淺談

應用監控.png

監控指標

機器維度

機器維度的監控指標包括CPU、Load、內存、網絡、IO、磁盤等相關指標,詳細指標可以參考Liux監控命令對應的指標數據:https://linux.cn/article-9373-1.html?pr (主要可以參見top、vmstat 、free、iostat、netstat 、iptraf等命令相關的核心指標)。

應用維度

應用維度的監控指標包括JVM使用情況、線程池使用情況:JVM情況主要包括YGC次數、時間,FullGC次數、時間,新生代老年代占比;線程池情況主要包括的線程池大小、最大線程數、活躍線程數、隊列大小等。

服務維度

服務維度的監控指標包括error日志報錯情況、服務接口調用量、耗時、成功率,調用接口調用量、耗時、成功率,dal層操作調用量、耗時、成功率。

外部依賴維度

外部依賴維度主要指應用系統常見的外部依賴的監控情況,主要包括數據庫、緩存、消息隊列等,這些一般情況都會獨立進行部署,對應的機器監控同上面列舉的機器維度監控;另外數據庫還需要關注連接數、內存使用、SQL調用量、耗時、成功率,慢SQL等;緩存需要關注調用量、成功率,命中率、內存使用等;消息隊列需要關注調用量、成功率,隊列積壓情況、死信隊列等

整體監控維度

整體上的監控指標包括可用性監控(服務是否可用)、訪問量監控(PV/UV)、負載監控(限流、熔斷情況)、自定義的業務監控(異常業務場景、服務統計等)

監控系統設計

實現思路

要想實現完整的監控系統設計應該包括如下幾步:數據采集—》數據整理存儲—》數據展示;
其中數據采集可以通過在機器上安裝客戶端或者應用中引入客戶端方式進行采集,應用日志可以使用統一的AOP攔截方式進行打印,然后通過獨立線程定時掃描上傳到服務端,上傳方式可以使用消息中間件進行數據傳輸,服務端消費隊列消息進行數據的整理存儲;
監控服務端接收到上送的監控數據后,應該對數據進行清洗,然后對數據進行存儲;由于監控數據會比較龐雜且是非結構化數據,這里最好使用非關系數據庫進行存儲,并對數據建立合適的索引,以便于監控數據的查詢展示;
監控數據存儲好后還需要有個便于監控數據查看,界面友好的展示系統進行數據的可視化報圖表展示,而且這個圖表最好可以支持自定義的格式配置。

注意事項

系統監控除了常規監控外,還需要支持可配置的監控指標,例如自定義日志告警、成功率告警等
數據展示除了常規數據展示外,還需要支持自定義的監控數據展示,例如數據的各種組合圖表、統計圖表等
分布式系統監控發現問題,還需要能夠快速定位,這個時候就需要應用有分布式追蹤的實現,另外日志盡量有統一規范格式便于解析

具體實現

現有開源的常見監控系統實現有zabbixELK(ElasticSearch+Logstash+Kibana ),大眾點評的CAT,另外在監控快速定位問題這塊大廠的實現有Google的Drapper、阿里的鷹眼、京東的hydra、Twitter的OpenZipkin,詳細介紹可見網上博文《各大廠分布式鏈路跟蹤系統架構對比》

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,283評論 6 530
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 97,947評論 3 413
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,094評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,485評論 1 308
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,268評論 6 405
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,817評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,906評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,039評論 0 285
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,551評論 1 331
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,502評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,662評論 1 366
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,188評論 5 356
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 43,907評論 3 345
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,304評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,563評論 1 281
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,255評論 3 389
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,637評論 2 370

推薦閱讀更多精彩內容