小團隊從0搭建devOPS平臺-Prometheus監控報警系統

在當前微服務架構流行情況下,對于初創企業,可能就幾個技術(2-20個不等),但是卻要開發十多個應用,要維護幾十臺云機器,甚至可能是混合云的模式。由于業務變化迅速,應用需要采用敏捷開發,針對這十來個應用怎么快速高效無誤的部署,出現系統異常能快速給出報警信息,快速定位問題并修復bug后重新部署上線,并且是在不影響線上服務的基礎上,這對技術團隊提出很高的要求。
傳統的開發模式和流程里面,這些工作需要開發人員和運維人員一起配合協作才能完成。但是實際上的效果不少特別好,因為開發人員對操作系統優化,監控報警并不熟悉,而運維人員不懂業務邏輯,不懂具體應用開發。所以針對這樣的情況,今年devOPS的概念和具體的實踐不斷被提出來。

行業內各巨頭(比如BAT)的自動化運維架構都各種功能各種酷炫,功能復雜,但是開發工作難度和強度也非常大,需要消耗大量的人力和財力。那么小團隊就沒有實現自己的devOPS了嗎?

答案當然是可以實現的。

筆者在一家小團隊,有10幾個開發人員,管理這幾十臺服務器和幾十個應用,在初期代碼的管理、應用的構建、部署發布、監控等都只能都人肉實現,需要不斷的到處救火,消耗了大量的開發人員的精力。好在有opensource,我們借助開源的力量慢慢形成了自己的一套devOPS體系,總體效果還不錯。

本文就是總結筆者在這方面一些經驗和實踐,希望對讀者有幫助。

對于監控和告警,現在市面上監控系統很多:Zabbix、Open-Falcon、Prometheus,最終選擇了 Prometheus,因為Prometheus生態強大,功能強大。

Prometheus 簡介

Prometheus 是一套開源的系統監控報警框架。它啟發于 Google 的 borgmon 監控系統,由工作在 SoundCloud 的 google 前員工在 2012 年創建,作為社區開源項目進行開發,并于 2015 年正式發布。2016 年,Prometheus 正式加入 Cloud Native Computing Foundation,成為受歡迎度僅次于 Kubernetes 的項目。

作為新一代的監控框架,Prometheus 具有以下特點:

  • 強大的多維度數據模型:

  • 插件多,想要監控什么,基本都會有現成的插件。

  • 易于管理: Prometheus server 是一個單獨的二進制文件,可直接在本地工作,不依賴于分布式存儲。

  • 高效:平均每個采樣點僅占 3.5 bytes,且一個 Prometheus server 可以處理數百萬的 metrics。

  • 使用 pull 模式采集時間序列數據,這樣不僅有利于本機測試而且可以避免有問題的服務器推送壞的 metrics。

  • 可以采用 push gateway 的方式把時間序列數據推送至 Prometheus server 端。

  • 可以通過服務發現或者靜態配置去獲取監控的 targets。

  • 有多種可視化圖形界面。

  • 易于伸縮。

需要指出的是,由于數據采集可能會有丟失,所以 Prometheus 不適用對采集數據要 100% 準確的情形。但如果用于記錄時間序列數據,Prometheus 具有很大的查詢優勢,此外,Prometheus 適用于微服務的體系架構。


Prometheus技術架構圖.png

Prometheus基本原理

Prometheus的基本原理是通過HTTP協議周期性抓取被監控組件的狀態,任意組件只要提供對應的HTTP接口就可以接入監控。不需要任何SDK或者其他的集成過程。這樣做非常適合做虛擬化環境監控系統,比如VM、Docker、Kubernetes等。輸出被監控組件信息的HTTP接口被叫做exporter 。目前互聯網公司常用的組件大部分都有exporter可以直接使用,比如Varnish、Haproxy、Nginx、MySQL、Linux系統信息(包括磁盤、內存、CPU、網絡等等)。

用Ansible 來Prometheus安裝

Ansible是一個自動配置管理工具,本文先不介紹了,以后有空再來做下介紹,ansible也是小團隊搭建devOPS的利器。
使用 Ansible 作為部署工具的一個好處是太多現成的 role 了,安裝 Prometheus 時,筆者使用的是現成的:

安裝所需各種exporter

比如需要采集操作系統系統,需要安裝node_exporter,當然安裝exporter也可以用ansible來實現。

安裝和配置監控可視化Grafana

Grafana是用于可視化大型測量數據的開源程序,它提供了強大和優雅的方式去創建、共享、瀏覽數據。
Dashboard中顯示了你不同metric數據源中的數據。
Grafana最常用于因特網基礎設施和應用分析,但在其他領域也有用到,比如:工業傳感器、家庭自動化、過程控制等等。
Grafana支持熱插拔控制面板和可擴展的數據源,目前已經支持Graphite、InfluxDB、OpenTSDB、Elasticsearch、Prometheus等。
具體安裝比較簡單,參照官網安裝即可。
安裝結束后登錄,默認用戶名密碼admin、admin

添加一個數據源


配置prometheus數據源.png

導入的模板會看到已經有各種圖,下圖筆者所在公司導入的node_exporter的監控圖


屏幕快照 2019-08-14 22.58.15.png

好了,有了監控數據后,我們就可以對數據進行可視化了,是不是很黑科技呢?并且告訴你這些監控圖是可以隨意定制的哦!
可是,我們不可能 24 小時盯著屏幕看 CPU 負載有沒有超吧?這時候就要上告警了。由于篇幅原因,下篇來說說告警(http://www.lxweimin.com/p/0dbece52b488)。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,818評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,185評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,656評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,647評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,446評論 6 405
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,951評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,041評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,189評論 0 287
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,718評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,602評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,800評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,316評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,045評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,419評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,671評論 1 281
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,420評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,755評論 2 371

推薦閱讀更多精彩內容