標籤:

構建狂拽炫酷屌的 MySQL 監控平台

構建狂拽炫酷屌的 MySQL 監控平台

6 人贊了文章

prometheus+grafana 對於現在這個時間點來說,相信很多同行都應該已經開始玩起來了,當仍然可能有一部分人可能還不知道prometheus+grafana 的存在,也可能還有一部分人雖然知道它的存在,但卻懶於動手,如果是這樣,那後面的內容你可得打起精神來了,因為可能你會被grafana炫酷的視覺效果驚艷到。

讓我們一起了解一下吧。

首先,簡單介紹下prometheus+grafana 這對鴛鴦到底是什麼:

prometheus 是由 SoundCloud 開發的開源監控報警系統和時序列資料庫(TSDB),prometheus是一個監控採集與數據存儲框架(監控server端),具體採集什麼數據依賴於具體的exporter(監控client端),例如:採集MySQL的數據需要使用到mysql_exporter,prometheus調用mysql_expoter採集到mysql的監控指標之後,把mysql_exporter採集到的數據存放到prometheus所在伺服器的磁碟數據文件中保存。它的各個組件基本都是用 golang 編寫,對編譯和部署十分友好.並且沒有特殊依賴,基本都是獨立工作。以下是prometheus架構圖(圖片來源:prometheus.io/docs/intr

grafana是一個高顏值的監控繪圖程序,也是一個可視化面板(Dashboard),grafana的厲害之處除了高顏值,還支持多種數據源(支持Graphite、zabbix、InfluxDB、Prometheus和OpenTSDB作為數據源)、支持靈活豐富的dashboard配置選項(例如:可以把多個實例的相同採集項配置在一個展示框里),使得相較於其他開源監控系統來說更易用性,學習成本更低。從視覺上來說,比以往的任何開源的監控系統都看起來要養眼很多,下面先看兩張監控效果圖:

相信審美還算正常的人都不會說上面兩張圖很醜吧,那麼問題來了,我們該如何玩起來呢?下面就簡單為大家介紹如何快速搭建起來!

這裡方便演示過程,我們準備了如下兩台測試伺服器

  • prometheus+grafana server端主機:10.10.30.165
  • MySQL 客戶端主機:10.10.20.14

1、安裝prometheus

1.1. 下載安裝包

對於prometheus,假設我們需要監控MySQL,那麼我們需要下載至少3個組件,如下:

  • prometheus程序包
  • node_exporter:監控主機磁碟、內存、CPU等硬體性能指標的採集程序包
  • mysql_exporter: 監控mysql各種性能指標的採集程序包

下載鏈接(該頁面始終只有一個最新版本):prometheus.io/download/

  • 下載prometheus

  • 下載node_exporter

  • 下載mysqld_exporter

  • PS:如果你還需要配置監控告警,需要下載alertmanager程序包

1.2. 解壓程序包

解壓prometheus

[root@localhost ~]# mkdir /data[root@localhost ~]# tar xvf prometheus-2.1.0.linux-amd64.tar.gz -C /data/

解壓exporter:由於prometheus主機自身也需要監控,所以也至少需要解壓node_exporter包

[root@localhost ~]# tar xf node_exporter-0.15.2.linux-amd64.tar -C /root/# 如果需要監控mysql,則繼續解壓mysql_exporter[root@localhost ~]# tar xf mysqld_exporter-0.10.0.linux-amd64.tar -C /root/

1.3. 啟動prometheus

進入prometheus的工作目錄

[root@localhost ~]# cd /data/[root@localhost data]# mv prometheus-2.1.0.linux-amd64/ prometheus[root@localhost ~]# cd /data/prometheus

配置 prometheus.yml配置文件

[root@localhost data]# cat prometheus.yml # my global configglobal:scrape_interval: 15s # Set the scrape interval to every 15 seconds. Default is every 1 minute.evaluation_interval: 15s # Evaluate rules every 15 seconds. The default is every 1 minute.# scrape_timeout is set to the global default (10s).# A scrape configuration containing exactly one endpoint to scrape:# Here its Prometheus itself.scrape_configs:- file_sd_configs:- files:- host.ymljob_name: Hostmetrics_path: /metricsrelabel_configs:- source_labels: [__address__]regex: (.*)target_label: instancereplacement: $1- source_labels: [__address__]regex: (.*)target_label: __address__replacement: $1:9100- file_sd_configs:files:- mysql.ymljob_name: MySQLmetrics_path: /metricsrelabel_configs:- source_labels: [__address__]regex: (.*)target_label: instancereplacement: $1- source_labels: [__address__]regex: (.*)target_label: __address__replacement: $1:9104- job_name: prometheusstatic_configs:- targets:- localhost:9090

啟動prometheus進程,30d表示prometheus只保留30天以內的數據

[root@localhost prometheus]# /data/prometheus/prometheus --storage.tsdb.retention=30d &

如果是7.x系統,可以按照如下方式配置service啟動腳本

# 修改WorkingDirectory參數為你的prometheus的工作目錄[root@localhost prometheus]# cat /usr/lib/systemd/system/prometheus.service[Unit]Description=Prometheus instanceWants=network-online.targetAfter=network-online.targetAfter=postgresql.service mariadb.service mysql.service[Service]User=rootGroup=rootType=simpleRestart=on-failureWorkingDirectory=/data/prometheus/RuntimeDirectory=prometheusRuntimeDirectoryMode=0750ExecStart=/data/prometheus/prometheus --storage.tsdb.retention=30d --config.file=/data/prometheus/prometheus.ymlLimitNOFILE=10000TimeoutStopSec=20[Install]WantedBy=multi-user.target

PS:prometheus默認的web訪問埠為9090,可以使用如下地址訪問10.10.30.165:9090

2、安裝grafana

前面說過,grafana是一個出圖展示框架,grafana根據grafana-dashboards來進行展示,grafana-dashboards就類似於grafana的出圖配置文件,根據在grafana-dashboards中的定義來確定在頁面中需要展示什麼指標,需要如何展示等,需要分別對這兩個組件進行下載與安裝。

2.1. 下載安裝包

對於grafana來說,需要下載一個程序包,一個grafana-dashboards包

下載鏈接

grafana程序包:grafana.com/grafana/dow

grafana-dashboards包:github.com/percona/graf

2.2. 解壓程序包

解壓grafana

[root@localhost ~]# tar xf grafana-4.6.3.linux-x64.tar.gz -C /data/prometheus/[root@localhost ~]# cd /data/prometheus[root@localhost prometheus]# mv grafana-4.6.3/ grafana

2.3. 啟動grafana

進入grafana工作目錄,並啟動

[root@localhost ]# cd /data/prometheus/grafana[root@localhost ]# ./bin/grafana-server

如果是7.x系統,可以按照如下方式配置service啟動腳本

[root@localhost service]# cat /usr/lib/systemd/system/grafana-server.service[Unit]Description=Grafana instanceDocumentation=http://docs.grafana.orgWants=network-online.targetAfter=network-online.targetAfter=postgresql.service mariadb.service mysql.service[Service]User=rootGroup=rootType=simpleRestart=on-failureWorkingDirectory=/data/prometheus/grafanaRuntimeDirectory=grafanaRuntimeDirectoryMode=0750ExecStart=/data/prometheus/grafana/bin/grafana-serverLimitNOFILE=10000TimeoutStopSec=20[Install]WantedBy=multi-user.target

打開grafana頁面(默認帳號和密碼:admin/admin,默認的埠為3000,通過地址:10.10.30.165:3000 訪問),配置數據來源。

指定prometheus地址,這裡我們把grafana裝在了同一台機器,直接使用127.0.0.1的地址配置即可,如下圖

2.4. 在grafana中導入grafana-dashboards

解壓grafana-dashboards包,該包中提供了大量的json格式文件的grafana dashboards,根據需要自行選擇,我們這裡需要監控主機和MySQL,就選擇如下一些json文件。

[root@localhost ~]# tar xvf grafana-dashboards-1.6.1.tar.gz [root@localhost ~]# cd grafana-dashboards-1.6.1[root@localhost grafana-dashboards-1.6.1]# updatedb [root@localhost grafana-dashboards-1.6.1]# locate json |grep dashboards/............/root/grafana-dashboards-1.6.1/dashboards/CPU_Utilization_Details_Cores.json/root/grafana-dashboards-1.6.1/dashboards/Disk_Performance.json/root/grafana-dashboards-1.6.1/dashboards/Disk_Space.json............/root/grafana-dashboards-1.6.1/dashboards/MySQL_InnoDB_Metrics.json/root/grafana-dashboards-1.6.1/dashboards/MySQL_InnoDB_Metrics_Advanced.json............/root/grafana-dashboards-1.6.1/dashboards/MySQL_Overview.json/root/grafana-dashboards-1.6.1/dashboards/MySQL_Performance_Schema.json............/root/grafana-dashboards-1.6.1/dashboards/MySQL_Replication.json/root/grafana-dashboards-1.6.1/dashboards/MySQL_Table_Statistics.json............/root/grafana-dashboards-1.6.1/dashboards/Summary_Dashboard.json/root/grafana-dashboards-1.6.1/dashboards/System_Overview.json............

在grafana頁面中,導入需要的json文件

在彈出的窗口中選擇你需要導入的json文件

然後,如果你的grafana中已經添加過主機,此時,就可以看到相應的json dashboard監控數據

至此,prometheus+grafana的基礎架構(server端)已經搭建好了,現在,你可以去給他們添加監控節點了(client端)

3、監控節點部署

3.1. 添加主機監控

以添加prometheus主機(10.10.30.165)為例進行說明

解壓exporter壓縮包

[root@localhost ~]# tar xf node_exporter-0.15.2.linux-amd64.tar [root@localhost ~]# mv node_exporter-0.15.2.linux-amd64 node_exporter

啟動node_exporter程序

[root@localhost ~]# cd node_exporter[root@localhost node_exporter]# nohup ./node_exporter &

配置prometheus主機監控配置列表文件,由於之前主配置文件prometheus.yml 中已經定義了監控主機的配置文件host.yml,這裡只需要把主機IP信息填入即可動態生效

[root@localhost node_exporter]# cat /data/prometheus/host.yml- labels:service: testtargets:- 10.10.30.165

然後,在grafana頁面中就可以看到你配置的主機

PS:如果該文件中已經配置過lables且不需要使用獨立的service標籤進行標記,則新添加的實例的IP可以直接放在同一個targets下,如下:

[root@localhost mysqld_exporter]# cat /data/prometheus/host.yml- labels:service: testtargets:- 10.10.30.165- 10.10.20.14

3.2. 添加MySQL監控

添加MySQL監控主機,這裡以添加10.10.20.14為例進行說明

解壓exporter壓縮包

[root@localhost ~]# tar xf mysqld_exporter-0.10.0.linux-amd64.tar [root@localhost ~]# mv mysqld_exporter-0.10.0.linux-amd64 mysqld_exporter

配置監控資料庫需要的主機IP、資料庫埠、資料庫賬號和密碼的環境變數(注意:該賬號需要單獨創建,需要對所有庫所有表至少具有PROCESS, REPLICATION CLIENT, SELECT許可權)

[root@luoxiaobo-01 ~]# export DATA_SOURCE_NAME=admin:password@(10.10.20.14:3306)/[root@luoxiaobo-01 ~]# echo "export DATA_SOURCE_NAME=admin:password@(10.10.20.14:3306)/" >> /etc/profile

啟動exporter

# 由於目前最新的版本默認關閉了大量的mysql採集項,需要顯式使用相應的選項開啟(截止到寫稿時間,最新的開發版本可以通過prometheus端的配置項讓exporter端生效,而無需再exporter中使用大量的啟動選項開啟)[root@localhost ~]# cd mysqld_exporter[root@localhost mysqld_exporter]# nohup ./mysqld_exporter --collect.info_schema.processlist --collect.info_schema.innodb_tablespaces --collect.info_schema.innodb_metrics --collect.perf_schema.tableiowaits --collect.perf_schema.indexiowaits --collect.perf_schema.tablelocks --collect.engine_innodb_status --collect.perf_schema.file_events --collect.info_schema.processlist --collect.binlog_size --collect.info_schema.clientstats --collect.perf_schema.eventswaits &

配置prometheus MySQL監控配置列表文件,由於之前主配置文件prometheus.yml 中已經定義了監控主機的配置文件mysql.yml,這裡只需要把主機IP信息填入即可動態生效

[root@localhost mysqld_exporter]# cat /data/prometheus/host.yml- labels:service: testtargets:- 10.10.30.165- 10.10.20.14

然後,在grafana頁面中就可以看到你配置的MySQL實例

PS:如果該文件中已經配置過lables且不需要使用獨立的service標籤進行標記,則新添加的實例的IP可以直接放在同一個targets下,如下:

[root@localhost mysqld_exporter]# cat /data/prometheus/mysql.yml- labels:service: testtargets:- 10.10.30.165- 10.10.20.14

3.3. grafana頁面dashboard切換

根據需要切換監控模板

然後,就能看到你想要的數據

到這裡,本文也接近尾聲了,相信大家按照本文介紹的步驟操作一翻,已經一睹了grafana炫酷界面的芳容了,謝謝大家閱讀!

| 作者簡介

羅小波·沃趣科技高級資料庫技術專家

IT從業多年,歷任運維工程師,高級運維工程師,運維經理,資料庫工程師,曾參與版本發布系統,輕量級監控系統,運維管理平台,資料庫管理平台的設計與編寫,熟悉MySQL的體系結構時,InnoDB存儲引擎,喜好專研開源技術,追求完美。

推薦閱讀:

TAG:MySQL | 監控 |