目錄

簡介

1.準備工作

• 1.1 關閉selinux
• 1.2 關閉iptables防火墻
• 1.3 安裝wget

2.部署Nginx

• 2.1 安裝編譯工具及庫文件
• 2.2 安裝nginx
• 2.3 配置nginx
• 2.3.1 創建nginx運行使用的用戶www
• 2.3.2 啟動nginx
• 2.3.3 編輯index.html文件
• 2.3.4 配置nginx.conf
• 2.3.5 瀏覽器訪問

3.部署Keepalived

• 3.1 安裝keepalived
• 3.2 修改keepalived的配置文件
• 3.3 編寫nginx狀態監測腳本
• 3.4 保存腳本，賦予執行權限
• 3.5 啟動keepalived

4.Nginx+Keepalived的高可用測試

• 4.1 查看服務器上的地址
• 4.2 關閉MASTER上的nginx，keepalived會將它重新啟動
• 4.3 關閉MASTER上的keepalived，VIP會切換到BACKUP上
• 4.4 驗證VIP的漂移
• 驗證方法1：通過ip add查看VIP的漂移
• 驗證方法2：通過瀏覽器訪問VIP

簡介

這種方案，使用一個VIP地址，前端使用2臺機器，一臺做主，一臺做備，但同時只有一臺機器工作，另一臺備機在主機器不出現故障的時候，永遠處于浪費狀態，對于服務器不多的網站，該方案并不經濟實惠。

關于Nginx版本

Mainline version：開發版
Stable version：穩定版
Legacy versions：遺留的老版本

官方地址：http://nginx.org/ ，找到“news”中，最新的一個stable version
下載地址：http://nginx.org/download/ ，找到這個包的下載鏈接，右鍵復制鏈接地址

規劃：

LB-01:192.168.1.191 nginx+keepalived-master
LB-02:192.168.1.192 nginx+keepalived-backup
VIP：192.168.1.99

OS：CentOS 6.8 X64

架構圖：

Nginx+Keepalived主從架構

1.準備工作

1.1 關閉SELinux

  [root@example01 ~]# vim /etc/sysconfig/selinux
  SELINUX=disabled

1.2 關閉IPTABLES防火墻

  [root@example01 ~]# vim /etc/sysconfig/iptables
  -A INPUT -m state --state NEW -m tcp -p tcp --dport 80 -j ACCEPT
  # 允許VRRP（虛擬路由冗余協議）通信
  -A INPUT -p vrrp -d -j ACCEPT
  # 允許Keepalived虛擬路由組播地址通信
  -A INPUT -d 224.0.0.18 -j ACCEPT


  [root@example01 ~]# service iptables restart
  iptables: Applying firewall rules:                         [  OK  ]

1.3 安裝wget

  [root@example01 ~]# yum -y install wget

準備工作到此為止，reboot命令，重啟兩臺服務器，使得SELinux配置生效

2.部署nginx

2.1 安裝編譯工具及庫文件

  [root@example01 ~]# yum -y install gcc gcc-c++ make automake autoconf libtool pcre pcre-devel zlib zlib-devel openssl openssl-devel

2.2 安裝nginx

  [root@example01 ~]# cd /usr/local/src/
  [root@example01 src]# wget http://nginx.org/download/nginx-1.6.2.tar.gz
  [root@example01 src]# tar -zxvf nginx-1.6.2.tar.gz 
  [root@example01 src]# cd nginx-1.6.2
  [root@example01 nginx-1.6.2]# ./configure --prefix=/usr/local/nginx \
  --with-http_stub_status_module \
  --with-http_ssl_module
  [root@example01 nginx-1.6.2]# make && make install

• 配置報錯：
  ./configure: error: the HTTP rewrite module requires the PCRE library.
  You can either disable the module by using --without-http_rewrite_module
  option, or install the PCRE library into the system, or build the PCRE library
  statically from the source with nginx by using --with-pcre=<path> option.
• 解決辦法：

  [root@example01 nginx-1.6.2]# ./configure --prefix=/usr/local/nginx \
  > --without-http_rewrite_module

2.3 配置nginx

2.3.1 創建nginx運行使用的用戶www

  [root@example01 nginx-1.6.2]# /usr/sbin/groupadd www
  [root@example01 nginx-1.6.2]# /usr/sbin/useradd -g www www

2.3.2 啟動nginx

啟動服務

  [root@example01 nginx-1.6.2]# /usr/local/nginx/sbin/nginx

重載nginx配置

  [root@example01 nginx-1.6.2]# /usr/local/nginx/sbin/nginx -s reload

開機啟動

  [root@example01 src]# vim /etc/rc.local 
  # Nginx
  /usr/local/nginx/sbin/nginx

2.3.3 編輯index.html文件

編輯LB-01:192.168.1.191

  [root@example01 nginx-1.6.2]# vim /usr/local/nginx/html/index.html 
   14 <h1>Welcome to nginx!Server01</h1>

編輯LB-02:192.168.1.192

  [root@example02 nginx-1.6.2]# vim /usr/local/nginx/html/index.html 
   14 <h1>Welcome to nginx!Server02</h1>

2.3.4 配置nginx.conf

    2 user  www www;
    3 worker_processes  1;

   35    upstream my Server {
   36        ip_hash;

   37         server 192.168.1.191:80;
   38         server 192.168.1.192:80;
   39     }

Tips：

• 負載均衡模塊用于從”upstream”指令定義的后端主機列表中選取一臺主機。nginx先使用負載均衡模塊找到一臺主機，再使用upstream模塊實現與這臺主機的交互。
• 從配置我們可以看出負載均衡模塊的使用場景：
  • 1.核心指令”ip_hash”只能在upstream {}中使用。這條指令用于通知nginx使用ip hash負載均衡算法。如果沒加這條指令，nginx會使用默認的round robin負載均衡模塊。
  • 2.upstream {}中的指令可能出現在”server”指令前，可能出現在”server”指令后，也可能出現在兩條”server”指令之間。

2.3.5 瀏覽器訪問：

http://192.168.1.191

LB-01:192.168.1.191

http://192.168.1.192

LB-02:192.168.1.192

nginx其它命令：

  /usr/local/nginx/sbin/nginx -s reload            # 重新載入配置文件
  /usr/local/nginx/sbin/nginx -s reopen            # 重啟 Nginx
  /usr/local/nginx/sbin/nginx -s stop              # 停止 Nginx

3.部署keepalived

3.1 安裝keepalived

  [root@example01 src]# yum -y install keepalived

查看keepalived版本

  [root@example01 src]# keepalived -v
  Keepalived v1.2.13 (03/19,2015)

3.2 修改keepalived的配置文件

LB-01:192.168.1.191的配置

  [root@example01 src]# vim /etc/keepalived/keepalived.conf
  vrrp_script chk_nginx {
     script "/etc/keepalived/nginx_check.sh"    # 檢測nginx狀態的腳本路徑
     interval 2                 # 檢測時間間隔2s
     weight -20                 # 如果腳本的條件成立，權重-20
  }

  vrrp_instance VI_1 {
      state MASTER              # 服務狀態；MASTER（工作狀態）BACKUP（備用狀態）
      interface eth0              # VIP綁定網卡
      virtual_router_id 51      # 虛擬路由ID，主、備節點必須一致
      mcast_src_ip 192.168.1.191  # 本機IP
      nopreempt                # 優先級高的設置，解決異常回復后再次搶占的問題
      priority 100              # 優先級；取值范圍：0~254；MASTER > BACKUP
      advert_int 1              # 組播信息發送間隔，主、備節點必須一致，默認1s
      authentication {          # 驗證信息；主、備節點必須一致
          auth_type PASS          # VRRP驗證類型，PASS、AH兩種
          auth_pass 1111          # VRRP驗證密碼，在同一個vrrp_instance下，主、從必須使用相同的密碼才能正常通信
      }
    track_script {           # 將track_script塊加入instance配置塊
          chk_nginx         # 執行Nginx監控的服務
      }
      virtual_ipaddress {         # 虛擬IP池，主、備節點必須一致，可以定義多個VIP
          192.168.1.99          # 虛擬IP
      }
  }

LB-02:192.168.1.192的配置

  [root@example02 src]# vim /etc/keepalived/keepalived.conf
  vrrp_script chk_nginx {
     script "/etc/keepalived/nginx_check.sh"
     interval 2
     weight -20
  }

  vrrp_instance VI_1 {
      state BACKUP
      interface eth0
      virtual_router_id 51
      mcast_src_ip 192.168.1.192
      priority 90
      advert_int 1
      authentication {
          auth_type PASS
          auth_pass 1111
      }
      track_script {
          chk_nginx
      }
      virtual_ipaddress {
          192.168.1.99
      }   
  }   

3.3 編寫nginx狀態監測腳本

  [root@example01 keepalived]# vim /etc/keepalived/nginx_check.sh
  #!/bin/bash
  A=`ps -C nginx –no-header |wc -l`
  if [ $A -eq 0 ];then
          /usr/local/nginx/sbin/nginx
          sleep 2
          if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
                  killall keepalived
          fi
  fi

腳本要求：如果 nginx 停止運行，嘗試啟動，如果無法啟動則殺死本機的 keepalived 進程， keepalied將虛擬 ip 綁定到 BACKUP 機器上。

3.4 保存腳本，賦予執行權限

  [root@example01 keepalived]# chmod +x /etc/keepalived/nginx_check.sh 
  [root@example01 keepalived]# ll
  total 8
  -rw-r--r--. 1 root root 3602 Mar 27 23:46 keepalived.conf
  -rwxr-xr-x. 1 root root  191 Mar 27 23:53 nginx_check.sh

3.5 啟動keepalived

開機啟動

  [root@example02 src]# chkconfig keepalived on

啟動服務

  [root@example01 keepalived]# service keepalived start
  Starting keepalived:                                       [  OK  ]

4.keepalived+nginx的高可用測試

4.1 查看服務器上的地址

查看MASTER的地址：

  [root@example01 keepalived]# ip add
  1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN 
      link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      inet 127.0.0.1/8 scope host lo
      inet6 ::1/128 scope host 
         valid_lft forever preferred_lft forever
  2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
      link/ether 00:0c:29:37:2c:86 brd ff:ff:ff:ff:ff:ff
      inet 192.168.1.191/24 brd 192.168.1.255 scope global eth0
      inet 192.168.1.99/32 scope global eth0                    # 注意，此時MASTER上存在一個VIP
      inet6 fe80::20c:29ff:fe37:2c86/64 scope link 
         valid_lft forever preferred_lft forever

查看BACKUP的地址：

  [root@example02 src]# ip add
  1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN 
      link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      inet 127.0.0.1/8 scope host lo
      inet6 ::1/128 scope host 
         valid_lft forever preferred_lft forever
  2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
      link/ether 00:0c:29:5b:9e:6b brd ff:ff:ff:ff:ff:ff
      inet 192.168.1.192/24 brd 192.168.1.255 scope global eth0
      inet6 fe80::20c:29ff:fe5b:9e6b/64 scope link 
         valid_lft forever preferred_lft forever

4.2 關閉MASTER上的nginx，keepalived會將它重新啟動

  [root@example01 keepalived]# /usr/local/nginx/sbin/nginx -s stop

4.3 關閉MASTER上的keepalived，VIP會切換到BACKUP上

  [root@example01 keepalived]# service keepalived stop
  Stopping keepalived:                                       [  OK  ]

4.4 驗證VIP的漂移

驗證方法1：通過ip add查看VIP的漂移

  [root@example01 keepalived]# ip add
  1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN 
      link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      inet 127.0.0.1/8 scope host lo
      inet6 ::1/128 scope host 
         valid_lft forever preferred_lft forever
  2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
      link/ether 00:0c:29:37:2c:86 brd ff:ff:ff:ff:ff:ff
      inet 192.168.1.191/24 brd 192.168.1.255 scope global eth0
      inet6 fe80::20c:29ff:fe37:2c86/64 scope link 
         valid_lft forever preferred_lft forever


  [root@example02 src]# ip add
  1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN 
      link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
      inet 127.0.0.1/8 scope host lo
      inet6 ::1/128 scope host 
         valid_lft forever preferred_lft forever
  2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
      link/ether 00:0c:29:5b:9e:6b brd ff:ff:ff:ff:ff:ff
      inet 192.168.1.192/24 brd 192.168.1.255 scope global eth0
      inet 192.168.1.99/32 scope global eth0                    # 注意，此時存在一個VIP
      inet6 fe80::20c:29ff:fe5b:9e6b/64 scope link 
         valid_lft forever preferred_lft forever

驗證方法2：通過瀏覽器訪問VIP

瀏覽器訪問：http://192.168.1.99
刷新頁面，顯示“Welcome to nginx!Server02”，表示已經VIP已經漂移到了BACKUP服務器上

高可用

到這里，整個部署就已經完成了！

Tips:

• 在上面的部署過程中，為了節省篇幅，只顯示了LB-01:192.168.1.191上的部署過程。新手請注意，按照部署過程，凡是在LB-01:192.168.1.191上做的所有配置（準備工作、部署Nginx、部署Keepalived），都需要在LB-02:192.168.1.192上，再部署一次，并保持兩邊的配置過程一樣！