设为首页 收藏本站
查看: 1498|回复: 0

[经验分享] lvs+keepalived高可用负载均衡集群双主实现

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2015-6-19 08:47:58 | 显示全部楼层 |阅读模式
项目说明1、         使用LVS负载均衡用户请求到后端web服务器,并且实现健康状态检查
2、         使用keepalived高可用LVS,避免LVS单点故障
3、         集群中分别在LK-01和LK-02运行一个VIP地址,实现LVS双主
4、         用户通过DNS轮训的方式实现访问集群的负载均衡(不演示)
环境拓扑 wKioL1WDAOCy986aAAIliC4Cy7k170.jpg
环境介绍

IP地址
功能描述
LK-01
172.16.4.100
调度用户请求到后端web服务器,并且和LK-02互为备份
LK-02
172.16.4.101
调度用户请求到后端web服务器,并且和LK-01互为备份
WEB-01
172.16.4.102
提供web服务
WEB-02
172.16.4.103
提供web服务
DNS
172.16.4.10
实现DNS轮训解析用户请求域名地址
VIP1
172.16.4.1
用户访问集群的入口地址,可能在LK-01,也可能在LK-02
VIP2
172.16.4.2
用户访问集群的入口地址,可能在LK-01,也可能在LK-02

环境配置后端WEB服务器配置Web服务器的配置极其简单,只需要提供测试页面启动web服务即可,配置如下:
Web-01配置
1
2
[iyunv@WEB-01 ~]# echo "web-01" >/var/www/html/index.html
[iyunv@WEB-01 ~]# service httpd start



Web-02配置
1
2
[iyunv@WEB-02 ~]# echo "web-02" >/var/www/html/index.html
[iyunv@WEB-02 ~]# service httpd start



LVS访问后端web服务器,验证web服务提供成功
1
2
3
4
[iyunv@LK-01 ~]# curl 172.16.4.102
web-01
[iyunv@LK-01 ~]# curl 172.16.4.103
web-02



出现设置的页面,就说明web服务是正常

WEB服务器使用脚本进行配置LVS-DR模式客户端环境
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
#!/bin/bash
#
vip1=172.16.4.1
vip2=172.16.4.2
  
interface1="lo:0"
interface2="lo:1"
  
  
case $1 in
start)
   echo 1> /proc/sys/net/ipv4/conf/all/arp_ignore
   echo 1> /proc/sys/net/ipv4/conf/lo/arp_ignore
   echo 2> /proc/sys/net/ipv4/conf/all/arp_announce
   echo 2> /proc/sys/net/ipv4/conf/lo/arp_announce
  
   ifconfig$interface1 $vip1 broadcast $vip1 netmask 255.255.255.255 up
   ifconfig$interface2 $vip2 broadcast $vip2 netmask 255.255.255.255 up
  
   route add-host $vip1 dev $interface1
   route add-host $vip2 dev $interface2
  
;;
  
stop)
  echo 0 >/proc/sys/net/ipv4/conf/all/arp_ignore
  echo 0 >/proc/sys/net/ipv4/conf/lo/arp_ignore
  echo 0 >/proc/sys/net/ipv4/conf/all/arp_announce
  echo 0 >/proc/sys/net/ipv4/conf/lo/arp_announce
  
  ifconfig$interface1 down
  ifconfig$interface2 down
  
;;
  
status)
  if ifconfiglo:0 |grep $vip1 &> /dev/null; then
        echo"ipvs1 is running."
  else
        echo"ipvs1 is stopped."
  fi
  
  if ifconfiglo:1 |grep $vip2 &> /dev/null; then
      echo"ipvs2 is running."
  else
       echo"ipvs2 is stopped."
  fi   
;;
  
*)
  echo"Usage: `basename $0` {start|stop|status}"
  exit 1
esac



LVS+keepalived设置Keepalived安装
Centos6.6已经收录了keepalived,直接使用yum安装即可
1
2
[iyunv@LK-01 ~]# yum -y install keepalived
[iyunv@LK-02 ~]# yum -y install keepalived



主节点配置
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
[iyunv@LK-01 ~]# vim /etc/keepalived/keepalived.conf
global_defs {
   router_idLVS_DEVEL
}
  
vrrp_script chk_mt_down {
  script"[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
  interval 1
  weight -5
}
  
vrrp_instance VI_1 {
    stateMASTER
    interfaceeth0
    virtual_router_id51
    priority100
   advert_int 1
   authentication {
       auth_type PASS
       auth_pass asdfgh
    }
   virtual_ipaddress {
       172.16.4.1/32 brd 172.16.4.1 dev eth0 label eth0:0
    }
  track_script {
   chk_mt_down
   }
}
  
vrrp_instance VI_2 {
    stateBACKUP
    interfaceeth0
   virtual_router_id 52
    priority99
   advert_int 1
   authentication {
       auth_type PASS
       auth_pass qwerty
    }
   virtual_ipaddress {
       172.16.4.2
    }
  track_script {
   chk_mt_down
   }
}
  
virtual_server 172.16.4.1 80 {
   delay_loop 6
    lb_algorr           
    lb_kindDR            
    nat_mask255.255.0.0
#   persistence_timeout 50
    protocolTCP
  
   real_server 172.16.4.102 80 {
       weight 1         
       HTTP_GET {         
           url {           
             path /index.html
             status 200
            }
           connect_timeout 3
           nb_get_retry 3   
           delay_before_retry 1
        }
    }
   real_server 172.16.4.103 80 {
       weight 1
       HTTP_GET {
           url {
             path /index.html
             status_code 200
            }
           connect_timeout 3
           nb_get_retry 3   
           delay_before_retry 1
        }
}
}
  
virtual_server 172.16.4.2 80 {
   delay_loop 6
    lb_algorr
    lb_kindDR
    nat_mask255.255.0.0
#   persistence_timeout 50
    protocolTCP
  
   real_server 172.16.4.102 80 {
       weight 1
        HTTP_GET {
           url {
             path /index.html
             status 200
            }
           connect_timeout 3
           nb_get_retry 3
           delay_before_retry 1
        }
    }
   real_server 172.16.4.103 80 {
       weight 1
       HTTP_GET {
           url {
             path /index.html
             status_code 200
            }
           connect_timeout 3
           nb_get_retry 3
           delay_before_retry 1
        }
}
}



备份节点设置
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
[iyunv@LK-02 ~]# vim /etc/keepalived/keepalived.conf
global_defs {
   router_idLVS_DEVEL
}
  
vrrp_script chk_mt_down {
  script"[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
  interval 1
  weight -5
}
  
vrrp_instance VI_1 {
    stateBACKUP
    interfaceeth0
   virtual_router_id 51
    priority99
   advert_int 1
   authentication {
       auth_type PASS
       auth_pass asdfgh
    }
   virtual_ipaddress {
       172.16.4.1/32 brd 172.16.4.1 dev eth0 label eth0:0
    }
  track_script {
   chk_mt_down
   }
}
vrrp_instance VI_2 {
    stateMASTER
    interfaceeth0
   virtual_router_id 52
    priority100
   advert_int 1
   authentication {
       auth_type PASS
       auth_pass qwerty
    }
   virtual_ipaddress {
       172.16.4.2
    }
   track_script{
   chk_mt_down
   }
}
  
virtual_server 172.16.4.1 80 {
   delay_loop 6
    lb_algorr
    lb_kindDR
    nat_mask255.255.0.0
#   persistence_timeout 50
    protocolTCP
  
  
real_server 172.16.4.102 80 {
    weight 1
    HTTP_GET{
        url {
         path /index.html
         status_code 200
        }
       connect_timeout 3
       nb_get_retry 3
       delay_before_retry 1
    }
}
real_server 172.16.4.103 80 {
    weight 1
    HTTP_GET{
        url {
         path /index.html
         status 200
        }
       connect_timeout 3
       nb_get_retry 3
       delay_before_retry 1
    }
}
}
  
virtual_server 172.16.4.2 80 {
   delay_loop 6
    lb_algorr
    lb_kindDR
    nat_mask255.255.0.0
#   persistence_timeout 50
    protocolTCP
  
  
real_server 172.16.4.102 80 {
    weight 1
    HTTP_GET{
        url {
         path /index.html
         status_code 200
        }
       connect_timeout 3   
       nb_get_retry 3     
       delay_before_retry 1
    }
}
real_server 172.16.4.103 80 {
    weight 1
    HTTP_GET{
        url {
         path /index.html
         status 200
        }
       connect_timeout 3  
       nb_get_retry 3     
       delay_before_retry 1
    }
}
}



设置完成启动keepalived
1
2
[iyunv@LK-01 ~]# service keepalived start
[iyunv@LK-02 ~]# service keepalived start



验证Vip地址和集群规则验证LK-01查看
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
[iyunv@LK-01 ~]# ip addr show dev eth0
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP>mtu 1500 qdisc pfifo_fast state UP qlen 1000
   link/ether 00:0c:29:22:c5:c2 brd ff:ff:ff:ff:ff:ff
    inet172.16.4.100/16 brd 172.16.255.255 scope global eth0
    inet172.16.4.1/32 brd 172.16.4.1 scope global eth0:0
    inet6fe80::20c:29ff:fe22:c5c2/64 scope link
      valid_lft forever preferred_lft forever
[iyunv@LK-01 ~]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  ->RemoteAddress:Port           ForwardWeight ActiveConn InActConn
TCP 172.16.4.1:80 rr
  ->172.16.4.102:80              Route   1     0          0        
  ->172.16.4.103:80              Route   1     0          0        
TCP 172.16.4.2:80 rr
  ->172.16.4.102:80              Route   1     0          0        
  ->172.16.4.103:80              Route   1     0          0



LK-02查看
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
[iyunv@LK-02 ~]# ip addr show dev eth0
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP>mtu 1500 qdisc pfifo_fast state UP qlen 1000
   link/ether 00:0c:29:f1:dd:b2 brd ff:ff:ff:ff:ff:ff
    inet172.16.4.101/16 brd 172.16.255.255 scope global eth0
    inet172.16.4.2/32 scope global eth0
    inet6fe80::20c:29ff:fef1:ddb2/64 scope link
      valid_lft forever preferred_lft forever
[iyunv@LK-02 ~]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  ->RemoteAddress:Port           ForwardWeight ActiveConn InActConn
TCP 172.16.4.1:80 rr
  ->172.16.4.102:80              Route   1     0          0        
  ->172.16.4.103:80              Route   1     0          0        
TCP 172.16.4.2:80 rr
  ->172.16.4.102:80              Route   1     0          0        
  ->172.16.4.103:80              Route   1     0          0



负载均衡验证无论访问vip1还是vip2都已经实现了负载均衡功能
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
[iyunv@localhost ~]# curl 172.16.4.1
web-02
[iyunv@localhost ~]# curl 172.16.4.1
web-01
[iyunv@localhost ~]# curl 172.16.4.1
web-02
[iyunv@localhost ~]# curl 172.16.4.1
web-01
[iyunv@localhost ~]# curl 172.16.4.2
web-02
[iyunv@localhost ~]# curl 172.16.4.2
web-01
[iyunv@localhost ~]# curl 172.16.4.2
web-02
[iyunv@localhost ~]# curl 172.16.4.2
web-01




高可用验证使用down文件关闭LK-02节点
1
[iyunv@LK-02 ~]# touch /etc/keepalived/down



查看LK-01节点的VIP地址,发现VIP1和VIP2都已经在LK-01节点启动了
1
2
3
4
5
6
7
8
[iyunv@LK-01 ~]# ip addr show dev eth0
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP>mtu 1500 qdisc pfifo_fast state UP qlen 1000
   link/ether 00:0c:29:22:c5:c2 brd ff:ff:ff:ff:ff:ff
    inet172.16.4.100/16 brd 172.16.255.255 scope global eth0
    inet172.16.4.1/32 brd 172.16.4.1 scope global eth0:0
    inet172.16.4.2/32 scope global eth0
    inet6fe80::20c:29ff:fe22:c5c2/64 scope link
      valid_lft forever preferred_lft forever



集群访问正常
1
2
3
4
5
6
7
8
[iyunv@localhost ~]# curl 172.16.4.1
web-02
[iyunv@localhost ~]# curl 172.16.4.1
web-01
[iyunv@localhost ~]# curl 172.16.4.2
web-02
[iyunv@localhost ~]# curl 172.16.4.2
web-01



健康检测验证手动关闭web-02节点
1
[iyunv@WEB-02 ~]# service httpd stop



查看集群规则设置,已经自动移除了web-02节点
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
[iyunv@LK-01 ~]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  ->RemoteAddress:Port           ForwardWeight ActiveConn InActConn
TCP 172.16.4.1:80 rr
  ->172.16.4.102:80              Route   1     0          1        
TCP 172.16.4.2:80 rr
  ->172.16.4.102:80              Route   1     0          1
[iyunv@LK-02 ~]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  ->RemoteAddress:Port           ForwardWeight ActiveConn InActConn
TCP 172.16.4.1:80 rr
  ->172.16.4.102:80              Route   1     0          0        
TCP 172.16.4.2:80 rr
  ->172.16.4.102:80              Route   1     0          0






运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.iyunv.com/thread-78661-1-1.html 上篇帖子: LVS/DR + keepalived配置 下篇帖子: LVS的工作原理和相关算法
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表