1。安装ipvsadm预备工作查看ipvsadm内核是否支持模块
#uname -r 2.6.18-8.el5 # modprobe -l | grep "ipvs" /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_nq.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_wrr.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_lc.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_wlc.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_lblc.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_ftp.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_dh.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_sed.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_sh.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_lblcr.ko /lib/modules/2.6.18-8.el5/kernel/net/ipv4/ipvs/ip_vs_rr.ko # ln -s /usr/src/kernels/2.6.18-8.el5-i686/ /usr/src/linux 2。安装ipvsadm #tar -zxvf ipvsadm-1.24.tar.gz #make #make install# whereis ipvsadm
ipvsadm: /sbin/ipvsadm /usr/man/man8/ipvsadm.8# /sbin/ipvsadm -Ln //检查ipvsadm 是否安装成功！
IP Virtual Server version 1.2.1 (size=4096) Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConn#cd /etc/sysconfig/network-scripts/
#vim ifcfg-eth0:0 //添加虚拟VIP网卡 DEVICE=eth0:0 BROADCAST=219.235.240.200 IPADDR=219.235.240.200 NETMASK=255.255.255.255 GATEWAY=219.235.240.200 ONBOOT=yes #/etc/init.d/network restart#vim /etc/rc.d/init.d/ipvsadm
case "$1" in
start) # If we don't clear these first, we might be adding to # pre-existing rules. action "Clearing the current IPVS table:" ipvsadm -C echo -n "Applying IPVS configuration: " ipvsadm-restore < "$IPVSADM_CONFIG" && \ success "Applying IPVS configuration" || \ failure "Applying IPVS configuration" echo touch /var/lock/subsys/ipvsadm echo "1" >/proc/sys/net/ipv4/ip_forward //添加处 ;;stop)
action "Clearing the current IPVS table:" ipvsadm -C rm -f /var/lock/subsys/ipvsadm echo "0" >/proc/sys/net/ipv4/ip_forward //添加处 ;; esac#vim /opt/shell/lvs_dr.sh
#!/bin/bash #description:start lvs_server #chkconfig 235 26 26 #set lvs /sbin/ipvsadm -C /sbin/ipvsadm -A -t 219.235.240.200:80 -s wrr -p 800 /sbin/ipvsadm -a -t 219.235.240.200:80 -r 219.235.240.50:80 -g -w 1 /sbin/ipvsadm -a -t 219.235.240.200:80 -r 219.235.240.60:80 -g -w 3 /etc/init.d/ipvsadm save#chkconfig --add ipvsadm
#chkconfig --level 24 ipvsadm off3。配置Realserver脚本
#vim /opt/shell/lvs_node #!/bin/bash #description:start real_server #chkconfig 235 26 26 VIP=219.235.240.200 /etc/rc.d/init.d/functions case "$1" in start) echo " start LVS of REALServer" /sbin/ifconfig lo:0 $VIP broadcast $VIP netmask 255.255.255.255 up /sbin/route add -host $VIP dev lo:0 echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce ;; stop) /sbin/ifconfig lo:0 down echo "close LVS Directorserver" echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce ;; *) echo "Usage: $0 {start|stop}" exit 1 esac#mv /opt/shell/lvs_node /etc/rc.d/init.d/lvs_node
#chmod 755 /etc/rc.d/init.d/lvs_node #chkconfig --add lvs_node #chkconfig --level 24 lvs_node off总结：
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－ -g表示使用DR方式，-m表示NAT方式，-i表示tunneling方式 －－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－ * rr 轮叫（Round Robin） 调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上，它均等地对待每一台服务 器，而不管服务器上实际的连接数和系统负载。 * wrr 加权轮叫（Weighted Round Robin） 调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。 * lc 最少链接（Least Connections） 调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能，采用"最小连接"调度算法可以较好地均衡负载。 * wlc 加权最少链接（Weighted Least Connections） 在集群系统中的服务器性能差异较大的情况下，调度器采用"加权最少链接"调度算法优化负载均衡性能，具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况，并动态地调整其权值。 * lblc 基于局部性的最少链接（Locality-Based Least Connections） "基于局部性的最少链接" 调度算法是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器，若该服务器 是可用的且没有超载，将请求发送到该服务器；若服务器不存在，或者该服务器超载且有服务器处于一半的工作负载，则用"最少链接"的原则选出一个可用的服务 器，将请求发送到该服务器。 * lblcr 带复制的基于局部性最少链接（Locality-Based Least Connections with Replication） " 带复制的基于局部性最少链接"调度算法也是针对目标IP地址的负载均衡，目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个目 标IP地址到一组服务器的映射，而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务器 组，按"最小连接"原则从服务器组中选出一台服务器，若服务器没有超载，将请求发送到该服务器，若服务器超载；则按"最小连接"原则从这个集群中选出一台 服务器，将该服务器加入到服务器组中，将请求发送到该服务器。同时，当该服务器组有一段时间没有被修改，将最忙的服务器从服务器组中删除，以降低复制的程 度。 * dh 目标地址散列（Destination Hashing） "目标地址散列"调度算法根据请求的目标IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。 * sh 源地址散列（Source Hashing） "源地址散列"调度算法根据请求的源IP地址，作为散列键（Hash Key）从静态分配的散列表找出对应的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。 －－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－ ipvsadm命令参考 对ipvsadm 的命令参考，并根据自己使用的经验，进行了一个简单的翻译，希望 对ipvsadm 的使用者有一定的帮助。 为了更好的让大家理解这份命令手册，将手册里面用到的几个术语先简单的介绍 一下： 1，virtual-service-address:是指虚拟服务器的ip 地址 2，real-service-address:是指真实服务器的ip 地址 3，scheduler：调度方法 ( 翻译 ipvsadm v1.21 2004 年4 月) ipvsadm 的用法和格式如下： ipvsadm -A|E -t|u|f virutal-service-address:port [-s scheduler] [-p [timeout]] [-M netmask] ipvsadm -D -t|u|f virtual-service-address ipvsadm -C ipvsadm -R ipvsadm -S [-n] ipvsadm -a|e -t|u|f service-address:port -r real-server-address:port [-g|i|m] [-w weight] ipvsadm -d -t|u|f service-address -r server-address ipvsadm -L|l [options] ipvsadm -Z [-t|u|f service-address] ipvsadm --set tcp tcpfin udp ipvsadm --start-daemon state [--mcast-interface interface] ipvsadm --stop-daemon ipvsadm -h 命令选项解释： 有两种命令选项格式，长的和短的，具有相同的意思。在实际使用时，两种都可 以。 -A --add-service 在内核的虚拟服务器表中添加一条新的虚拟服务器记录。也 就是增加一台新的虚拟服务器。 -E --edit-service 编辑内核虚拟服务器表中的一条虚拟服务器记录。 -D --delete-service 删除内核虚拟服务器表中的一条虚拟服务器记录。 -C --clear 清除内核虚拟服务器表中的所有记录。 -R --restore 恢复虚拟服务器规则 -S --save 保存虚拟服务器规则，输出为-R 选项可读的格式 -a --add-server 在内核虚拟服务器表的一条记录里添加一条新的真实服务器 记录。也就是在一个虚拟服务器中增加一台新的真实服务器 -e --edit-server 编辑一条虚拟服务器记录中的某条真实服务器记录 -d --delete-server 删除一条虚拟服务器记录中的某条真实服务器记录 -L|-l --list 显示内核虚拟服务器表 -Z --zero 虚拟服务表计数器清零（清空当前的连接数量等） --set tcp tcpfin udp 设置连接超时值 --start-daemon 启动同步守护进程。他后面可以是master 或backup，用来说 明LVS Router 是master 或是backup。在这个功能上也可以采用keepalived 的 VRRP 功能。 --stop-daemon 停止同步守护进程 -h --help 显示帮助信息 其他的选项: -t --tcp-service service-address 说明虚拟服务器提供的是tcp 的服务 [vip:port] or [real-server-ip:port] -u --udp-service service-address 说明虚拟服务器提供的是udp 的服务 [vip:port] or [real-server-ip:port] -f --fwmark-service fwmark 说明是经过iptables 标记过的服务类型。 -s --scheduler scheduler 使用的调度算法，有这样几个选项 rr|wrr|lc|wlc|lblc|lblcr|dh|sh|sed|nq, 默认的调度算法是： wlc. -p --persistent [timeout] 持久稳固的服务。这个选项的意思是来自同一个客 户的多次请求，将被同一台真实的服务器处理。timeout 的默认值为300 秒。 -M --netmask netmask persistent granularity mask -r --real-server server-address 真实的服务器[Real-Server:port] -g --gatewaying 指定LVS 的工作模式为直接路由模式（也是LVS 默认的模式） -i --ipip 指定LVS 的工作模式为隧道模式 -m --masquerading 指定LVS 的工作模式为NAT 模式 -w --weight weight 真实服务器的权值 --mcast-interface interface 指定组播的同步接口 -c --connection 显示LVS 目前的连接 如：ipvsadm -L -c --timeout 显示tcp tcpfin udp 的timeout 值 如：ipvsadm -L --timeout --daemon 显示同步守护进程状态 --stats 显示统计信息 --rate 显示速率信息 --sort 对虚拟服务器和真实服务器排序输出 --numeric -n 输出IP 地址和端口的数字形式 －－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－ 4.配制Keepalvied #tar -zxvf keepalived-1.1.16.tar.gz #./configure --prefix=/opt/app/keepalived Keepalived configuration ------------------------ Keepalived version : 1.1.16 Compiler : gcc Compiler flags : -g -O2 Extra Lib : -lpopt -lssl -lcrypto Use IPVS Framework : Yes IPVS sync daemon support : Yes Use VRRP Framework : Yes Use LinkWatch : No Use Debug flags : No #make #make install #cp /opt/app/keepalived/etc/rc.d/init.d/keepalived /etc/rc.d/init.d/keepalived #chmod 755 /etc/rc.d/init.d/keepalived #chkconfig --add keepalived #cp /opt/app/keepalived/etc/sysconfig/keepalived /etc/sysconfig/ #mkdir /etc/keepalived #cp /opt/app/keepalived/etc/keepalived.conf /etc/keepalived/ 一.配制keepalived #vim /etc/keepalived/keepalived.conf ! Configuration File for keepalived global_defs { notification_email { } notification_email_from smtp_server 127.0.0.1 #smtp_connect_timeout 30 router_id LVS_MAIN } vrrp_instance VI_1 { state MASTER # 备份服务器上将MASTER改为BACKUP interface eth0 virtual_router_id 51 priority 100 # 备份服务上将100改为10 advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 219.235.240.200 #(如果有多个VIP，继续换行填写.) } } virtual_server 219.235.240.200 80 { delay_loop 6 #(每隔10秒查询realserver状态) lb_algo wrr #(lvs 算法) lb_kind DR #(Direct Route) persistence_timeout 60 #(同一IP的连接60秒内被分配到同一台realserver) protocol TCP #(用TCP协议检查realserver状态) real_server 219.235.240.50 80 { weight 3 #(权重) TCP_CHECK { connect_timeout 10 #(10秒无响应超时) nb_get_retry 3 delay_before_retry 3 connect_port 80 } } real_server 219.235.240.60 80 { weight 3 #(权重) TCP_CHECK { connect_timeout 10 #(10秒无响应超时) nb_get_retry 3 delay_before_retry 3 connect_port 80 } } }#/etc/rc.d/init.d/keepalived start