LVS原理、模式、调度算法

我们先来讲一下集群和负载均衡。

一、集群和负载均衡

1. scale up和scale out

当业务量越来越大的时候,我们就要对系统进行扩展,扩展有两种方式:

  • scale up: 纵向扩展,即增强服务器的性能。买买买!但是性能越好的服务器价格成几何倍数增长……
  • scale out: 线性扩展,即增加服务器的数量,然后用调度来解决分配资源,这就是集群(Cluster)的由来。

2. 集群和分布式

集群(Cluster)定义:为解决某个特定问题将多台计算机组合起来形成的单个系统

Cluster类型:

  • LB:Load Balancing,负载均衡。
  • HA:High Availiablity,高可用。
  • HPC:High-Performance Computing,高性能计算。(www.top500.org)

与集群相对应的是分布式系统(distributed system)。

集群和分布式的区别,简单来说就是:

  • 集群:同一个业务,部署在多个服务器上。
  • 分布式:一个业务分拆多个子业务,部署在不同的服务器上。

举个例子大家更能明白:

一个小饭店原来只有一个厨师,切菜洗菜备料炒菜全干。后来客人多了,厨房一个厨师忙不过来,又请了个厨师,两个厨师都能炒一样的菜,这两个厨师的关系是集群。为了让厨师专心炒菜,把菜做到极致,又请了个配菜师负责切菜,备菜,备料,厨师和配菜师的关系是分布式,一个配菜师也忙不过来了,又请了个配菜师,两个配菜师关系是集群链接。
–本段文字来源

3. 负载均衡集群

负载均衡集群的实现:

  • 硬件:
    • F5: BIG-IP
    • Citrix: NetScaler
    • A10: A10
  • 软件:

    • LVS
    • HAproxy
    • Nginx
    • ats(apache traffic server)
    • perlbal

    软件中,LVS, HAproxy, Nginx用的比较多,重点学习就是这3个。

    我们重点学习头3种:LVS, HAproxy ,Nginx

    关于这三种的优缺点可以看这篇文章:Nginx/LVS/HAProxy负载均衡软件的优缺点详解

本文主要讲集群中的负载均衡中的一个:lvs(Linux Virtual Server),LVS基于ISO七层模型中的4层传输层。


二、LVS基本术语和组成

1. LVS基本术语

LVS集群类型中的术语:

VSVirtual ServerDirectorDispatcher(调度器),Load Balancer

RSReal Server(lvs里), upstream server(nginx里),backend server(haproxy里)、Replica(副本)

CIPClient IP 客户端ip

VIP: Virtual server IP VS外网的IP

DIP: Director IP VS内网的IP

RIP: Real server IP

2. LVS软件组成

LVS 由2部分程序组成,包括 ipvsipvsadm

  1. ipvs(ip virtual server):一段代码工作在内核空间,叫ipvs,是真正生效实现调度的代码。
  2. ipvsadm:另外一段是工作在用户空间,叫ipvsadm,负责为ipvs内核框架编写规则,定义谁是集群服务,而谁是后端真实的服务器(Real Server)。

LVS基本工作原理

  1. 当用户向负载均衡调度器(VS或者叫LB)发起请求,调度器将请求发往至内核空间。
  2. PREROUTING链首先会接收到用户请求,判断目标IP确定是本机IP,将数据包发往INPUT链。
  3. IPVS是工作在INPUT链上的,当用户请求到达INPUT时,IPVS会将用户请求和自己已定义好的集群服务进行比对,如果用户请求的就是定义的集群服务,那么此时IPVS会强行修改数据包里的目标IP地址及端口,并将新的数据包发往POSTROUTING链。
  4. POSTROUTING链接收数据包后发现目标IP地址刚好是自己的后端服务器,那么此时通过选路,将数据包最终发送给后端的服务器。

LVS各种模式原理

lvs集群的类型:

LVS/NAT: NAT模式。修改请求报文的目标IP,多目标IP的DNAT。

LVS/DR:DirectRouting(直接路由)。操纵封装新的MAC地址。

LVS/TUN:Tunneling(隧道)。在原请求IP报文之外新加一个IP首部。

LVS/FULLNAT:Full NAT。修改请求报文的源和目标IP。

1. LVS/NAT

LVS/NAT 最基本的LVS策略

如图: 客户端(Client) -> LB(VS) -> replica1(RS1),replica2(RS2),replica3(RS3)

详细的数据包的流转图:

(a). 当用户请求到达Director Server,此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP,目标IP为VIP
(b). PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
(c). IPVS比对数据包请求的服务是否为集群服务,若是,修改数据包的目标IP地址为后端服务器IP,然后将数据包发至POSTROUTING链。 此时报文的源IP为CIP,目标IP为RIP
(d). POSTROUTING链通过选路,将数据包发送给Real Server
(e). Real Server比对发现目标为自己的IP,开始构建响应报文发回给Director Server。 此时报文的源IP为RIP,目标IP为CIP
(f). Director Server在响应客户端前,此时会将源IP地址修改为自己的VIP地址,然后响应给客户端。 此时报文的源IP为VIP,目标IP为CIP

2. LVS/DR

很多时候,相应流是比请求流大的,如下图:

所以有第二种方案,响应流不走LB,这就是LVS/DR模式:

详细的数据包的流转图:

(a) 当用户请求到达Director Server,此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP,目标IP为VIP
(b) PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
(c) IPVS比对数据包请求的服务是否为集群服务,若是,将请求报文中的源MAC地址修改为DIP的MAC地址,将目标MAC地址修改RIP的MAC地址,然后将数据包发至POSTROUTING链。 此时的源IP和目的IP均未修改,仅修改了源MAC地址为DIP的MAC地址,目标MAC地址为RIP的MAC地址
(d) 由于DS和RS在同一个网络中,所以是通过二层来传输。POSTROUTING链检查目标MAC地址为RIP的MAC地址,那么此时数据包将会发至Real Server。
(e) RS发现请求报文的MAC地址是自己的MAC地址,就接收此报文。处理完成之后,将响应报文通过lo接口传送给eth0网卡然后向外发出。 此时的源IP地址为VIP,目标IP为CIP
(f) 响应报文最终送达至客户端

LVS-DR模型的特性

  • 特点1:保证前端路由将目标地址为VIP报文统统发给Director Server,而不是RS。
  • RS可以使用私有地址;也可以是公网地址,如果使用公网地址,此时可以通过互联网对RIP进行直接访问。
  • RS跟Director Server必须在同一个物理网络中。
  • 所有的请求报文经由Director Server,但响应报文必须不能进过Director Server。
  • 不支持地址转换,也不支持端口映射。
  • RS可以是大多数常见的操作系统。
  • RS的网关绝不允许指向DIP(因为我们不允许他经过director)。
  • RS上的lo接口配置VIP的IP地址。
  • 缺陷:RS和DS必须在同一机房中。

特点1的解决方案:

  • 在前端路由器做静态地址路由绑定,将对于VIP的地址仅路由到Director Server。
  • 存在问题:用户未必有路由操作权限,因为有可能是运营商提供的,所以这个方法未必实用。
  • arptables:在arp的层次上实现在ARP解析时做防火墙规则,过滤RS响应ARP请求。这是由iptables提供的
  • 修改RS上内核参数(arp_ignore和arp_announce)将RS上的VIP配置在lo接口的别名上,并限制其不能响应对VIP地址解析请求。

3. LVS/TUN

在原有的IP报文外再次封装多一层IP首部,内部IP首部(源地址为CIP,目标IIP为VIP),外层IP首部(源地址为DIP,目标IP为RIP)

(a) 当用户请求到达Director Server,此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP,目标IP为VIP 。
(b) PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链。
(c) IPVS比对数据包请求的服务是否为集群服务,若是,在请求报文的首部再次封装一层IP报文,封装源IP为为DIP,目标IP为RIP。然后发至POSTROUTING链。 此时源IP为DIP,目标IP为RIP 。
(d) POSTROUTING链根据最新封装的IP报文,将数据包发至RS(因为在外层封装多了一层IP首部,所以可以理解为此时通过隧道传输)。 此时源IP为DIP,目标IP为RIP。
(e) RS接收到报文后发现是自己的IP地址,就将报文接收下来,拆除掉最外层的IP后,会发现里面还有一层IP首部,而且目标是自己的lo接口VIP,那么此时RS开始处理此请求,处理完成之后,通过lo接口送给eth0网卡,然后向外传递。 此时的源IP地址为VIP,目标IP为CIP。
(f) 响应报文最终送达至客户端。

LVS-TUN模型特性

  • RIP、VIP、DIP全是公网地址。
  • RS的网关不会也不可能指向DIP。
  • 所有的请求报文经由Director Server,但响应报文必须不能进过Director Server。
  • 不支持端口映射。
  • RS的系统必须支持隧道。

4. LVS/FULLNAT

lvs-fullnat:通过同时修改请求报文的源IP地址和目标IP地址进行转发:

  • CIP –> DIP
  • VIP –> RIP

(1) VIP是公网地址,RIP和DIP是私网地址,且通常不在同一IP网络;因此,RIP的网关一般不会指向DIP。

(2) RS收到的请求报文源地址是DIP,因此,只需响应给DIP;但Director还要将其发往Client。

(3) 请求和响应报文都经由Director。

(4) 支持端口映射。

注意:此类型kernel默认不支持。

LVS工作模式总结

VS/NAT VS/TUN VS/DR
server any tunneling non-arp device
server network private LAN/WAN LAN
server number low (10~20) high high
server gateway load balancer own router own router
  • LVS/NAT, LVS/FULLNAT:请求和响应报文都经由VS

    • LVS/NAT:RIP的网关要指向DIP
    • LVS/FULLNAT:RIP和DIP未必在同一IP网络,但要能通信
  • LVS/DR, LVS/TUN:请求报文要经由VS,但响应报文由RS直接发往Client

    • LVS/DR:通过封装新的MAC首部实现,通过MAC网络转发
    • LVS/TUN:通过在原IP报文之外封装新的IP报文实现转发,支持远距离通信

其实企业中最常用的是 DR 实现方式,而 NAT 配置上比较简单和方便,后边实践中会总结 DR 和 NAT 具体使用配置过程。


LVS调度算法

根据其调度时是否考虑各RS当前的负载状态,分为静态方法和动态方法。

静态方法:仅根据算法本身进行调度

  1. RRroundrobin,轮询。
  2. WRRWeighted RR,加权轮询。
  3. SHSource Hashing,实现session sticky,源IP地址hash;将来自于同一个IP地址的请求始终发往第一次挑中的RS,从而实现会话绑定。
  4. DHDestination Hashing;目标地址哈希,将发往同一个目标地址的请求始终转发至第一次挑中的RS,典型使用场景是正向代理缓存场景中的负载均衡,如:宽带运营商。

动态方法:主要根据每RS当前的负载状态及调度算法进行调度,Overhead=value较小的RS将被调度。

  1. LCleast connections,最少连接,适用于长连接应用。Overhead=activeconns*256+inactiveconns

  2. WLCWeighted LC,加权最少连接,默认调度方法。Overhead=(activeconns*256+inactiveconns)/weight

  3. SEDShortest Expection Delay,初始连接高权重优先。Overhead=(activeconns+1)*256/weight

  4. NQNever Queue,第一轮均匀分配,后续SED。

  5. LBLCLocality-Based LC,动态的DH算法,使用场景: 根据负载状态实现正向代理。

  6. LBLCRLBLC with Replication,带复制功能的LBLC,解决LBLC负载不均衡问题,从负载重的复制到负载轻的RS。

部分内容转自:使用LVS实现负载均衡原理及安装配置详解
图片部分来自:章文嵩博士和他背后的负载均衡帝国

ღ ღ ღ 如果觉得文章对您有用,不妨打赏一下ღ ღ ღ