负载均衡实现原理

VIP: 6.6.6.100
Server to Client:: Source IP = 192.168.1.10 Destination = 4.3.2.1
Application
192.168.1.10
Application
192.168.1.11
调度算法 根据配置规则，将客户端请求智能地分发到后端应用服务器 健康性检查算法 实时监控服务器运行状态
查算法
Ping
健康性检查算法的目的：
通过某种探针机制，检查服务器群中真
实服务器的健康情况，避免把客户端的
请求分发给出现故障的服务器，以提高
业务的HA能力。
FTP/HTTP检测都会 向服务器GET一个文
件，如果GET文件失
目前常用的健康性检查算法败：，也认为服务器不
可用。
Ping（ICMP）
TCP
随机（Random）
加权随机（Weighted Random）
源地址散列（Source Hashing）
源地址端口散列（Source&Port Hashing）
9
调度算法：轮询（Round Robin）
1 4
25
Internet
6 3
1 4
2 5
3 6
轮询算法实现：
新的连接被依次轮询分发到各个实服务器上，比如第1个连接分发到第1台服务器， 第2个连接就被分配到第2台服务器上，依次轮询。 轮询算法适合于服务器组中的所有服务器都有相同的软硬件配置并且平均服务请求 相对均衡的情况。
Application
192.168.1.12
8
负载均衡产品中的关键指标：调度 目前常用的调度算法：算法
轮询（Round Robin）
加权轮询（Weighted Round Robin）
最少连接（Least Connections）
加权最少连接（Weighted Least Connections）
用户需求 希望获得7×24的不
间断可用性及较快的 系统反应时间
5
解决方法——Load Balance（1）
解决方案:服务器负载均衡
Internet
多台服务器组成一个群组，它们通过网络设备相连接。这些服务器提供相 同或相似的网络服务。服务器群组前布局一个负载均衡设备，负责根据已配 置均衡策略将用户请求在服务器群组中的分发，为用户提供服务，并对服务 器可用性的维护。
FTP GET
HTTP
FTP
FTP GET
DNS（inbound 链路负载均衡）
TCP SYN
SYN ACK ？
TCP SYN (Retransmission)
TCP RST Reassign
HTTP GET
HTTP GET
15
目录
负载均衡基本原理 Load Blance服务器负载均衡原理 Load Blance链路负载均衡原理 Load Blance典型组网及应用
Load Blance to Server: Source IP = 4.3.2.1 Destination = 192.168.1.10
Load Blance to Client: Source IP = VIP - 6.6.6.100 Destination = 4.3.2.1
Load Balancer
4
为什么需要负载均衡 ？
应用背景
访问流量快速增长 业务量不断提高
Internet
Server Too Busy
Server Too Busy
用户需求
希望获得7×24的不 间断可用性及较快的 系统反应时间
Client
Internet
Link Too Busy
应用背景 访问流量快速增长 业务量不断提高
13
调度算法：源地址散列（Source
Hashing）
2
1 4
25
Internet
5 1 4
6
3
3
6
源地址散列算法实现：
根据新连接的源IP地址进行散列（HASH）的结果来决定将该新连接发文哪个实服 务器。 一般来说，来自相同客户端的新连接会被散列到相同的实服务器。
14
负载均衡产品中的关键指标：健康性检
加权最少连接算法实现：
将加权与最少连接算法配合，根据连接数与加权比例Leabharlann Baidu计算出当前新连接应该发往
哪个服务器。
12
调度算法：随机（Random）
1 4
25
Internet
6 3
5 2
1
4 3
6
随机算法实现：
将新连接随机分发给具体的实服务器。
加权随机算法实现：
将加权与随机算法配合，根据随机数与加权比例后计算出当前新连接应该发往哪个 服务器。
11
调度算法：最少连接（Least
Connections）4 1 4 1 Internet 25
6 3
52 63
最少连接算法实现：
最少连接均衡算法对内部中需负载的每一台服务器都有一个数据记录，记录当前该 服务器正在处理的连接数量，当有新的服务连接请求时，将把当前请求分配给连接数 最少的服务器，使均衡更加符合实际情况，负载更加均衡。 最少连接算法适合长时处理的请求服务，如FTP。
10
调度算法：加权轮询（Weighted
Round Robin）
1 4
25
Internet
1
24 3
6
5
3
6
加权轮询算法实现：
根据服务器的不同处理能力，给每个服务器分配不同的权值，使其能够接受相应权 值数的服务请求。假设3台服务器加权分别为2:5:3，这样6条流过来，第1台服务器分 担1条流，第2台服务器分担3条流，第3台服务器分担2条流。 加权轮询算法能确保高性能的服务器得到更多的使用率，避免低性能的服务器负载 过重。
6
解决方法——Load Balance（2）
解决方案:链路负载均衡
China Tet CNC
Internet
•通过带宽或就近性等算法，在多条链路中进行负载均衡，选择最优的链路， 提高访问速度。
7
负载均衡基本原理 Server Farms
Clients
Client IP: 4.3.2.1
Client’s Request: Source IP = 4.3.2.1 Destination = VIP - 6.6.6.100
大家好
1
Load Blance培训胶片
2
课程目标
学习完本课程，您应该能够：
Load Blance的基本原理 Load Blance服务器负载均衡原理 Load Blance链路负载均衡原理 Load Blance典型组网
3
目录
负载均衡基本原理 Load Blance服务器负载均衡原理 Load Blance链路负载均衡原理 Load Blance典型组网及应用