Array APV - 负载均衡介绍
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
利用APV IPv6网关，在APV前端配置IPv6 虚拟地址，通过SLB（服务器负载均 衡）代理模式，为客户端提供IPv6服务，同时对后台IPv4服务器进行负载均衡。
该方式避免了对现有IPv4资源的大规模改造，保护了现有投资，是最为经济、 稳妥的升级方案。
2013-10-21
20
DNS64 & NAT64 Topology
10.10.10.3
(3) 业务数据再通过负载均衡设备 处理后返回给客户
2013-10-21
9
负载均衡功能举例
客户端
内部网络
Intranet
Array APV
后台服务器群
1 5
2 6
3 7
4 8
2013-10-21
10
健康检测机制 – 高可靠性保障
客户端
内部网络
Intranet
Array APV
2013-10-21
7
ARRAY 应用加速方案 ARRAY APV
2013-10-21
8
服务器负载均衡 － 提升系统性能和可靠性
网管
10.10.10.1
(2) 设备基于负载均衡策略 选择合适的服务器
10.10.10.2 Internet (1) 用户向虚拟地址 发起访问请求
VIP 10.10.10.10
在处理TCP连接建立和拆除的工作
采用 连接复用
After:
将客户端一侧大量短连接转换成少量的高吞吐量的长连接，在不启用 Cache的情况下，可以减少90%的后台连接数
2013-10-21
14
HTTP优化设计 - Memory Cache
基于内存的Cache避免了消耗很长时间的硬盘数据查找和读写的问题 :
2013-10-21
24
DD智能选路
场景
在多条出口链路的带宽不在一个数量级的时候 例如：
• • •
电信的100M 联通的500M 移动的300M 因为电信的资源比较多，但是电信的线路比较贵。 使用传统的链路负载情况造 成，电信的线路拥挤，其他线路空闲。
ArrayNetworks使用动态探测的的技术解决了该问题。 实时计算每条链路的状态。达到最佳的链路负载
SSL 加速
APV SSL加速承担了全部SSL开销，实现高效的 网站服务器 、完整的SSL卸载
④
③
①
用户
②
18
SSL加速 性能对比
全系列性能可扩展
APV 1600
APV 1600T
APV 2600
APV 5600
APV 6600
APV 8600
APV 9600
APV 9650
Array
19
IPv6的支持，保持现有IPv4资源不变
25
2013-10-21
DD探测结果 显示DD探测结果表的内容
WanGW_Master(config)#show llb dd table Table of LLB DD route Destination : gateway : gateway : Destination : gateway : gateway :
2013-10-21 2
ArrayNetworks公司简介
市场定位: 专业提供数据大集中和应用安全访问解决方案的厂商
主要产品: 数据大集中（核心应用负载均衡）＋安全便捷访问
（SSL VPN） 客户分布: 电信运营商，石油石化，能源电力，金融服务商， 交通物流，大型企业，医疗卫生，教育，政府 公司成长: 2000年成立于美国硅谷；2004年进入中国 国内状况： 从2004-2008，实现600%的增长，在北京设立全球 第二大研发中心，及时响应国内用户
6.网通用户向网通 5.网通用户向APV发起 DNS请求，并获得网通 线路虚拟服务地址 发起访问请求 线路的虚拟服务地址
网通用户
Array APV
2013-10-21
30
ARRAY APV 京东商城案例分析
2013-10-21
31
京东商城简介
16个IDC
北京、塘沽、天津、上海、广州、成都
•Array APV •Array TMX
•成都
•Array TMX •Switch
•WEB Servers •APP Servers •DB Servers
2013-10-21
•Squid Servers
•Squid Servers
33
客户的主要问题和需求
全局CDN的部署、多站点的容载与负载均衡 多数据中心的本地服务器如何做到最优的负载均衡 针对突发大并发流量时，Web服务器的应用优化 针对Squid Cache的负载均衡如何做到最优的效果
SIP: 2002:ACE:888:007::101:1024 DIP 2001:DB8:122:344::192.0.2.33:80
NAT64
SIP: 204.16.75.101:1024 DIP : 192.0.2.33:80
NAT64 owns IPv4 Address Pool 204.16.75.0/24
•广州IDC
•Router •Router •Internet •Router
•Array APV •Switch •Switch •Router
•Array APV
•天津
•Router
•北京IDC
•Array APV •Array APV •Switch •Array APV •Switch
•塘沽
北京交易中心，其他IDC为缓存节点，只负责页面和图片 所有站点总流量超过3Gbps
2013-10-21
32
拓扑结构
•Squid Servers •Squid Servers •Squid Servers
•Switch
•Switch
•Switch
•Array APV
•上海IDC
•Switch
26
全路径混合式链路检测方式
2013-10-21
27
详细的链路状态统计
2013-10-21
28
详细的链路状态统计报表
2013-10-21
29
典型网页服务器的链路优化和应用加速
智能DNS、服务器负载均衡、连接复用 及基于内存的Cache等功能提高 网站响应速度，提升用户访问体验！
Array APV Web服务器群
2013-10-21
3
Global 2000 Relies on Array
February 29, 2013-10-21 2008
4
国内主要客户
2013-10-21
5
Array产品家族和系列
SPX系列——SSL VPN
APV系列——应用加速
2013-10-21
6
ArrayNetwFra Baidu bibliotekrks流量管理和应用访问
Array Networks应用加速产品应用阐述
上海浦东新区花园石桥路33号花旗银行集团大厦20楼2011室
全球化的公司，全球覆盖
Norway Vancouver Boston
Milpitas , CA
UK Belgium
Beijing, China
Calgary
France New York New Jersey
普通用户 移动用户 分支机构 网上业务办理
Internet
电信
网通
Array APV
FW
FW Array SPX
Array APV
Array APV
AAA系统
普通信息发布
网上政务服务
Web Server Web Server
App Server
DB Server
App Server
DB Server
查找和响应时间比竞争对手传统的硬盘Cache降低了
1000x
Hard Drive
Memory
000111001101 01100110010 110101010101 000111...
Response Request
Serving From Hard Drive Memory:
Milliseconds
电信用户
2.APV向用户回送 1.电信用户向APV 网站服务器在电信 3.用户访问电信线路 发起Web服务器的 线路的虚拟地址 上的虚拟网站服务器 DNS解析请求
电信
电信用户
互访速度缓慢 网通
网通用户
7. APV利用负载 4.APV利用负载 均衡、连接复用 智能DNS 和Cache功能加 服务器 速网站访问
AAAA www.example.com = Error AAAA Query www.example.com A www.example.com = 192.2.0.33
AAAA Response: 2001:DB8:122:344::192.0.2.33
DNS64 IPv6 Network IPv6 Clients NAT64
服务器或 传统的硬盘Cache
Memory
000111001101 01100110010 110101010101 000111...
Response Request
Serving From RAM-Based Memory:
Array Caching
Nanoseconds
2013-10-21
15
10/21/2013 2013-10-21
61.135.125.158/24, UDP(port 1042), Expire:0h5m57s, Invalid result:288 172.20.20.49, response time: Timeout, hits: 0, status: UP. 192.168.171.1, response time: Timeout, hits: 0, status: UP. 74.125.232.255/24, TCP(port 80), Expire:0h7m30s, Invalid result:0 192.168.171.1, response time: 472ms, hits: 2, status: UP. 172.20.20.49, response time: 717ms, hits: 0, status: UP.
基于网络接口
2013-10-21
12
Array SpeedCore 多核并行处理技术
1、具备多核并行处理能力，支持多块SSL加速卡 2、针对常见的小包应用环境在 操作系统层面实现了优化处理 3、内嵌可扩展的API接口
2013-10-21
13
连接复用技术
没有采用 连接复用
Before: 服务器一侧和客户端一侧的连接数是1:1的关系，服务器消耗80％的资源
IPv4 Internet
www.example.com
192.2.0.33
DNS64 owns IPv6 Prefix 2001:DB8:122:344:::/96
2013-10-21
21
DNS64 & NAT64 Topology
IPv6 Clients
DNS64
IPv4 Internet
www.example.com 192.2.0.33
后台服务器群
1 5 4
X
2
3 2 7 5
4 3 8 6
6
2013-10-21
11
支持2~7层的服务器负载均衡
SLB服务器负载均衡
七层服务器负载均衡
基于基于应用层的信息 如URL、HTTP表头或 Cookie
四层服务器负载均衡
基于TCP或UDP端口
用户
三层服务器负载均衡
基于服务器IP地址
服务器
二层服务器负载均衡
2013-10-21
22
链路加速功能简介
有效解决电信、网通互通问题!
电信
网通
电信
网通
Array1
Array2
Inside Clients
Web Servers
2013-10-21
23
链路负载阀值的限制
当链路达到峰值的时候，可采用阀值限制带宽出口，切换到其他 链路上去
即当某条链路的数据吞吐量达到预定的阀值时， 负载均衡器不会再向该链路分配新的用户请求。该算法非常适用 于多条链路使用饱和的情况，它有效控制链路的阻塞，提高用户 访问质量。
负载均衡＋ 连接复用 ＋ Cache 淘宝案例
50921(客户端请求)×（1-99.37%）/ 100 = 3 (服务器请求数）
2013-10-21
16
SSL加速
◎应用场景
◎功能特性
1.通过专用硬件实现 2.支持2048位的加密
1.需要处理大量的SSL交易 2.不希望为此增加过多的服务器
SSL加速
构造探测包
daemon会在每个链路都发送一个探测包 dstip+dport+protocol都取自探测对象 TCP类型的探测对象会发TCP包探测, 其它都转为ICMP包探测 源ip取自health check的源ip
探测结果的记录
daemon会记录每个探测对象在所有链路上的response time
Germany
R&D Center
S. California
Texas Florida Spain
Lebanon
R&D Center
Hong Kong
Japan Korea Taiwan Singapore
Dubai
Thailand
Argentina
Australia
在美国加州和中国北京设有两个研发中心
该方式避免了对现有IPv4资源的大规模改造，保护了现有投资，是最为经济、 稳妥的升级方案。
2013-10-21
20
DNS64 & NAT64 Topology
10.10.10.3
(3) 业务数据再通过负载均衡设备 处理后返回给客户
2013-10-21
9
负载均衡功能举例
客户端
内部网络
Intranet
Array APV
后台服务器群
1 5
2 6
3 7
4 8
2013-10-21
10
健康检测机制 – 高可靠性保障
客户端
内部网络
Intranet
Array APV
2013-10-21
7
ARRAY 应用加速方案 ARRAY APV
2013-10-21
8
服务器负载均衡 － 提升系统性能和可靠性
网管
10.10.10.1
(2) 设备基于负载均衡策略 选择合适的服务器
10.10.10.2 Internet (1) 用户向虚拟地址 发起访问请求
VIP 10.10.10.10
在处理TCP连接建立和拆除的工作
采用 连接复用
After:
将客户端一侧大量短连接转换成少量的高吞吐量的长连接，在不启用 Cache的情况下，可以减少90%的后台连接数
2013-10-21
14
HTTP优化设计 - Memory Cache
基于内存的Cache避免了消耗很长时间的硬盘数据查找和读写的问题 :
2013-10-21
24
DD智能选路
场景
在多条出口链路的带宽不在一个数量级的时候 例如：
• • •
电信的100M 联通的500M 移动的300M 因为电信的资源比较多，但是电信的线路比较贵。 使用传统的链路负载情况造 成，电信的线路拥挤，其他线路空闲。
ArrayNetworks使用动态探测的的技术解决了该问题。 实时计算每条链路的状态。达到最佳的链路负载
SSL 加速
APV SSL加速承担了全部SSL开销，实现高效的 网站服务器 、完整的SSL卸载
④
③
①
用户
②
18
SSL加速 性能对比
全系列性能可扩展
APV 1600
APV 1600T
APV 2600
APV 5600
APV 6600
APV 8600
APV 9600
APV 9650
Array
19
IPv6的支持，保持现有IPv4资源不变
25
2013-10-21
DD探测结果 显示DD探测结果表的内容
WanGW_Master(config)#show llb dd table Table of LLB DD route Destination : gateway : gateway : Destination : gateway : gateway :
2013-10-21 2
ArrayNetworks公司简介
市场定位: 专业提供数据大集中和应用安全访问解决方案的厂商
主要产品: 数据大集中（核心应用负载均衡）＋安全便捷访问
（SSL VPN） 客户分布: 电信运营商，石油石化，能源电力，金融服务商， 交通物流，大型企业，医疗卫生，教育，政府 公司成长: 2000年成立于美国硅谷；2004年进入中国 国内状况： 从2004-2008，实现600%的增长，在北京设立全球 第二大研发中心，及时响应国内用户
6.网通用户向网通 5.网通用户向APV发起 DNS请求，并获得网通 线路虚拟服务地址 发起访问请求 线路的虚拟服务地址
网通用户
Array APV
2013-10-21
30
ARRAY APV 京东商城案例分析
2013-10-21
31
京东商城简介
16个IDC
北京、塘沽、天津、上海、广州、成都
•Array APV •Array TMX
•成都
•Array TMX •Switch
•WEB Servers •APP Servers •DB Servers
2013-10-21
•Squid Servers
•Squid Servers
33
客户的主要问题和需求
全局CDN的部署、多站点的容载与负载均衡 多数据中心的本地服务器如何做到最优的负载均衡 针对突发大并发流量时，Web服务器的应用优化 针对Squid Cache的负载均衡如何做到最优的效果
SIP: 2002:ACE:888:007::101:1024 DIP 2001:DB8:122:344::192.0.2.33:80
NAT64
SIP: 204.16.75.101:1024 DIP : 192.0.2.33:80
NAT64 owns IPv4 Address Pool 204.16.75.0/24
•广州IDC
•Router •Router •Internet •Router
•Array APV •Switch •Switch •Router
•Array APV
•天津
•Router
•北京IDC
•Array APV •Array APV •Switch •Array APV •Switch
•塘沽
北京交易中心，其他IDC为缓存节点，只负责页面和图片 所有站点总流量超过3Gbps
2013-10-21
32
拓扑结构
•Squid Servers •Squid Servers •Squid Servers
•Switch
•Switch
•Switch
•Array APV
•上海IDC
•Switch
26
全路径混合式链路检测方式
2013-10-21
27
详细的链路状态统计
2013-10-21
28
详细的链路状态统计报表
2013-10-21
29
典型网页服务器的链路优化和应用加速
智能DNS、服务器负载均衡、连接复用 及基于内存的Cache等功能提高 网站响应速度，提升用户访问体验！
Array APV Web服务器群
2013-10-21
3
Global 2000 Relies on Array
February 29, 2013-10-21 2008
4
国内主要客户
2013-10-21
5
Array产品家族和系列
SPX系列——SSL VPN
APV系列——应用加速
2013-10-21
6
ArrayNetwFra Baidu bibliotekrks流量管理和应用访问
Array Networks应用加速产品应用阐述
上海浦东新区花园石桥路33号花旗银行集团大厦20楼2011室
全球化的公司，全球覆盖
Norway Vancouver Boston
Milpitas , CA
UK Belgium
Beijing, China
Calgary
France New York New Jersey
普通用户 移动用户 分支机构 网上业务办理
Internet
电信
网通
Array APV
FW
FW Array SPX
Array APV
Array APV
AAA系统
普通信息发布
网上政务服务
Web Server Web Server
App Server
DB Server
App Server
DB Server
查找和响应时间比竞争对手传统的硬盘Cache降低了
1000x
Hard Drive
Memory
000111001101 01100110010 110101010101 000111...
Response Request
Serving From Hard Drive Memory:
Milliseconds
电信用户
2.APV向用户回送 1.电信用户向APV 网站服务器在电信 3.用户访问电信线路 发起Web服务器的 线路的虚拟地址 上的虚拟网站服务器 DNS解析请求
电信
电信用户
互访速度缓慢 网通
网通用户
7. APV利用负载 4.APV利用负载 均衡、连接复用 智能DNS 和Cache功能加 服务器 速网站访问
AAAA www.example.com = Error AAAA Query www.example.com A www.example.com = 192.2.0.33
AAAA Response: 2001:DB8:122:344::192.0.2.33
DNS64 IPv6 Network IPv6 Clients NAT64
服务器或 传统的硬盘Cache
Memory
000111001101 01100110010 110101010101 000111...
Response Request
Serving From RAM-Based Memory:
Array Caching
Nanoseconds
2013-10-21
15
10/21/2013 2013-10-21
61.135.125.158/24, UDP(port 1042), Expire:0h5m57s, Invalid result:288 172.20.20.49, response time: Timeout, hits: 0, status: UP. 192.168.171.1, response time: Timeout, hits: 0, status: UP. 74.125.232.255/24, TCP(port 80), Expire:0h7m30s, Invalid result:0 192.168.171.1, response time: 472ms, hits: 2, status: UP. 172.20.20.49, response time: 717ms, hits: 0, status: UP.
基于网络接口
2013-10-21
12
Array SpeedCore 多核并行处理技术
1、具备多核并行处理能力，支持多块SSL加速卡 2、针对常见的小包应用环境在 操作系统层面实现了优化处理 3、内嵌可扩展的API接口
2013-10-21
13
连接复用技术
没有采用 连接复用
Before: 服务器一侧和客户端一侧的连接数是1:1的关系，服务器消耗80％的资源
IPv4 Internet
www.example.com
192.2.0.33
DNS64 owns IPv6 Prefix 2001:DB8:122:344:::/96
2013-10-21
21
DNS64 & NAT64 Topology
IPv6 Clients
DNS64
IPv4 Internet
www.example.com 192.2.0.33
后台服务器群
1 5 4
X
2
3 2 7 5
4 3 8 6
6
2013-10-21
11
支持2~7层的服务器负载均衡
SLB服务器负载均衡
七层服务器负载均衡
基于基于应用层的信息 如URL、HTTP表头或 Cookie
四层服务器负载均衡
基于TCP或UDP端口
用户
三层服务器负载均衡
基于服务器IP地址
服务器
二层服务器负载均衡
2013-10-21
22
链路加速功能简介
有效解决电信、网通互通问题!
电信
网通
电信
网通
Array1
Array2
Inside Clients
Web Servers
2013-10-21
23
链路负载阀值的限制
当链路达到峰值的时候，可采用阀值限制带宽出口，切换到其他 链路上去
即当某条链路的数据吞吐量达到预定的阀值时， 负载均衡器不会再向该链路分配新的用户请求。该算法非常适用 于多条链路使用饱和的情况，它有效控制链路的阻塞，提高用户 访问质量。
负载均衡＋ 连接复用 ＋ Cache 淘宝案例
50921(客户端请求)×（1-99.37%）/ 100 = 3 (服务器请求数）
2013-10-21
16
SSL加速
◎应用场景
◎功能特性
1.通过专用硬件实现 2.支持2048位的加密
1.需要处理大量的SSL交易 2.不希望为此增加过多的服务器
SSL加速
构造探测包
daemon会在每个链路都发送一个探测包 dstip+dport+protocol都取自探测对象 TCP类型的探测对象会发TCP包探测, 其它都转为ICMP包探测 源ip取自health check的源ip
探测结果的记录
daemon会记录每个探测对象在所有链路上的response time
Germany
R&D Center
S. California
Texas Florida Spain
Lebanon
R&D Center
Hong Kong
Japan Korea Taiwan Singapore
Dubai
Thailand
Argentina
Australia
在美国加州和中国北京设有两个研发中心