应用交付网络优化技术

10Mbps专线发送10MB大小文件
时延(ms) 丢包(%) 正常速率(KB/s) 加速后(KB/s) 正常耗时(秒) 加速后(秒)
本地网络 异地网络 异地较差网络 20 250 250 0.1 2 5 1218.56 43.17 24.87 1225.32 111.67 86.23 8.4 237.67 385 7.9 92 119
时延(ms) 丢包(%) 正常速率(KB/s) 加速后(KB/s) 正常耗时(秒) 加速后(秒) 本地网络 异地网络 异地较差网络 20 250 250 0.1 2 5 364 44.367 24.13 369 115.33 87.23 28 234.66 426.67 26.82 89.66 117.67
wenku.baidu.com
SACC2011
流缓存技术——广域网加速
数据中心
APP3 APP2 OS APP3 APP1 OS APP2 OS OS APP1 OS OS
专网/互联网
WOC/VPN
WOC/VPN
提升传输速度的同时，保证数据中心内容的更新及时性
SACC2011
目录
性能优化技术 智能DNS TCP单边加速 流缓存
网络优化
负载均衡 应用性能管理 广域网加速
SACC2011
谢谢
SACC2011
智能DNS——动态就近性算法
智能DNS动态就近性：当静态就近性规则不能满足需求时，就是用 动态就近性。比如一个国外的用户来访问，地理及ISP就近性就不 能解决问题了，怎么办？动态就近性就派上用场了。
SACC2011
目录
从负载均衡(LB)到应用交付（AD) 服务器性能优化技术 智能DNS 流缓存 用户体验感知
SACC2011
TCP连接复用
状态 服务器默 认状态 禁用连接 池 启用连接 池
客户端每 秒连接数 / 1.4W 1.4W
客户端吞吐量 / 200mbps/58 mbps 200mbps/58 mbps
客户端响应 时间 / 1.216ms 0.6ms
服务器每秒 连接数 / 1.4W 250
服务器 CPU占用 率 0 80% 40%
智能DNS 配置文件全局同步功 能，只要在一个数据中心上更改 配置，其他数据中心上的相应配 置自动更新。
SACC2011
智能DNS——静态就近性访问
智能DNS根据用户的LDNS IP 的 地理位置、ISP属性来判断应该返回哪 个IP个用户。智能DNS直接使 用用户配置的规则来解析DNS请求 内置全球各地IP 地址段，国内最全的ISP地址段，并且具有地址段自动 更新功能，方便客户配置 SACC2011
SACC2011
技术原理
HTTP 4XX HTTP 5XX
连接建立异常 RST、重传异常 窗口大小异常
TTL异常
MAC错误
SACC2011
用户体验感知
SACC2011
应用交付网络优化技术
SACC2011
SANGFOR 深信服
网络安全
上网行为管理 IPSec VPN SSL VPN 下一代防火墙
SACC2011
TCP单边加速
问题： 无线网络丢包延迟较高 超长距离（跨洲、跨国)传输丢包、延迟高 高峰期丢包严重 功能： 改善高丢包和高延迟下的TCP传输效率 无需安装任何客户端插件 提升在线视频、图片等大文件访问速度。
SACC2011
TCP单边加速——效果
3Mbps专线发送10MB大小文件
SACC2011
AD软硬件架构的演化—过去的１０年
软件LINXU，VXWORKS 核心硬件：X86
•连接的一个包，L4层加速芯片找不到对应的SESSION，该包上送到X86，X86执行对应的 session创建、路由、L4SW的处理，完成后将该session信息下发给L4层芯片。 •连接的其他包，L4层加速芯片能找到对应的SESSION，执行相应的NAT 操作以及MAC地 址的更新，直接将包通过2层交换片发送出去。注意此种情况下数据包再也不用上送到X86， 节省了X86的计算资源，达到较高L4层性能。 •在2002年左右,当时X86的南北桥架构导致I/0 带宽受限,PPS性能上不去 ,L4SW必须借助 FPGA 或ASIC才能达到10 G的性能,这在当时是一个很先进的架构. •问题: 硬件架构复杂 ,L2 SWITCH 与FPGA带宽受限,连接方式不可靠,甚至用网线连接.
以达到双向80G。
我们的方案：１０Ｇ以下平台 FPGA＋L2Switch Linux软件优化关键： 1. SMP->AMP 2. 控制面与数据面分离 3. 摒弃Linux中断及下半部机制，以轮 询模式代替中断模式 4. 稳定性的关键：ALL IN LINUX USER SCOPE ，用纯Ｘ８６， 以上平台用X86＋NP，取代X86＋
SACC2011
用户体验感知
数据中心有大带宽，一流的应用交付器，强劲的服务器，客户访问体验一定好？
客户老是抱怨访问速度慢，到底是什么原因？带宽不够？丢包及延迟太大？还是
应用有问题需要优化？
更大的挑战
• 网络设备和服务器越来越多
• 大量的时间花费在故障排查上 • 缺乏预警机制，事后排查业已造成损失 • 无法获知全局流量的分布 • 速度慢、页面打不开，问题到底在哪里？
应用交付不再局限于传统负载均衡负载分发功能 服务器压力卸载：TCP连接复用、SSL卸载、HTTP内
存缓存、HTTP压缩
从LB到AD
SACC2011
L4SW:四层负载均衡基本原理
L4SW的特点: 只能依据服务器的连接数或流量执行负载均衡算法,比如轮转,
加权轮转,最小流量等算法.
会话保持只能使用源IP 总之,L4SW只能依据4层及以下的信息执行负载均衡和会话保持,LB 执行
服务器内存 占用率 248/3415 251/3415 251/3415
SACC2011
HTTP内存缓存
内存缓存将内容直接锁定在内存中，不会swap到磁盘上，最大限度减少响
应时间
缓存行为完全满足HTTP协议规范 节省服务器大量计算资源
SACC2011
HTTP压缩和SSL卸载
硬件加速卡
NAT以及CHECKSUM的动作.
L4SW的代表:LVS .优点:免费;缺点: 实现方式很迂回,性能较低,尤其难以发挥 X86多核的性能.
SACC2011
L7SW: AD的基础
按7层信息执行负载 均衡及会话保持 .相对L4SW更灵活.URL HASH,COOKIE等 分析应用层信息,是实现应用层防火墙的基础,也是实现HTTP缓存,压缩,SSL 卸载等服务器优化的基础. 执行TCP代理,是TCP连接复用的基础. L7SW的设计的最大挑战: 1. TCP代理的高新建速度及大并发 2. 复杂的附加业务逻辑的整合 3. 稳定性
SACC2011
目录
从负载均衡(LB)到应用交付(AD) 智能DNS TCP单边加速 流缓存 用户体验感知
SACC2011
服务器性能优化技术
在数据中心内部，AD设备能为服务器做点什么？
1.TCP连接复用 2.HTTP内存缓存 3.HTTP压缩 4.SSL卸载
作用
消减服务器的数量，直 接减少软硬件的投资， 减少维护费用，并且节 能环保！
SACC2011
TCP单边加速原理
优化慢启动及拥塞避免算法！ 实时、准确的计算两点之间的带宽，以最合适的速率发 送数据！ 准确的丢包判断，只重传实际被丢掉的包,减少CPU、带
宽、传输时间的浪费！
SACC2011
目录
从负载均衡(LB)到应用交付（AD) 服务器性能优化技术 智能DNS TCP单边加速 用户体验感知
智能DNS：分布式数据中心+多链路
多中心动态切换：全业务实时监测健康 最佳用户体验：动态最优路径选择
SACC2011
智能DNS: 基础设施
向ISP申请将域名的解析交给智 能AD 每个数据中心都要向其他数据中 心实时通告本数据中心的链路健 康状况、流量状况、以及服务器 压力状况；同时每个数据中心还 主动监视其他数据中心的服务健 康状态，相对ＢＩＮＤ的优势之 一。
应用交付网络优化技术
Upgrade Your Netwrok With
张洲亭
深信服应用交付产品首席架构师
SACC2011
应用交付网络优化技术
SACC2011
目录
服务器性能优化技术 智能DNS TCP单边加速 流缓存 用户体验感知
SACC2011
从负载均衡(LB)到应用交付(AD)
SACC2011
ＡＤ新一代软硬件架构
X86硬件发展日新月异，I/0带宽吞吐能力早已不是吴下阿蒙。高端芯片早已废弃南北 桥架构，使用QPI，NUMA结构，大幅提高I/0吞吐，CPU之间带宽也大为提高。 X86早已独自完成L4SW/L7SW 10 G 线速。NP技术发展日益成熟 ，4层转发性能可
节省服务器计算资源 HTTP压缩节省大量昂贵的接入带宽
SACC2011
目录
从负载均衡(LB)到应用交付(AD) 服务器性能优化技术 TCP单边加速 流缓存 用户体验感知
SACC2011
智能DNS：单数据中心多链路
优点： 多链路：解决南北网通互通问题，高效访问！ 通过监视服务器及ISP链路的状况，及时将流量引导到正常的服务 器和ISP链路上。 缺点： 不能提供数中心级容灾与备份。 只能提供ISP级的就近性，不能提供ISP+地理位置的究竟性 SACC2011