令牌桶

网络拥塞场景

1

网络拥塞场景

2

如果不限制用户发送的业务流量大小，大量不断突发的业务数据会使网络更加拥挤，严重时会出现网络拥塞，造成业务出现异常，同时也浪费网络资源

网络拥塞造成资源浪费：

网络拥塞引起业务异常

是否很期待有一种机制可以在网络上通过监督进入网络的流量速率，以达到限制流量、提高网络资源使用效率的目的，从而保证有限的网络资源提供更好的网络服务？

为了达到上述目的，我们需要对进入网络的流量进行监督，实现CAR （Committed Access Rate ）。

CAR ：将进入网络的用户流量的速率限制在约定的范围之内，从而避免引起网络拥塞。如果流量没有超速，设备会为报文奖励绿牌（将报文染色为绿色）。报文可畅通无阻，即被转发。

?要实现CAR ，就需要对流量进行评估，然后根据评估的结果对流量采取相应的动作：

令牌桶

2015年5月14日星期四02:21

如果流量稍微超速，设备会发出黄牌警告（将报文染色为黄色）。通常报文会被降级，即修改报文的内部优先级，然后进行尽力而为的转发。

?如果流量超速太多，设备会发出红牌将报文罚下（将报文染色为红色）。报文被禁止通行，即丢弃。

?然而，报文不像汽车那样可以通过测速仪之类的仪器进行测速。那么，如何对报文的速率进行评估呢？——答案在这里：令牌桶。

令牌桶可以看作是一个存放令牌的容器，预先设定一定的容量。系统按给定的速度向桶中放置令牌，当桶中令牌满时，多余的令牌溢出。令牌桶是一种流量测量方法

高速公路例子：

假设进入高速公路的车辆需要在入口处领取到通行卡才能进入高速公路。为了节约人力成本，入口处放置自动出卡机。按照国家高速公路交通安全法的规定，在高速公路上行驶的车辆，车速超过100km/h 时，应与同车道前车保持100米以上距离。为了保持最小安全行车距离100米，按车速100km/h 计算，需要间隔至少3.6秒才能放行一辆车，因此出卡机每隔3.6秒出一张通行卡。在自动出卡机下放置一个盒子，自动出卡机按照3.6秒的间隔向盒子中投放通行卡。每辆进入高速公路的车辆，从盒子中领取通行卡之后才可以进入高速公路。令牌桶算法与此类似。简单来说，令牌桶可以看作是一个存放一定数量令牌的容器。系统按设定的速度向桶中放置令牌。

当桶中令牌满时，多出的令牌溢出，桶中令牌 不再增加。

在使用令牌桶对流量规格进行评估时，是以令牌桶中的令牌数量是否足够满足报文的转发为依据的。

每个需要被转发的报文，都要从令牌桶中领取一定数量的令牌（具体数量视报文大小而定），才可以被正常转发。如果桶中存在足够的令牌可以用来转发报文，称流量遵守或符合约定值，否则称为不符合或超标。

单速单桶

?单速双桶

?双速双桶

?按照系统向令牌桶投放令牌的速率和令牌桶的数量划分，令牌桶算法有三种模式：

下面我们以色盲模式为例详细介绍这三种模式。（两种着色模式：感色模式和色盲模式）

单速单桶

假设有一套自动出卡系统，包括一台自动出卡机和一个盒子C 。自动出卡机以固定的速率（3.6秒出一张通行卡）向盒子中投放通行卡。这个固定的速率，就相当于是单速单桶模式中的CIR 参数。

CIR （Committed Information Rate ）：承诺信息速率，表示向C 桶（单桶模式中只有一个令牌桶，称为C 桶）中投放令牌的速率，即C 桶允许传输或转发报文的平均速率。

如果平均每3.6秒来了不止1辆车，通行卡很快就领完了。这时自动出卡机上的红灯亮起，新到的车辆禁止进入高速公路。这就起到了限定作用，将放行车辆的速率限制在放卡速率范围内。

如果平均每3.6秒来了不到1辆车，盒子里就会有一些积累起来的通行卡。这些累积起来的通行卡可以应付车队（比如车友俱乐部的车队）要进入高速公路这样的情况。我们规定每辆车都要领取通行卡，都由领队的车领取。

假设某时刻来了一个车队共8辆车，但盒子里只有6张通行卡，领队车拿起通行卡一数，发现不够，那么这个车队不允许进入高速，通行卡放回盒子中。

盒子中的通行卡不停累积，总有盒子装满的时候。这个盒子的容积，就相当于单速单桶模式中的

CBS 参数。

CBS （Committed Burst Size ）：承诺突发尺寸，表示C 桶的容量，即C 桶瞬间能够通过的承诺突发流量。相当于盛放通行卡的盒子里最多可以放多少张通行卡，也就是说，该自动出卡系统允许通过的车队中最多可以有多少辆车。

如果可用令牌的总数量（Tc ）小于CBS ，则令牌数继续增加。

?如果令牌桶已满，则令牌数不再增加。

?在单速单桶模式中，系统按照CIR 速率向C 桶中投放令牌。

如果B ≤Tc ，报文被标记为绿色，且Tc 减少B 。

?如果B > Tc ，报文被标记为红色，Tc 不减少。

?对于到达的报文（报文大小为B ），

假设设备端口的CIR 设置为1Mbit/s ，CBS 为2000bytes ，初始状态时C 桶满。

假设第1个到达的报文是1500bytes 时，检查C 桶发现令牌数大于数据包的长度，所以数据包被标为绿色，C 桶减少令牌1500bytes ，还剩500bytes 。

?假设1ms 之后到达第2个报文1500bytes 。在此间隔内，C 桶新增令牌= CIR * 1ms = 1000bit = 125bytes ，加上C 桶原来剩余的令牌500bytes ，此时C 桶共有625bytes 。令牌数量不够，报文标记为红色。

?假设又过1ms 后到达第3个报文1000bytes 。在此间隔内，C 桶新增令牌125bytes ，加上C 桶原来剩余的令牌625bytes ，此时C 桶共有750bytes 。令牌数量不够，因此报文被标记为红色。

?假设又过20ms 后到达第4个报文1500bytes 。在此间隔内，C 桶新增令牌= CIR * 20ms = 20000bit = 2500bytes ，加上C 桶原来剩余的令牌750bytes ，C 桶此时令牌数为3250bytes 。而CBS = 2000bytes ，因此溢出1250bytes 令牌被丢弃。此时C 桶令牌数大于报文长度，报文标记为绿色，C 桶减少令牌1500bytes ，剩500bytes 。

?说明：为方便计算，此处1Mbit/s 按1*106

计算。

报文处理过程汇总见下表。

单速双桶

在单速单桶模式中说到，如果平均每3.6秒来了不到1辆车，盒子里就会有一些积累起来的通行卡。如果一直没有车辆过来，盒子中的通行卡不停地累积。盒子的容量是有限的，当盒子中装满通行卡之后，不断投放的通行卡就溢出盒子，会造成浪费。

为了避免这种浪费，我们改进了这个自动出卡系统，在原来的基础上增加一个盒子E （改进后的系统对应单速双桶模式，盒子E 对应单速双桶中的E 桶）。自动出卡机首先向C 盒中投放通行卡。当C 盒满了，自动出卡机就向E 盒中投放通行卡。 为了保证通行卡有序领取，我们规定先领取C 盒中的通行卡。如果C 盒中的通行卡不够用，就把卡放回C 盒，再从E 盒中重新领取通行卡。C 盒和E 盒中的通行卡不能同时取用。

如果C 盒中的通行卡够用，绿灯亮，车辆领取C 盒中的通行卡后通行。

?如果C 盒中的通行卡不够用但E 盒中的通行卡够用，黄灯亮，从C 盒中领取的通行卡领取的通行卡要归还，车辆领取E 盒中的通信卡后通行。

?如果E 盒中的通行卡也不够用，红灯亮，车辆禁止通行，从E 盒中领取的通行卡领取通行卡要归还。

?按照通行卡的取用，可以分为三种情况：

和单速单桶模式一样，对于车队，有几辆车，就领取几张通行卡。当然，E 盒的容量也是有限的。E 盒的容量就相当于单速双桶模式中的EBS 。

EBS （Excess Burst Size ）：超额突发尺寸，表示E 桶的容量，即E 桶瞬间能够通过的超出突发流量。

假设某时刻来了一个车队有8辆车，但C 盒里只有5张通行卡，而E 盒中有9张通行卡，那么黄灯亮起，这辆长车从E 盒中领取8张通行卡。

假设某时刻来了一个车队有8辆车，但C 盒里只有5张通行卡，而E 盒中有9张通行卡，那么黄灯亮起，这辆长车从E 盒中领取8

张通行卡。如果C 桶中可用令牌的总数量（Tc ）小于CBS ，则C 桶中令牌数增加。

?如果Tc 等于CBS 且E 桶中的可用令牌总数量（Te ）小于EBS ，则C 桶中令牌数不增加，E 桶中令牌数增加。

?如果C 桶和E 桶中的令牌都已满，则两个桶中的令牌数都不再增加。

?在单速双桶模式中，系统按照CIR 速率向桶中投放令牌。

如果B ≤Tc ，报文被标记为绿色，且Tc 减少B 。

?如果Tc < B ≤Te ，报文被标记为黄色，且Te 减少B ，Tc 不减少。

?如果B > Te ，报文被标记为红色，且Tc 和Te 都不减少。

?对于到达的报文（报文大小为B ），

假设设备端口的CIR 设置为1Mbit/s ，CBS 为2000bytes ，EBS 为2000bytes ，初始状态时C 桶和E 桶满。

假设第1个到达的报文是1500bytes 时，检查C 桶发现令牌数大于数据包的长度，所以数据包被标为绿色，C 桶减少令牌1500bytes ，还剩500bytes ，E 桶令牌数量保持不变。

?假设1ms 之后到达第2个报文1500bytes 。在此间隔内，C 桶新增令牌= CIR * 1ms = 1000bit = 125bytes ，加上C 桶原来剩余的令牌500bytes ，此时C 桶共有625bytes ，检查发现C 桶内令牌数量不够。检查E 桶发现有足够令牌，因此报文标记为黄色，E 桶减少令牌1500bytes ，剩余500bytes ，C 桶剩余625byte 保持不变。

?假设又过1ms 后到达第3个报文1000bytes 。在此间隔内，C 桶新增令牌125bytes ，加上C 桶原来剩余的令牌256bytes ，此时C 桶共有750bytes ，检查发现C 桶内令牌数量不够。检查E 桶发现令牌数量也不够，因此报文被标记为红色，C 桶、E 桶令牌数不变。

?假设又过20ms 后到达第4个报文1500bytes 。在此间隔内，C 桶新增令牌= CIR * 20ms = 20000bit = 2500bytes ，加上C 桶原来剩余的令牌750bytes ，C 桶此时令牌数为3250bytes 。而CBS = 2000bytes ，因此溢出的1250bytes 添加到E 桶，此时E 桶有

1750bytes 。由于C 桶中令牌数大于报文长度，报文标记为绿色，C 桶减少令牌1500bytes ，剩余500bytes ，E 桶不变。

?说明：为方便计算，此处1Mbit/s 按1*106

计算。

报文处理过程汇总见下表。

双速双桶

前面说到的自动出卡机，都只有一个口可以输出通行卡。而这里说到的高级自动出卡机，有两个口可以出卡，一个口输出的是通行卡，一个口输出的是服务卡。当然，这里也有两个盒子用于盛放卡，分别是盒C 盒和P 盒。自动出卡机上的两个口分别以各自固定的速率向两个盒子中投放卡。（这个高级自动出卡机系统对应双速双桶模式，C 盒和P 盒对应双速双桶模式中的C 桶和P 桶。）

先领取服务卡。如果服务卡不够，把卡放回P 盒，红灯亮，车辆禁止通行。

?领取卡的规则和前面单速的情况有所不同。我们规定：

如果服务卡足够但通行卡不够，黄灯亮，服务卡可以取走，通行卡放回C 盒。

?如果服务卡和通行卡都足够，绿灯亮，车辆可以通行，服务卡和通行卡都取走。

?自动出卡机向P 盒投放服务卡的速率和P 盒的容量，就分别相当于双速双桶模式中的PIR 和PBS 。

PIR （Peak information rate ）：峰值信息速率，表示向P 桶中投放令牌的速率，即P 桶允许传输或转发报文的峰值速率。PIR 的值应大于CIR （存在服务卡足够而通行卡不够的情况）。

PBS （Peak Burst Size ）：峰值突发尺寸，表示P 桶的容量，即P 桶瞬间能够通过的峰值突发流量。

按照国家高速公路交通安全法的规定，在高速公路上行驶的车辆，最高时速为120km/h 。前面领取的通行卡，保证车辆的时速为

100km/h 。而服务卡的作用，则是允许车辆时速可以达到120km/h 。自动出卡机向P 盒投放服务卡的速率就是允许的最高车速，相当于PIR

。

如果P 桶中可用令牌的总数量（Tp ）小于PBS ，则P 桶中令牌数增加。

?如果C 桶中可用令牌的总数量（Tc ）小于CBS ，则C 桶中令牌数增加。

?在双速双桶模式中，系统按照PIR 速率向P 桶中投放令牌，按照CIR 速率向C 桶中投放令牌。

如果Tp < B ，报文被标记为红色，且Tc 和Tp 都不减少。

?如果Tc < B ≤Tp ，报文被标记为黄色，且Tp 减少B ，Tc 不减少。

?如果B ≤Tc ，报文被标记为绿色，且Tp 和Tc 都减少B 。

?对于到达的报文（报文大小为B ），

假设设备端口的CIR 设置为1Mbit/s ，PIR 设置为2Mbit/s ，CBS 为2000 bytes ，PBS 为3000 bytes ，初始状态时C 桶和P 桶满。

第1个到达的报文假设是1500bytes 时，检查发现报文长度不超过P 桶也不超过C 桶，所以报文被标为绿色，C 桶和P 桶都减少令牌1500bytes ，C 桶还剩500bytes ，P 桶还剩1500bytes 。(P 桶，C 桶都够，同时减）

?假设1ms 后到达第2个报文1800bytes 。在此间隔内，P 桶新增令牌= PIR * 1ms = 2000bit = 250bytes ，加上P 桶原来剩余的令牌1500bytes ，此时P 桶共有1750bytes ，小于报文长度。C 桶新增令牌= CIR * 1ms = 1000bit = 125bytes ，加上C 桶原来剩余的令牌500bytes ，此时C 桶共有625bytes 。报文标记为红色，P 桶、C 桶令牌数不变。(P 桶，C 桶都不够，不减）

?假设又过1ms 后到达第3个报文1000bytes 。在此间隔内，P 桶新增令牌250byte ，加上P 桶原来剩余的令牌1750byte ，此时P 桶共有令牌2000bytes ，大于报文长度。再检查C 桶，C 桶新增令牌250bytes ，加上C 桶原来剩余的令牌625byte ，此时C 桶共有

750bytes ，仍然小于报文长度。因此报文被标记为黄色，P 桶减少令牌1000bytes ，剩余1000bytes ，C 桶令牌不变。(P 桶够，C 桶不够，P 桶减，C 桶不减）

?假设又过20ms 之后到达报文1500bytes 。在此间隔内，P 桶新增令牌= PIR * 20ms = 40000bit = 5000bytes ，超过P 桶容量PBS ，因此P 桶令牌数= PBS = 3000bytes ，溢出的令牌丢弃。这样P 桶有2000bytes ，大于报文长度。此时C 桶增加令牌= CIR * 20ms = 20000bit = 2500bytes ，超过C 桶容量CBS ，因此C 桶令牌数= CBS = 2000byte ，溢出的令牌丢弃。C 桶此时令牌数2000 bytes ，大于报文长度。报文被标记为绿色，P 桶减少令牌1500bytes ，剩余1500bytes ；C 桶减少令牌1500bytes ，剩余500bytes 。(P 桶，C 桶都够，同时减）

?说明：为方便计算，此处1Mbit/s 按1*106计算。

报文处理过程汇总见下表。

报文处理过程汇总见下表。

三种令牌桶模式的区别和应用场景

由前文描述可以看出，三种令牌桶模式之间既有区别也有演进关系，具体见下表

基于上述三种令牌桶模式之间的区别，其功能和使用场景也有所不同，具体见下表

参数设置有讲究

在令牌桶算法中

CIR的值越大，即令牌产生的速率越大，报文可以获取的令牌就越多，流向网络的流量也就越大。因此，CIR的值是控制流入网络中流量多少的关键。

CBS的值越大，C桶中可以积累令牌的数目也越多，允许通过的报文尺寸就越大。

由于设备进行的是逐包转发，CBS的值不应该小于当前网络上允许传输的报文的最大长度。

例如，在单速单桶模式下，假设要把流量限定在10Mbit/s，而CBS值太小（如设置成1000byte）。如果某个时间段内流量的报文，每个报

文大小都大于1000byte ，那么这些报文全都被丢弃。这段时间内，没有报文被转发，报文的转发速率为0，导致网络资源被浪费，业务也出现异常。

CBS 的值越大就越好呢？

显然不是。CBS 值太大，会失去限速的意义。

例如，假设要把流量限定在10Mbit/s ，CBS 设置成7200Mbyte 。某个时刻，令牌桶中的令牌已满，如果接下来1小时内流量的报文，其报文长度不一，但共计7200Mbyte ，这些报文都能获得令牌并被转发，那么这段时间内的报文速率为16Mbit/s （7200M * 8 / 3600）而不是10Mbit/s ，即没有实现限速。

对于双速双桶模式，PIR 和PBS 的值也应设置在合理范围内。说明：目前华为以太网交换机只支持单速单桶和双速双桶模式。简单来说，带宽参数的设置取决于实际业务的限速需要。原则上，令牌桶容量需要大于等于网络中可能出现的最大的报的长度和业务流量的正常突发量。

带宽≤100Mbit/s 时，令牌桶容量（Bytes ）= 带宽（kbit/s ）* 1000（s ）/8

?带宽> 100Mbit/s 时，令牌桶容量（Bytes ）= 100000（kbit/s ）* 1000 （s ）/8

?对于华为的以太网交换机，我们有总结的经验性公式：

如果配置的CIR 、PIR 是最小粒度的整数倍，则按照配置的速率进行监管和限速。

?如果配置的CIR 、PIR 不是最小粒度的整数倍，则按照最小粒度的整数倍进行流量监管和限速。

?另外，华为的以太网交换机，不同系列的单板支持的CAR 粒度不同。在进行流量监管和限速时，

例如，设备上的监管和限速粒度为64kbit/s ，如果CIR 值≤64kbit/s ，按照64kbit/s 处理；如果128kbit/s < CIR 值≤192kbit/s ，按照192kbit/s

处理。令牌桶原理应用之接口限速

令牌桶原理可以应用到设备的入方向和出方向。根据令牌桶原理在不同方向的应用，可以实现不同的功能，见下图。

流量监管、流量整形、接口限速与令牌桶算法之间的关系，见下表。

流量监管是一种通过对流量规格进行监督，以限制流量及网络资源使用的流控策略。如果这种流控策略应用到设备接口的入方向，也可以实现入方向的接口限速。与基于接口实现的入方向的接口限速相比，这种方式引入了MQC （Modular QoS Command-Line

Interface ），因此应用更加灵活。

通常我们所说的限速是广义上的接口限速，包括基于接口和基于MQC 实现的入方向的接口限速。