奈奎斯特定理与香农定理

奈奎斯特定理与香农定理
1.奈奎斯特定理
奈奎斯特定理又称奈氏准则，它指出在理想低通（没有噪音、带宽有限）的信道中，极限码元传输率为2WBaud。

其中，W是理想低通信道的带宽，单位是HZ。

若用V表示每个码元离散电平的数目，则极限数据率为
理想低通信道下的极限数据传输率=2Wlog2 V （单位：b/s）
对于奈氏准则，可以得到以下结论：
1）在任何信道中，码元传输的速率是有上限的。

若传输速率超过上限，就会出现严重的码间串扰问题（是指在接受段收到的信号的波形失去了码元之间的清晰界限），使接受段对码元的完全正确识别成为不可能。

2）信道的频带越宽（即能通过的信号高频分量越多），就可以用更高的速率进行码元的有效传输。

3）奈氏准则给出了码元传输速率的限制，但并没有对信息传输速率给出限制。

由于码元的传输速率受奈氏准则的制约，所以要提高数据的传输速率，就必须设法使每个码元能携带更多个比特的信号量，这就需要采用多元制的调制方法。

对于采样定理：在通信领域带宽是指信号最高频率和最低频率之差，单位是HZ。

因此将模拟信号转换成数字信号时，假设原始信号中的最大频率为f,那么采样频率f(采样)必须大于等于最大频率f的两倍,才能保证采样后的数字信号完整保留原始模拟信号的信息。

另外，采样信息又称为奈奎斯特定理。

2.香农定理
香农定理给出了带宽受限且有高斯白噪声干扰的信道的极限数据传输速率，当用此速率进行传输时，做到不产生误差。

香农定理定义为
信道的极限数据传输速率=wlog2 (1+S/N) (单位：b/s)
式中，W为信道的带宽，S为信道所传输信号的平均功率，N为信道内部的高斯噪声功率，S/N为信噪比，即信号的平均功率和噪声的平均功率之比，信噪比（单位：dB）=10 log10 (S/N)(dB)，如，当S/N=10时，信噪比为10dB,而当S/N=1000时，信噪比为30dB。

对于香农定理，可以得出以下结论：
1）信道的带宽或信道中的信噪比越大，则信号的极限传输速率就越高。

2）对一定的传输带宽和一定的信噪比，信息传输速率的上限就确定了。

3）只要信息的传输速率低于信道的极限传输速率，就一定能找到某种方法来实现无差错的传输。

4）香农定理得出的为极限信息传输速率，实际信道能达到的传输速率要比它低不少。

从香农定理可以看出，若信道带宽W或信噪比S/N没有上限（实际的信道当然都是不可能这样的），那么信道的极限传输速率也就没有上限。

早在1924年，AT&T的工程师奈奎斯特（Henry Nyquist）就认识到在任何信道中，码元传输的速率都是有上限的，并推导出一个计算公式，用来推算无噪声的、有限带宽信道的最大数据传输速率，这就是今天的奈奎斯特定理。

由于这个定理只局限在无噪声的环境下计算信道最大数据传输速率，而在有噪声的环境下仍然不能有效计算出信道最大数据传输速率，因此在 1948年，香农（Claude Shannon）把奈奎斯特的工作进一步扩展到了信道受到随机噪声干扰的情况，即在有随机噪声干扰的情况计算信道最大数据传输速率，这就是今天的香农定理。

下面分别介绍这两个定理。

1．奈奎斯特定理
奈奎斯特证明，对于一个带宽为W赫兹的理想信道，其最大码元（信号）速率为2W波特。

这一限制是由于存在码间干扰。

如果被传输的信号包含了M个状态值（信号的状态数是M），那么W赫兹信道所能承载的最大数据传输速率（信道容量）是：
C =2×W×log2M（bps）
假设带宽为W赫兹信道中传输的信号是二进制信号（即信道中只有两种物理信号），那么该信号所能承载的最大数据传输速率是2Wbps。

例如，使用带宽为
3KHz的话音信道通过调制解调器来传输数字数据，根据奈奎斯特定理，发送端每秒最多只能发送2×3000个码元。

如果信号的状态数为2，则每个信号可以携带1个比特信息，那么话音信道的最大数据传输速率是6Kbps；如果信号的状态数是4，则每个信号可以携带2个比特信息，那么话音信道的最大数据传输速率是12Kbps。

因此对于给定的信道带宽，可以通过增加不同信号单元的个数来提高数据传输速率。

然而这样会增加接收端的负担，因为，接收端每接收一个码元，它不再只是从两个可能的信号取值中区分一个，而是必须从M个可能的信号中区分一个。

传输介质上的噪声将会限制M的实际取值。

2．香农定理
奈奎斯特考虑了无噪声的理想信道，而且奈奎斯特定理指出，当所有其他条件相同时，信道带宽加倍则数据传输速率也加倍。

但是对于有噪声的信道，情况将会迅速变坏。

现在让我们考虑一下数据传输速率、噪声和误码率之间的关系。

噪声的存在会破坏数据的一个比特或多个比特。

假如数据传输速率增加了，每比特所占用的时间会变短，因而噪声会影响到更多比特，则误码率会越大。

对于有噪声信道，我们希望通过提高信号强度来提高接收端正确接收数据的能力。

衡量信道质量好坏的参数是信噪比（Signal-to-Noise Ratio，S/N），信噪比是信号功率与在信道某一个特定点处所呈现的噪声功率的比值。

通常信噪比在接收端进行测量，因为我们正是在接收端处理信号并试图消除噪声的。

如果用S表示信号功率，用N表示噪声功率，则信噪比表示为S/N。

为了方便起见，人们一般用10log10（S/N）来表示信噪比，单位是分贝（dB）。

S/N的值越高，表示信道的质量越好。

例如，S/N为1000，其信噪比为30dB；S/N为100，其信噪比为20dB；
S/N为10，其信噪比为10dB。

对于通过有噪声信道传输数字数据而言，信噪比非常重要，因为它设定了有噪声信道一个可达的数据传输速率上限，即对于带宽为W赫兹，信噪比为S/N的信道，其最大数据传输速率（信道容量）为：
C = W×log2(1+S/N)（bps）
例如，对于一个带宽为3KHz，信噪比为30dB（S/N就是1000）的话音信道，无论其使用多少个电平信号发送二进制数据，其数据传输速率不可能超过30Kbps。

值得注意的是，香农定理仅仅给出了一个理论极限，实际应用中能够达到的速率要低得多。

其中一个原因是香农定理只考虑了热噪声（白噪声），而没有考虑脉冲噪声等因素。

香农定理给出的是无误码数据传输速率。

香农还证明，假设信道实际数据传输速率比无误码数据传输速率低，那么使用一个适当的信号编码来达到无误码数据传输速率在理论上是可能的。

遗憾的是，香农并没有给出如何找到这种编码的方法。

不可否认的是，香农定理确实提供了一个用来衡量实际通信系统性能的标准。

信源与信宿
信源与信宿是网络中的两个专业名词，其实，信源与信宿可简单地理解为信息的发送者和信息的接收者。

信息传播的过程一般可描述为：信源→信道→信宿。

在传统的信息传播过程中，对信源的资格有严格的限制，通常是指广播电台、电视台等机构，采用的是有中心的结构。

而在计算机网络中，对信源的资格并无特殊限制，任何一个网络中的计算机都可以成为信源，当然任何一个网络中计算机也可以成为信宿
编码与调制
由于传输介质及其格式的限制，通信双方的信号不能直接进行传送，必须通过一定的方式处理之后，使之能够适合传输媒体特性，才能够正确无误地传送到目的地。

调制是指用模拟信号承载数字或模拟数据；而编码则是指用数字信号承载数字或模拟数据。

目前存在的传输通道主要有模拟信道和数字信道两种，其中模拟信道一般只用于传输模拟信号，而数字信道一般只用于传输数字信号。

有时为了需要，也可能需要用数字信道传输模拟信号，或用模拟信道传输数字信号，此时，我们就需要先对传输的数据进行转换，转换为信道能传送的数据类型，即模拟信号与数字信号的转换，这是编码与调制的主要内容。

当然模拟数据、数字数据如何通过通道发送的问题也是编码与调制的重要内容。

下面我们分别从模拟信号使用模拟信道传送、模拟信号使用数字信道传送、数字信号使用模拟信道传送和数字信号使用数字信道传送四个方面来介绍数据的调制与编码。

1．模拟信号使用模拟信道传送
有时候模拟数据可以在模拟信道上直接传送，但在网络数据传送中这并不常用，人们仍然会将模拟数据调制出来，然后再通过模拟信道发送。

调制的目的是将模拟信号调制到高频载波信号上以便于远距离传输。

目前，存在的调制方式主要有调幅（Amplitude Modulation，AM）、调频（Frequency Modulation，FM）及调相（Phase Modulation，PM）。

2．模拟信号使用数字信道传送使模拟信号在数字信道上传送，首先要将模拟信号转换为数字信号，这个转换的过程就是数字化的过程，数字化的过程主要包括采样和量化两步。

常见的将模拟信号编码到数字信道传送的方法主要有：脉冲幅度调制（Pulse Amplitude Modulation，PAM）、脉冲编码调制（Pulse Code Modulation，PCM）、差分脉冲编码调制（Differential PCM，DPCM）和增量脉码调制方式（Delta Modulation，DM）。

3．数字信号使用模拟信道传送
将数字信号使用模拟信道传送的过程是一个调制的过程，它是一个将数字信号（二进制0或1）表示的数字数据来改变模拟信号特征的过程，即将二进制数据调制到模拟信号上来的过程。

一个正弦波可以通过3个特性进行定义：振幅、频率和相位。

当我们改变其中任何一个特性时，就有了波的另一个形式。

如果用原来的波表示二进制1，那么波的变形就可以表示二进制0；反之亦然。

波的3个特性中的任意一个都可以用这种方式改变，从而使我们至少有3种将数字数据调制到模拟信号的机制：幅移键控法（Amplitude-Shift Keying，ASK）、频移键控法（Frequency-Shift Keying，FSK）以及相移键控法（Phase-Shift Keying，PSK）。

另外，还有一种将振幅和相位变化结合起来的机制叫正交调幅（Quadrature Amplitude Modulation，QAM）。

其中正交调幅的效率最高，也是现在所有的调制解调器中经常采用的技术。

4．数字信号使用数字信道传送
要是数字信号在数字信道上传送，需要对数字信号先进行编码。

例如，当数据从计算机传输到打印机时，一般是采用这种方式。

在这种方式下，首先须进行对数字信号编码，即由计算机产生的二进制0和1数字信号被转换成一串可以在导线上传输的电压脉冲。

对信源进行编码可以降低数据率，提高信息量效率，对信道进行编码可以提高系统的抗干扰能力。

目前，常见的数据编码方式主要有不归零码、曼彻斯特编码和差分曼彻斯特编码三种。

（1）不归零码（NRZ，Non-Return to Zero）：二进制数字0、1分别用两种电平来表示，常用-5V表示1，+5V表示0。

缺点是存在直流分量，传输中不能使用变压器；不具备自同步机制，传输时必须使用外同步。

（2）曼彻斯特编码（Manchester Code）：用电压的变化表示0和1，规定在每个码元的中间发生跳变。

高→低的跳变代表0，低→高的跳变代表1（注意：某种教程中关于此部分内容有相反的描述，也是正确的）。

每个码元中间都要发生跳变，接收端可将此变化提取出来，作为同步信号。

这种编码也称为自同步码（Self- Synchronizing Code）。

其缺点是需要双倍的传输带宽（即信号速率是数据速率的2倍）。

（3）差分曼彻斯特编码：每个码元的中间仍要发生跳变，用码元开始处有无跳变来表示0和1。

有跳变代表0，无跳变代表1（注意：某种教程中关于此部分内容有相反的描述，也是正确的）。