基于卷积神经网络的信道均衡算法

基于卷积神经网络的信道均衡算法陈敏华;李杨;张武雄【摘要】在现代无线通信系统中,为了克服由传输信道的非线性以及多径效应引起的符号间干扰,解决传统信道均衡算法难以适应的时变信号均衡问题,提出一种基于卷积神经网络的信道均衡算法.通过采集实际通信系统中发送端的相位偏移调制QPSK(quadrature phase shift keying)发送符号序列及接收端的接收符号序列,并将其分割为训练集和测试集来训练及测试卷积神经网络均衡器.实验结果验证了在相同信噪比条件下,基于卷积神经网络的信道均衡算法对QPSK恢复的误符号率相比RLS算法和MLP算法分别降低了20％和5％.%In modem wireless communication system,in order to reduce the influences of InterSymbol Interference (ISI) introduced by nonlinear channel and multipath effect and solve the problem that the traditional channel equalizer cannot adapt to time-varying signals,a channel equalization algorithm based on convolutional neural network (CNN) is proposed.The quadrature phase shift keying (QPSK) dataset collected from the transmitting side and the receiving side of real wireless communication system is split into training set and test set to train and test the CNN algorithm.We thus conclude that the SER performance for QPSK systems with the CNN equalizer outperforms that of recursive least square (RLS) and multilayer perceptron (MLP) by in average 20％ and 5％ at low signal to noise ratio.【期刊名称】《计算机应用与软件》【年(卷),期】2017(034)009【总页数】5页(P257-261)【关键词】信道均衡;卷积神经网络;无线通信;深度学习【作者】陈敏华;李杨;张武雄【作者单位】中国科学院上海微系统与信息技术研究所上海201210;中国科学院上海微系统与信息技术研究所上海201210;中国科学院上海微系统与信息技术研究所上海201210【正文语种】中文【中图分类】TP183信道均衡技术可以有效降低符号间干扰对通信系统的影响，对数字通信技术的发展起着关键作用。

常用的信道均衡技术主要分为两类，一类是基于训练的信道均衡，包括最小均方滤波LMS(least mean square)[1]和迭代最小二乘法RLS(recursive least square)[2]等；另一类为盲均衡算法，主要有恒模算法CMA(constant modulus algorithm)[3]，多模算法MMA(multi-modulus algorithm)[4]等。

传统的信道均衡技术往往将信道建模为一个线性系统，通过迭代算法不断逼近最优的线性模型来找到最优参数。

但是非线性特性强烈及多径丰富的环境下，传统的信道均衡算法由于无法拟合非线性系统，因而并不能保证较低的误码率。

人工神经网络由于其拟合非线性系统的能力在信道均衡领域吸引了很多关注。

文献[5-6]分别使用不同结构的神经网络进行信道均衡，并证明在相同信噪比条件下，神经网络算法能达到更低的误比特率。

文献[7]提出了一种搜索优化的方法来训练神经网络，提升了网络的训练速度。

文献[8-9]提出用神经网络解决5G通信和可见光通信等不同场景下的信道均衡问题的方法。

但是由于受到无线数据采集能力的限制，这些工作都只在理论和计算机仿真角度验证了神经网络解决信道均衡问题的可行性，缺乏在实际数据集上的验证。

鉴于此，本文提出了一种基于卷积神经网络的信道均衡算法，并在实际采集的QPSK调制发送符号序列及接收符号序列组成的数据集上进行测试。

1.1 信道均衡本文将自适应信道均衡问题建模为一个可以用神经网络求解的多分类问题，并基于softmax回归分析[10]方法计算分类的条件概率。

如图1所示，假设发送信号x[n]的符号集可以表示成k点的星座图。

发送信号通过信道后，在接收端用一个固定长度为的滑动窗口收集连续信号Y(n)=[y(n),y(n-1),…,y(n-N+1)]，其中y[n]表示接收端在时刻n接收到的符号。

令L=[L1,L2,…,Lk]为线性空间Rk的一组标准正交基，其中每个向量Li∈Rk仅在第i个元素为1，其余位置都为0。

可以根据发送符号在星座图上的位置，将发送信号从复数域全部变换到正交基L上。

于是信道均衡问题就被转换为以接收端信号Y(n)为输入特征，以为分类标签的k分类问题。

对于每一组给定的输入样本，都要计算其对应的输出被判断为任意分类的条件概率1.2 softmax回归模型传统的逻辑回归只能解决二分类问题，而 softmax回归模型是逻辑回归在多分类问题上的一种推广。

假设采用softmax回归模型，对应每组特定的接收端信号Y(n)，均衡器输出的条件概率分布函数为：式中ω=[ω1,ω2,…,ωk]为模型的参数。

根据式(1)，可以得到总的概率分布函数为：1.3 模型求解求解模型的过程就是不断优化模型参数以降低代价函数值，从而降低误判率的过程，通过对大量实际采集数据的训练，可以不断提高均衡器的准确性。

在开始模型的训练前，需要先选定优化的代价函数。

softmax回归模型采用极大似然估计的方法来求解模型的参数，代价函数为：式中，m表示训练网络所用的样本总数。

1{*}函数为一个特殊函数，当其参数为真时返回1，否则返回0。

将式(1)代入式(3)可以得到：J(ω)=-根据式(4)很难直接求解代价函数的极小值点，但是由于代价函数并非严格非凸函数，因此，可以利用梯度下降的方法来求解代价函数的极小值点，表示为：ωjJ(ω)=-Y(i)(1{=Lj}-P(=Lj|Y(i);ω))通过式(5)，可以计算损失函数的梯度方向，在每一次样本训练结束后，沿着代价函数的梯度方向更新模型的参数ω直到收敛。

经过训练迭代，不断降低代价函数的值，直到代价函数J(ω)收敛，并将这组参数ω作为系统的参数[11]。

卷积神经网络[12]是一种前馈人工神经网络，最初在图像识别[13]领域取得广泛应用。

卷积神经网络通过卷积层遍历每个样本的方式，能够有效地提取出样本中的特征，克服非线性变换对样本特征的影响。

在实际的无线通信系统中，也面临着非线性时变系统响应的问题。

传统的信道均衡方法往往无法考虑信道的非线性时变特性对信号传输的影响。

我们可以利用卷积神经网络模拟非线性系统的能力来提升信道均衡的性能。

图2是为信道均衡问题设计的神经网络。

网络的输入层为接收天线得到的信号通过固定长度的滑动窗口采集下来的训练数据。

具体而言，每个输入样本的大小都为2×N，其中N表示滑动窗口的长度，2表示分别采集信号的实部与虚部。

输入层后接了两个卷积层。

卷积层是卷积神经网络中最关键的环节，用于提取输入样本的特征[14]，每个卷积层都有若干个不同的卷积核。

如图3所示，每个卷积核都会以一定的步长遍历整个卷积层输入并进行卷积运算。

每一个卷积核都会生成一张特征图，这就是卷积层提取特征的过程。

卷积运算的结果并不会直接存储在神经网络中，而是通过一个激活函数进行计算后作为特征保存下来。

常用的激活函数有Sigmoid函数，ReLU函数，tanh函数[15]等。

Sigmoid函数适用于特征相差不是特别大时，tanh函数适合于特征相差比较明显的样本，而ReLU函数适用于特征较为稀疏的情况[16]。

本文在卷积层选择tanh函数作为激活函数，而在全连接层采用ReLU函数作为激活函数。

在构建网络的过程中，需要注意卷积核的大小决定了神经感受野的大小。

卷积核过大或过小，都将导致无法提取有效的局部特征。

除卷积核的大小外，卷积核的个数，卷积核移动的步长等，都是需要调整的关键参数。

第二个卷积层的结构与第一个卷积层类似，也存在若干个不同的卷积核。

神经网络通过级联卷积层的方式扩大感知野的范围。

神经网络在最后接入softmax层以计算当前样本在网络中被判为每个类别的概率。

每次训练后，都将softmax层的输出与样本对应的真实类别向量进行比较，并利用梯度下降法更新网络参数，经过不断的训练可以提升网络的性能。

3.1 数据采集为了保证测试数据的真实性和均衡算法的可靠性，同时保证采集数据的多样化，本文在多个典型室内通信环境下分别采集无线信道数据，并在各个不同数据集上对算法进行测试。

如图4所示，本文用一种并行架构的信道探测仪在一些典型的室内无线通信环境中采集了大量数据。

本文采用QPSK调制信号作为发送信号，并在发送端叠加-10～20 dB的噪声。

每次采集过程以100 M/s的码片速率连续发送4 096个QPSK码片200次，并将相应的收发数据以TDMS文件的形式存储在本地。

并行信道探测仪主要组件如表1所示。

3.2 实验结果与分析完成数据采集后，将各个数据集最后的五分之一分割出来作为测试集，剩余的部分作为训练集。

其中训练集用于训练卷积神经网络以计算网络参数，测试集用于对训练后的深度神经网络进行测试以验证算法的有效性。

本文还在相同数据集上使用RLS和MLP算法进行对比了实验。

图5为在信噪比为20 dB的环境下，三种算法训练的均衡器从接收信号恢复出来的星座图。

从图中可以看出，在20 dB信噪比环境下，基于神经网络算法恢复出来的星座图比RLS恢复出来的星座图收敛的更好。

需要注意，由于CNN算法使用的是softmax分类模型，其恢复出的符号将被固定在星座图上特定的位置。

为了能够更直观地表现这三种信道均衡算法的准确性，分别对信噪比-10～20 dB范围内的数据集进行了实验，并记录不同信噪比环境下三种算法恢复信号所得到的误符号率。

结果如图6所示。

从图中可以看到，在不同的信噪比环境下，CNN的误符号率都要低于MLP和RLS。

当信噪比低于0 dB时，RLS和MLP算法误符号率都很高，几乎不能恢复出发送符号，CNN得到的误符号率要低于另外两种算法，但是也不理想。