非线性相关的信号—响应系统稳健性参数设计

非线性相关的信号—响应系统稳健性参数设计
崔庆安
【摘要】针对非线性相关的信号－响应系统的稳健性参数设计,提出一种基于支持向量回归机和遗传算法的实现方法.首先,利用过程方差描述信号－响应之间非线性关系的波动,建立可控因子与过程方差之间的支持向量回归模型,利用遗传算法全局性寻优得到使非线性关系最稳定的可控因子水平；其次,将噪声因子水平的变化看作重复,建立可控因子、信号因子和响应变量之间的支持向量回归模型,进而预测出最优可控因子水平下信号－响应的样本集；最后,根据此样本集拟合出信号因子与响应变量之间的具体作用关系模型.理论与实证研究表明,与现有信噪比分析和响应建模方法相比,所提方法能够较为真实地反映各类因子与响应变量之间的复杂作用关系,得到波动性更小的稳健性优化解.%For the Robust Parameter Design (RPD) of nonlinear correlation signal-response system,an approach based on Support Vector Regression (SVR) and Genetic Algorithm (GA) was proposed.The fluctuation of nonlinear correlation in signal-response system was represented by process variation,and a SVR model for controllable factors and process variation was set up.The global optimal level of controllable factors with the steadiest nonlinear correlation of the system were obtained by using GA.The SVR model between controllable factors,signal factor and response variable was constructed by regarding the noised factors as repeated runs.Subsequently,the sample set of signal-response under the optimal controllable factors was predicted by using SVR model.The empirical model of the signal factor and response variable was simulated based on the proposed sample set.The theoretical analysis
and empirical research showed that the proposed approach could objectively reflect the complex influential relationship among all kinds of factors and response variable comparing with signal-to-noise ratio analysis approach and response modeling approach,therefore the robust optimization result with smaller process variation was obtained.
【期刊名称】《计算机集成制造系统》
【年(卷),期】2013(019)008
【总页数】10页(P1957-1966)
【关键词】稳健性参数设计;信号—响应系统;非线性相关;支持向量回归机;优化设计
【作者】崔庆安
【作者单位】郑州大学管理工程学院,河南郑州450001
【正文语种】中文
【中图分类】TH122;TH166
0 引言
制造过程输出的质量特性同时受工艺参数（称为可控因子）和噪声的影响，并由此产生质量波动。

所谓稳健性参数设计（Robust Parameter Design，RPD），就是通过选择合适的可控因子水平，使得输出的质量特性（称为响应变量）对噪声因子和可控因子变差的影响不敏感。

Taguchi［1］最早提出了RPD的概念，并采用信噪比（Signal／Noise，S／N）指标和正交设计来实现；而后，Box［2］，
Myers［3］和Montgomery［4］等学者改进了S／N 指标的不足，提出采用响应建模的方法来实现RPD。

作为提高产品质量的主要手段之一，RPD在汽车［5］、精密制造［6］等行业得到了广泛的应用。

根据响应变量的变化特点，制造过程可以分为静态系统和信号—响应系统两种。

对于前者，当可控因子水平确定以后，响应变量受噪声因子的影响会产生波动，但是其均值保持不变。

此类系统的RPD 关注于响应变量自身，通过选择可控因子的水平，使响应变量均值满足要求（望大、望小或望目），并且方差尽可能小；对于后者，生产过程中的某类特定的信号因子与响应变量之间存在相关关系，通过改变信号因子的水平可使响应变量动态变化。

而控制因子水平变化和噪声因子，可以影响该相关关系并且使响应变量产生波动。

此类系统的RPD 关注于信号因子与响应变量之间的相关关系，可以通过选择可控因子的水平使该相关关系尽可能稳定，从而得到波动较小且满足动态要求的质量特性值。

传统的制造过程多为静态系统，但是随着生产过程的日益复杂化，出现了大量的信号—响应系统。

例如精密零件的注塑加工系统，需要根据不同的要求注射不同量的高分子材料；再如表面机械加工系统，需要根据零件要求加工出不同的表面粗糙度。

如何实现信号—响应系统的RPD，满足顾客日益增长的个性化需求，成为制造业迫切需要解决的问题。

在信号—响应系统中，根据信号因子与响应变量之间关系的复杂程度，可以分为线性相关和非线性相关，目前研究多关注于线性相关的信号—响应系统的RPD 实现，即认为相关关系可以用一阶线性模型表示，但是当过程足够复杂时，该模型容易引起较大的偏差［7］。

此外，因为实践中难以得到可控因子与信号因子、响应变量之间精确的物理模型或工程模型，所以多采用响应曲面法、析因实验等方法建立多项式近似模型，但是该模型常常会导致拟合不足，代表性不强，寻优只能得到局部最优解。

在克服上述不足、实现非线性信号—响应系统的RPD方面，有价值的研究还很少。

本文提出一种基于支持向量回归机（Support Vector Regression，SVR）的非线性信号—响应系统的RPD 实现方法。

针对因子与响应作用关系的具体模型未知的制造过程，以不同信号因子水平下响应变量的方差来描述信号—响应之间非线性
关系的波动，求解最优化问题，得到使信号—响应关系最为稳定的可控因子水平；采用SVR建立可控因子、信号因子与响应变量之间的全局性作用关系模型；根据
该模型估计出最优可控因子水平下信号—响应的非线性作用关系，以指导实践应用。

在介绍信号—响应系统和SVR 理论的基础上，分析了实现非线性RPD的关
键问题，给出了具体实现步骤，并通过注塑加工过程的实证研究说明了方法的有效性。

1 理论简介
1.1 信号—响应系统的稳健性参数设计
典型的信号—响应系统如图1a所示。

对于没有具体的物理或工程模型的制造过程，过程输出的质量特性（即响应变量）y 受到三类因子的影响，即可控因子xc、信
号因子xm和噪声因子xn。

其中：xm 与y 之间存在一定的相关关系，y＝f（xm；xc）＋ε，该相关关系还要受可控因子的影响，不同的可控因子水平对应不同的相
关关系；xn的存在使y在相同的xm，xc水平时产生随机波动ε。

对于线性的信号—响应系统，响应变量y 与信号因子xm 之间的关系可用一元线性回归模型表
示为
非线性的信号—响应系统不能简单地用该模型表示，模型中有可能存在xm2，
xm3等高阶项，甚至存在exm等超越函数形式的项；此外，噪声因子带来的方差也可能是变化的，为简单起见，用下式表示：
图1b和图1c所示为信号—响应系统的线性和非线性相关关系示意图。

对于线性的信号—响应系统，Taguchi［8］提出采用动态信噪比η＝ln（β2／σ2）来考察过程的稳健性，首先利用正交实验和内外表设计对动态信噪比和灵敏度进行方差分析，确定稳健性最优的可控因子组合，而后再选择一个对β有影响而对η
没有影响的调节因子，通过改变调节因子的水平使β达到目标值。

该方法原理较
为简单，在实践中的应用较为广泛，但是也存在明显不足：一方面，调节因子不一定总是存在；另一方面，该方法只能实现可控因子在特定实验水平上的优化，不能实现连续优化。

为改进上述不足，Wu Jeff等学者［7］提出了基于经典实验设计的响应函数建模
方法，即采用析因试验、响应曲面设计等，对于控制因子（噪声因子）的第i个水平组合，拟合一条响应变量在信号水平上的回归线，并估计出误差方差；在可控因子水平的变化范围内，分别拟合关于可控因子（噪声因子）的多项式回归模型，
由此评估过程的稳健性，确定最优的可控因子水平。

进一步地，钟晓芳等［9］根据信号因子与响应之间的线性关系，利用灰色关联分析选择与响应关联程度最大、波动最小的可控因子组合来实现RPD；汪建均等［10］利用联合广义线性模型，
在区分显性和潜在噪声因子的基础上，通过调节信号—响应系统的截距α和斜率
β 来实现RPD；Pisvimol［11］提出一种基于遗传算法和田口方法的信号—响应
系统的RPD 实现方法；Jung等［12］为克服S／N 指标的缺陷，利用人工神经
网络（Artificial Neural Network，ANN）建立了可控因子、噪声因子、信号因
子与响应之间的近似模型，通过超拉丁方抽样估计β及其置信区间，进而求解约
束优化问题使其波动最小；Chang等［13］利用ANN和遗传算法，研究了多输
出变量的信号—响应系统的RPD 问题。

上述研究对于信号—响应系统RPD的理论及应用起到了较大促进作用，但是仍然存在需要继续深入之处：①现有方法多适用于线性相关的信号—响应系统，其主
要步骤在于对式中参数α，β，σ2的估计和拟合，然而对于非线性相关来说，因为其关系形式远比式（1）复杂，而且过程方差也在发生变化，所以不能简单地用上述参数来表达；②随着制造过程的日益复杂化［14］，响应函数建模方法中的多项式模型不足以反映可控因子、噪声因子、信号因子与响应变量之间的复杂作用关系，而ANN模型虽然可以近似任意复杂的相关关系，但是需要较大的样本量，不适用于没有具体作用关系模型且实验成本高、可获得的样本量较小的制造过程的稳健性优化。

因此需要研究新的实现方法。

1.2 支持向量回归机
统计学习理论由Vpanik［15］提出，该理论以“结构风险最小化”原则为基础，侧重研究如何在样本量较小的情况下得到最佳的拟合性能与预测性能。

SVR是该理论的实现工具，通过核函数及其参数的选择来实现结构风险最小化，已在建模与预测、故障诊断等领域取得了大量成功的应用，被认为是目前关于小样本的最佳通用学习理论。

其基本原理如下：
设过程输入x＝［x1，x2，…，xm］T与输出y 之间存在某种未知的依赖关系f＊（x），且有n个独立同分布的样本
来自于x和y 形成的总体，回归估计就是寻找某个实值函数f（x），用以估计输入x所对应的输出值y。

首先定义ε－不敏感函数（ε＞0）：
对于如下约束优化问题：
选择核函数k（xi，xj）＝φ（xi）·φ（xj）、惩罚系数C＞0，求解其对偶问题：
式（6）的最优解中每对（i＝1，2，…，n）最多只能有一个不为0。

根据式（7）
可以得知，若，则，对应的样本xi对f（x）的构建没有贡献；而所对应的样本xi
将参与f（x）的构建，因此将其称为支持向量，而其余样本称为非支持向量。

2 非线性信号—响应系统稳健性参数优化的原理及步骤
2.1 基本原理
稳健性设计的关键在三方面：①选择合适的稳健性指标；②建立可控因子、噪声因子、信号因子与响应变量的作用关系模型；③利用该模型对可控因子水平进行优化，使系统达到最优的稳健性，并得到具体的信号—响应作用关系模型。

2.1.1 稳健性指标的确定
因为非线性的相关关系不能简单地用少量参数（如式（1）中的α和β）来描述，所以不能沿用线性相关的稳健性指标。

事实上，RPD的关键是降低质量特性的波动，因此可以考虑以响应变量的方差最小为目标函数。

对于非线性相关的信号—
响应系统，当可控因子水平一定时，由于噪声因子的存在使响应变量存在两类波动：①在某一特定的信号因子水平处的波动；②这种波动在整个信号因子水平变化区间内的不一致性。

选择合适的可控因子水平，将上述两类波动降至最低，使响应变量对噪声因子的影响不敏感，即可达到稳健性设计的目的。

2.1.2 各类因子与响应变量作用关系模型的拟合
考虑到制造过程的复杂性，并且为减少实验次数、降低成本，可以采用SVR 来建
立可控因子、噪声因子、信号因子与响应变量之间的作用关系模型。

其中需要拟合三阶段的模型：第1阶段是拟合可控因子与响应变量波动之间的模型；第2阶段
是拟合反映非线性相关关系f（xm；xc）的模型，该模型主要给出在特定的可控
因子水平下信号因子不同水平处的响应变量的均值；第3阶段是根据上述模型预
测出的信号因子水平与响应变量均值的数据对，拟合出信号—响应之间的具体模型。

此外，由于SVR对样本数据没有严格的要求，根据问题的情况可采用经典实
验设计（如因子设计、正交设计等）或空间填充设计（如均匀空间网格、均匀设计、
超拉丁方抽样等）来获取建模所需的样本数据。

2.1.3 可控因子水平的优化及信号—响应作用关系模型的拟合
根据第1 阶段的模型，利用遗传算法（Genetic Algorithm，GA）等全局性优化
算法，可以发现使两类波动最小的可控因子组合；而后，根据第2阶段的模型可
以预测出该可控因子组合下，信号因子不同水平与响应变量一一对应的数据集；进而根据该数据集的分布形式，选择合适的模型（可以是SVR模型，也可以是高阶
函数、指数函数形式的模型），拟合出信号因子与响应变量之间的非线性相关关系模型。

2.1.4 关于噪声因子的假设和处理方法
在稳健性设计中，噪声因子是过程波动的主要来源。

正是由于噪声因子的存在，使得可控因子水平和信号因子水平不变时过程的输出发生波动。

在拟合可控因子、信号因子与响应变量之间的作用关系模型时，根据噪声因子的分布形式是否已知，可以分为两种情形计算过程波动。

（1）噪声因子的联合分布形式及分布参数已知
设过程共有n个噪声因子，令xn＝［z1，z2，…，zn］T代表噪声因子的组合，
其联合概率分布为
式中：
分别表示n个噪声因子的均值向量和协方差矩阵。

当联合概率密度Gn和分布参数μ，Σ 已知时，可以利用积分的方法计算质量特性的均值E（y）和方差Var（y），由此反映噪声因子对过程质量特性y的影响：
（2）噪声因子的分布形式或分布参数未知
在实际中，因为制造过程的复杂性，一般缺乏关于噪声因子的先验知识，或者噪声因子的分布形式未知，或者难以估计其分布参数μ 与Σ，所以需要采用简化的方法来处理。

具体来说，在可控因子及信号因子的水平不变时，过程响应变量的输出随噪声因子水平的变化而变化，此时可采用响应变量的统计特性（如样本均值和样本方差）来反映过程波动，即可以将噪声因子水平的变化看作对响应变量的重复性影响（简称“将噪声因子看作重复”），这样在不明晰噪声因子的分布形式及参数的情况下，也能进行过程波动建模，在工程实践中具有较强的应用价值。

此外，由于样本均值和样本方差是式（11）中E（y）和Var（y）的无偏估计，这种简化也具有统计意义上的合理性。

2.2 实现步骤
设有一信号—响应系统，由m个可控因子形成的可控因子组合记为xc＝［x1，
x2，…，xm］T，其水平变化记为xci（i＝1，2，…，p）；由n个噪声因子形成
的噪声因子组合记为xn＝［z1，z2，…，zn］T，其水平变化记为xnj（j＝1，2，…，q）；有一个信号因子记为xm，其水平变化记为xmk（k＝1，2，…，r）；y表示过程的响应变量。

在上述分析的基础上，形成如下基于SVR的非线性信号—响应系统的RPD 实现步骤：
（1）阶段1——寻找不同信号因子情况下过程方差最小的可控因子组合
步骤1 根据制造过程特点，选择合适的可控因子组合、噪声因子组合、信号因子
的水平数p，q，r，采用经典实验设计、空间填充设计等方法，获取建模所需的样本集D0，
式中yijk表示可控因子组合、噪声因子组合、信号因子不同水平处的响应变量值。

步骤2 对于每一个可控因子组合的水平xci，将噪声因子组合水平xnj的变化看作重复，计算信号因子各水平xmk处的响应变量的方差Sik，
进一步得该可控因子水平处Sik的均值及方差：
步骤3 形成第一阶段的样本集D1，
分别拟合，SS关于xc的方程SVR11与SVR12：
式中SVR模型参数的选择采用文献［16］中的方法。

步骤4 计算过程方差（即两类方差的总和），
以最小化为目标和适应度函数，利用遗传算法对式（17）进行全局性寻优，得到
最优解xc＊与，即可最小化过程方差。

（2）阶段2——拟合可控因子、信号因子与响应变量之间的作用关系模型
将噪声因子看作重复，根据D0计算在可控因子组合及信号因子不同水平处的响应变量均值，
由此形成第2阶段的样本集D2，
步骤5 令xcm＝xc⊗xm表示可控因子组合与信号因子的所有水平组合，根据D2，利用SVR建立xc，xm 与y 之间的近似模型SVR2：
（3）阶段3——拟合信号因子与响应之间的非线性关系
步骤6 将步骤4得到的xc＊与信号因子水平形成新的因子组合xc＊m＝xc＊⊗xm，代入模型SVR2即式（20）进行预测，得到r个，其中“＊”表示可控因子的最
优组合。

由此得到第3阶段的样本集D3，
步骤7 根据D3作出xmk与（k＝1，2，…，r）的相关图，选择合适的模型形式，拟合出具体的响应变量与信号因子间的作用关系模型，指导制造过程的生产实践和应用。

3 实证研究
3.1 背景介绍
Wu Jeff在文献［7］中报告过一个信号—响应系统的稳健性参数设计实例。

注塑
生产过程中，需要根据零件重量的要求注射不同量的高分子材料，因此需要一种能够动态控制材料注射量的可靠方法。

由于高注射压强可以控制和改变材料的注射量，可将其看作信号因子xm，共有8个水平xmi（i＝1，2，…，8）；将零件重量看作响应变量y；控制因子有7个，分别是注射速度、保压时间、高注射时间、低注射时间、保压压强、冷却温度和低注射压强，形成控制因子的组合xc＝［x1，
x2，…，x7］T，其水平选择采用27－4析因设计，共有27－4＝8个水平组合，即xci（i＝1，2，…，8）。

表1给出了控制因子组合及其8个水平的具体值，以及信号因子8个水平的具体值。

噪声因子是由溶化指数、再研磨百分比、操作者、树脂湿度组合而成的综合因子，共有两个水平xn1和xn2。

表2给出了y的实验
数据，在每一xci处，对于每一xmi，分别在xn1和xn2处作4 次重复。

Wu Jeff 在文献［7］中利用响应函数建模方法对这一问题进行了分析。

通过观察相关关系图，选择二阶多项式作为响应变量与信号因子的近似模型；根据析因实验结果，拟合出近似模型的系数β0，β1，β2及方差与可控因子之间的4个一阶多项式模型，来反映响应变量与信号因子的变化关系：
对上述4个一阶模型进行优化，最终结果为：
但是由于该信号—响应系统非线性相关的复杂性，在可控因子的某些组合处，二阶多项式会引起拟合不足，难以有效代表信号因子与响应变量之间相关关系的变化情况；此外，一阶多项式也不能真实地反映系数β0，β1，β2及方差关于可控因子的复杂作用关系情况，其优化结果仍有改善的空间。

表1 注塑过程的可控因子及信号因子注：数据来源于文献［7］
表2 注塑过程的实验数据注：数据来源于文献［7］
3.2 优化结果
作为对比，这里采用本文提出的非线性信号—响应系统RPD 实现方法对上述问题进行优化。

第1阶段，按照3.2节中的步骤1～步骤4 从表2中获取数据样本集，计算出的信号因子各水平处响应变量的方差Sik、各可控因子水平处Sik的均值、方差及其SVR 拟合值如表3所示。

表3同时给出了在各可控因子组合处的值。

其中，拟合的SVR方程的相关参数为：ε＝0.2294，C＝35.7220，σ＝2.35（Gauss核函数）；拟合的SVR方程的相关参数为：ε＝0.1593，C＝37.7700，σ＝2.25（Gauss核函数）。

以最小化为目标函数，利用遗传算法寻优得到可控因子组合的最优值
第2阶段，建立可控因子、信号因子、响应变量之间的作用关系模型。

表4给出了建模所需的数据集，按照3.2节中的步骤5～步骤6计算所有可控因子组合、信号因子不同水平处的响应变量的均值及其SVR 拟合值。

SVR方程的相关参数为：ε＝0.3824，C＝912.95，σ＝2.9（Gauss核函数）。

表3 注塑过程可控因子组合与信号因子水平处的过程方差
表4 注塑过程可控因子组合与信号因子水平处的响应变量的平均值
第3阶段，拟合信号因子与响应之间的非线性关系。

按照3.2节中的步骤7～步骤8，将遗传算法寻优得到的最优可控因子组合xc＊＝［0.01，48.94，6.31，17.04，1896.70，26.57，649.25］代入第2阶段的SVR方程，得到信号因子与响应变量的对应表（如表5），反映其相关关系的散点图如图2所示。

通过对散点图的观察，选择三阶多项式作为拟合模型，得到回归方程（其中xm，xm2，xm3为规范化后的值）：
有关系数检验及模型的方差分析如表6所示。

表5 最优可控因子组合水平下信号因子与响应变量的对应值
表6 信号因子与响应变量相关关系模型的系数检验及方差分析
3.3 结果讨论
本文将过程噪声的影响看作重复，并将响应变量的波动分为两部分，采用式（7）所示的过程方差度量这两类波动，建立了过程方差与可控因子之间的SVR模型，而后以过程方差最小为目标，采用遗传算法对约束优化问题进行全局性寻优，得到如式（24）所示的可控因子的优化值，其对应的过程方差为，与文献［7］响应建模方法的优化结果相比有较大程度的改善，说明所提方法的整体性能较优。

从表3可以看出，本文利用SVR 理论建立的可控因子与过程方差之间作用关系模型的拟合效果较好（拟合，SS的均方误差分别为0.0526和0.0234），可以较为真实地反映各类因子与过程方差之间的复杂作用关系。

与之相比，响应建模方法采用多项式来拟合可控因子、噪声因子与过程方差之间的作用关系，从式（22）可以看出，该模型形式简单，易于优化；但是其最优值通常只能在可行域的端点处达到，不能实现真正意义上的连续优化；此外，模型中还含有噪声因子的一阶主效应项，在很大程度上影响了过程方差估计的准确度。

关于信号因子与响应变量的作用关系建模，本文所提方法对非线性相关关系的模型形式不做事先限定，在寻找到最优可控因子组合之后，才拟合具体的信号—响应
作用关系模型，针对性强，适用性好，表6的系数检验与方差分析结果也说明了
模型的适用性。

响应建模方法一开始即设定了二阶多项式模型的固定形式，然而在可控因子水平变化范围内，二阶多项式模型并不一定适用。

对于本案例，文献［7］也指出，在16个可控因子组合的水平处，有4个水平处二阶多项式模型是不合适的，因此二阶模型的代表性不强。

4 结束语
本文对非线性相关的信号—响应系统的稳健性设计问题进行了研究，提出一种基
于SVR和遗传算法的实现方法。

该方法不同于已有的信噪比分析和响应建模方法，在最初并不设定一个固定的信号因子与响应变量之间的模型形式，而是以最小化过程方差为目标，利用SVR建模和遗传算法，确定使过程方差最小的可控因子组合
水平，再拟合响应变量与信号因子之间的具体作用关系模型。

实证研究表明，与现有方法相比，该方法可以更为真实地反映各类因子与响应之间的复杂作用关系，而且能得到全局性的稳健性优化解。

【相关文献】
［1］TAGUCHI G.System of experimental design：engineering methods to optimize quality and minimize cost［M］.White Plains.New York，N.Y.，USA：UNIPUB／Kraus International，1987.
［2］BOX G E.Signal－to－noise，performance criteria，and transformations
［J］.Technometrics，1988，30（1）：1－17.
［3］MYERS R H，MONTGOMERY D C，VINING G G，et al.Response surface methodology：a retrospective and literature survey［J］.Journal of Quality Technology，2004，36（1）：53－77.。