最优设计-准则与算法

最优设计-准则与算法
刘嘉明
北京航空航天大学 可靠性与系统工程学院
回顾
最优设计是根据能够反映试验目的的设 计准则, 求解使设计准则获得达到最优的 设计方案。
最优设计一个重点是获得模型相对应的 信息矩阵。
最优设计需要求解准则函数，获得使准 则函数最小的设计。
主要内容
最优设计概念 最优性准则 FEA算法 基于SAS的最优设计构造与分析
算法-FEA
算法-FEA
基于SAS的最优设计构造与分析
SAS 是一个模块化、集成化的大型应用软件系统。 它由数十个专用模块构成，功能包括数据访问、数 据储存及管理、应用开发、图形处理、数据分析、 报告编制、运筹学方法、计量经济学与预测等等。 SAS系统由多个功能模块组合而成，其基本部分是 BASE SAS模块。SAS系统具有灵活的功能扩展接口 和强大的功能模块，在BASE SAS的基础上，还可 以增加不同的模块而增加不同的功能。

4(1
1)2 4

7 4

4
所以，在G优良性含义下设计ξ1优于ξ2
等价性定理
引理 设ξ∈Ξ，且M (ξ) ≠0，则
d(x, )d tr[ f (x)'M 1( ) f (x)]d k


并且
maxd(x,) k x
其中，k为信息阵阶数
等价性定理
等价性定理： 下述3个结论等价
D最优性
例：对于下面的一元二次回归模型
E( y) 0 1x 2 x2
有以下两个设计
1 1/13
0 1/ 3
11/ 3
2 1/14
0 1/ 2
11/ 4
D最优性
模型中 f (x) (1, x, x2 )'，那么
1 x x 2 f (x) f (x)' x x 2 x3
复合最优性
准则函数 设定义在M (Ξ) 上的函数
它综合考虑了各种评价准则。
算法-FEA
前苏联统计学家费多洛夫提出了一种用 于构造D最优设计的迭代算法。 Theory of Optimal Experiments（1969）
该算法后来被命名为费多洛夫迭代算法 Fedorov exchange algorithm（FEA）
DA， Ds，C最优性
DA最优设计的目的是有效估计参数β的线 性组合。
特别的，当A=(Is,0)时，设计就称为Ds最 优设计，其目的是有效估计参数向量β的 前s个分量。
当A为列向量时，设计就称为C最优设计。
G最优性
准则函数 设定义在M (Ξ) 上的函数
max max [M
(
)]
A最优性
继续上面的例子，求两个设计信息矩阵 的逆，如下
3 0 3
2 0 2




M '(1) 0 3 / 2 0 M '(2 ) 0 2 0
3 0 9 / 2
2 0 4
那么 tr[M 1 (1 )] 9 tr[M 1 (2 )] 8 在A优良性含义下， ξ2 优于ξ1
其中，λ -1表示矩阵M-1（ξ）的最大特征 值，由于这个准则函数是用特征值，即 eigenvalue，定义的所以称为E最优设计。
E最优性
上面的例子，求两个设计信息矩阵的逆 矩阵的特征方程与特征值，如下
3 det(M 1 (1 ) I ) 0
3
0
3
2
0
3
0 ( 3 )[(3 )(9 ) 9] 0
A最优：
D最优
E最优
Φk最优性
准则函数 设定义在M (Ξ) 上的函数
特别的， Φ0 ，Φ1， Φ∞分别对应D，A，E 最优设计。
DA， Ds，C最优性
DA最优性，准则函数 [M ( )] log det(A' M 1( ) A)
其中，A是给定的秩为s（s＜p）的s×p 阶常数矩阵。 DA最优设计有时也称广义D最优设计。

x
2
x3
x
4

根据
D最优性
1 1 1 1 0 0 1 1 1 1 0 2 / 3
M
(1
)

1 3

1 1
1 1
1 1

1 3

0 0
0 0
0 0

1 3
1 1
1 1
1 0 1 2 / 3
最小二乘估计b的协方差矩阵只差一个常 数倍，A只考虑到b的各分量的方差之和，
而没有考虑它们的协方差。线性最优性 通过对M-1（ξ）的一个线性变换综合考虑
了b的各分量的方差和协方差。
E最优性
准则函数 设定义在M (Ξ) 上的函数
[M ( )] ，1，当当ddeetMtM(())00
Var[ yˆ(x)] f (x)'Var(b) f (x) f (x)' M 1( ) f (x) d (x, )
G最优性

max x
d
(
x,
)
表示在设计ξ下，最小二乘估计
的预测值在因子区域中各点的方差的最
大值，G最优设计就是此最大值为最小的
设计，极大极小化原理是博弈论，即
算法-FEA
步骤
1. 任给一非退化的初始设计ξ0
0


x1 p1
x2 p2

xn pn
,
n

k,
n i 1
pi
1
2. 计算ξ0的信息矩阵和它的逆矩阵
n
M (0 ) pi f (xi ) f (xi ) i 1
算法-FEA
3.
求点x0满足
d(x0 ,0 ) maxd(x,0 ) d x
线性最优性(L最优性)
准则函数 设定义在M (Ξ) 上的函数
[M
(
)]

tr[WM 1( )]，当detM (

，当detM ( ) 0
)

0
其中，W是某个已知的正定矩阵。
线性最优性
当W=I时，线性最优设计就是A最优设计。 信息矩阵M（ξ）的逆矩阵M-1（ξ）与β的
概念：Φ最优设计 设Φ是定义在M (Ξ) 上的一个准则函数，
若设计ξ* ∈ Ξ满足
则称设计ξ*为Φ最优设计。
D最优性
准则函数： 设定义在M (Ξ) 上的函数
[M ( )] ln det M ( )
D最优性
那么，D最优准则下的一个最优设计需要 满足
ln det M (*) min ln det M ( )
4. 构造设计
1 (1 0 )0 0 x0
1


(1

x1
0
)
p1
x2
(1 0 ) p2

xn
(1 0 ) pn
x0
0

其中 0

[ 0
0
(k
1)] k, 0

d(x0 ,0 ) k
算法-FEA
5. 计算M (ξ1) 和M-1(ξ1) 以ξ1取代ξ0 ，重复步骤3-5，得到 ξ2…… ，可得一系列设计ξ0 ， ξ1 ， ξ2 …… 可以证明上述迭代过程是收敛的，并 且极限设计就是一个D最优设计。


x
d(x, )
x
f (x)'M 1( ) f (x)，当detM ( ) 0

，当detM ( ) 0
在设计ξ下，由观察值用最小二乘估计确定的回归方程 为 yˆ(x) b' f (，x)利用这个方程做预测时，在信息矩阵 非退化情况下，点x处预测值y(x)的方差为
这里面的Nwi视为试验在试验点Xi以上近 似重复的次数。
概念
这种概率分布和连续性概率分布一起称 为近似设计。
而Ξ={ξ：ξ是X上的概率分布)构成了设计 全体。
概念
信息阵： 在设计域X上的任意一设计ξ ，其信息阵 定义为
概念
在线性模型中，对于精确设计ξN ，由于
那么
概念
1. ξ *是D最优设计，即 det M ( * ) max det M ( )
2. ξ *是G最优设计，即 maxd(x,*) minmaxd(x,)

x
3. ξ *满足 max d (x, * ) k
等价性定理
由等价性定理可知，凡是对D最优设计的 信息矩阵证明过的性质，G最优设计的信 息矩阵也具备；反之亦然。另一方面， 在构造最优设计时，可交替使用D最优设 计和G最优设计的性质，这就使我们在许 多情况下能够用比较简单的方法去寻找 最优设计。
在实验设计中，我们主要使 用到得模块是SAS/QC（质量 控制模块）
max x
d (x,1)

9 2
(1
1)2 2
15 8

3
G最优性
d
(
x,

2)

(1,
x,
x
2
)
2 0
2
0 2 0
2 0 4
(1,
x,
x2
)'
4( x 2

1)2 4

7 4
同样，在x的边界x=1或x=-1处，达到最大值
max x
d (x,2 )
Game Theory，中的重要原理，G最优设
计的名称即来源于此。
G最优性
继续之前的例子，设x=[-1,1]，计算