正则化全参数地确定方法.doc

实用标准文案

1.拟最优准则

Tikhonov 指出当数据误差水平和未知时，可根据下面的拟最优准则：

min dx

opt （1-1 ）

0 d

来确定正则参数。其基本思想是：让正则参数以及正则解对该参数的变化率同时稳定在尽可能小的水平上。

2. 广义交叉验证

令

( I A( 2 / m

)) y

V ( )

A( ))]2 （2-1 ）

[tr ( I / m

其中， A( ) A h (A *h A h I) 1 A *h，tr (I

m

A( )) k 1

(1

kk

( ))，

kk

(

)为 A( ) 的

对角元素。这样可以取*

满足

V( *) min V ( ) （2-2 ）

此法源于统计估计理论中选择最佳模型的PRESS 准则，但比它更稳健。

3. L_曲线法

L 曲线准则是指以log-log尺度来描述与的曲线对比，进而根据该对比结果来确定正则

参数的方法。其名称由来是基于上述尺度作图时将出现一个明显的L 曲线。

运用L 曲线准则的关键是给出L 曲线偶角的数学定义,进而应用该准则选取参数。Hanke 等[64]建议定义L 曲线的偶角为L 曲线在log-log尺度下的最大曲率。令log b Ax，log x，则该曲率作为参数的函数定义为

' '''' '

c( )3（3-1）

((')2( ')2)2

其中“ '”表示关于的微分。

H.W.Engl在文献[40]中指出:在相当多的情况下,L 曲线准则可通过极小化泛函

精彩文档

( ) x b Ax 来实现。即,选取* 使得

* arg inf ( ) （3-2 ）

这一准则更便于在数值计算上加以实施。

但到目前为止 ,还没有相关文献获得过关于L 曲线准则的收敛性结果。另一方面,有文献己举反例指出了L 曲线准则的不收敛性。虽然如此,数值计算的结果表明,L 曲线准则与 GCV 一样 ,具有很强的适应性。

4.偏差原理 :

定理 4-1:(Morozov 偏差原理 )[135] 如果( ) 是单值函数,则当U ( A z0, u) 时存在这样的( ),使得:

U ( A

z (

) , u) （4-1 ） ,

式中z0 z | [ z] inf F1 [ ] 。

事实上，令( ) ( ) 2 ，由( ) 的单调性和半连续性，可知( ) 也是单调和半连续的，并且

lim ( ) 0 ，

同时，由 z0的定义以及( ) 的半连续性，对于给定的，可以找到这样的0 0( )，使得：

(0()) (0()) U ( A z 0 ( ), u) ，

由 ( ) 的单值性可导出( ) 的单值性，从而必定存在( ) [0, 0 ] 满足方程（4-1 ）。

根据上述定理，若方程

Az u,u F ，u U （4-2 ）

的准确右端项u R(A) ,

的近似

u s U

且满足条件：

U

(u ,u ) ；

(0, u )

，而 u

精彩文档

则正则化参数() 存在且唯一。

5.误差极小化准则

Arcangeli 主张由下式来确定正则参数

Axy 0 （5-1）注意到对于每个固定的0 ，函数

( )Ax y 对是连续的，单调递增的，且有

lim ( ) 0,lim ( )

0 （5-2 ）（5-3 ）

故存在唯一的一个( ) 满足方程（5-1）。

6.无偏差预测风险估计

精彩文档