正则化参数的确定方法

1. 拟最优准则

Tikhonov 指出当数据误差水平δ和η未知时，可根据下面的拟最优准则：

0min opt dx d ααααα>⎧⎫⎪⎪=⎨⎬⎪⎪⎩⎭

（1-1） 来确定正则参数。其基本思想是：让正则参数α以及正则解对该参数的变化率同时稳定在尽可能小的水平上。

2. 广义交叉验证

令

22(())/()[(())]/I A y m V tr I A m

δααα-=- （2-1） 其中，*1*()A (A A I)A h h h h A αα-=+，1(I A())(1())m

kk k tr ααα=-=-∑，()kk αα为()A α的

对角元素。这样可以取*

α满足 *()min ()V V αα= （2-2）

此法源于统计估计理论中选择最佳模型的PRESS 准则，但比它更稳健。

3. L_曲线法

L 曲线准则是指以log-log 尺度来描述与的曲线对比，进而根据该对比结果来确定正则 参数的方法。其名称由来是基于上述尺度作图时将出现一个明显的L 曲线。

运用L 曲线准则的关键是给出L 曲线偶角的数学定义,进而应用该准则选取参数α。Hanke 等[64]建议定义L 曲线的偶角为L 曲线在log-log 尺度下的最大曲率。令log b Ax αρ=-，log x αθ=，则该曲率作为参数α的函数定义为

''''''

3

'2'22()(()())c ρθρθαρθ-=+ （3-1）

其中“'”表示关于α的微分。

H.W.Engl 在文献[40]中指出:在相当多的情况下,L 曲线准则可通过极小化泛函

()x b Ax ααφα=-来实现。即,选取*α使得

{}

*0arg inf ()ααφα>= （3-2） 这一准则更便于在数值计算上加以实施。

但到目前为止,还没有相关文献获得过关于L 曲线准则的收敛性结果。另一方面,有文献己举反例指出了L 曲线准则的不收敛性。虽然如此,数值计算的结果表明,L 曲线准则与GCV 一样,具有很强的适应性。

4. 偏差原理:

定理4-1:(Morozov 偏差原理)[135]如果()φα是单值函数,则当0(,)U z A u ρδ>时存在这

样的()ααδ=,使得:

()

(,)U z A u αδρδ= （4-1） , 式中 {}10|[]inf []F z z z γγ∈∈Ω=Ω。

事实上，令 2()()αφαδ∆=-，由()φα的单调性和半连续性，可知()α∆也是单调和半连续的，并且

0lim ()0ααδ→∆=-<，

同时，由0z 的定义以及()φα的半连续性，对于给定的δ，可以找到这样的00()ααδ=，使得：

()0

00(())(())(,)U z A u αδαδφαδδρδ∆=-=>， 由()φα的单值性可导出()α∆的单值性，从而必定存在0()[0,]ααδα=∈满足方程（4-1）。

根据上述定理，若方程

,Az u = u F ∈， u U ∈ （4-2）

的准确右端项()u R A γ∈,而u γ的近似s u U ∈且满足条件：(,)U u u γδρδ<；(0,)u δρδ>，则正则化参数()ααδ=存在且唯一。

5. 误差极小化准则

Arcangeli 主张由下式来确定正则参数

0Ax y α

ηδ-= （5-1） 注意到对于每个固定的0δ>，函数

()y αηδρα=- （5-2）

对α是连续的，单调递增的，且有

0lim ()0,lim ()ααραρα→→∞

==∞ （5-3） 故存在唯一的一个()ααδ=满足方程（5-1）。

6. 无偏差预测风险估计