关于Neyman_Pearson基本引理的几个注记
模式识别v试题库
《模式识别》试题库一、大体概念题模式识别的三大核心问题是：、、。
、模式散布为团状时，选用聚类算法较好。
欧式距离具有。
马式距离具有。
（1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲阻碍的特性描述模式相似的测度有：。
（1）距离测度（2）模糊测度（3）相似测度（4）匹配测度利用两类方式处置多类问题的技术途径有：（1）；（2）；（3）。
其中最经常使用的是第个技术途径。
判别函数的正负和数值大小在分类中的意义是：，。
感知器算法。
（1）只适用于线性可分的情形；（2）线性可分、不可分都适用。
积存位势函数法的判别界面一样为。
（1）线性界面；（2）非线性界面。
基于距离的类别可分性判据有：。
（1）1[]w BTr S S-（2）BWSS（3）BW BSS S+作为统计判别问题的模式分类，在（）情形下，可利用聂曼-皮尔逊裁决准那么。
确信性模式非线形分类的势函数法中，位势函数K(x,x k)与积存位势函数K(x)的关系为（）。
用作确信性模式非线形分类的势函数法，通常，两个n维向量x和x k的函数K(x,x k)假设同时知足以下三个条件，都可作为势函数。
①（）；②（ ）； ③ K(x,x k )是滑腻函数，且是x 和x k 之间距离的单调下降函数。
散度J ij 越大，说明ωi 类模式与ωj 类模式的散布（ ）。
当ωi 类模式与ωj 类模式的散布相同时，J ij =（ ）。
假设用Parzen 窗法估量模式的类概率密度函数，窗口尺寸h1过小可能产生的问题是（ ），h1过大可能产生的问题是（ ）。
信息熵能够作为一种可分性判据的缘故是： 。
作为统计判别问题的模式分类，在（ ）条件下，最小损失裁决规那么与最小错误裁决规那么是等价的。
随机变量l(x )=p( x |ω1)/p( x |ω2)，l( x )又称似然比，那么E {l( x )|ω2}=（ ）。
在最小误判概率准那么下，对数似然比Bayes 裁决规那么为（ ）。
皮尔森相关和斯皮尔曼品级相关
1背景说到相关系数，学过生物统计的人应该可不能太陌生。
随着基因芯片和高通量测序技术的进展，相关系数在生物数据统计中的应用愈来愈普遍。
例如，通过计算不同基因表达量的相关系数，来构建基因共表达网络。
大部份基因网络分析的方式，都与基因间表达量相关系数的计算相关（即便是复杂一点的算法，相关系数的计算也可能是算法的基础部份）。
因此明白得相关系数，对分析生物学数据超级重要。
2皮尔森相关2.1概念在所有相关系数的计算方式里面，最多见的确实是皮尔森相关。
皮尔森相关百度百科说明：皮尔森相关系数（Pearson correlation coefficient）也称皮尔森积差相关系数(Pearson product-moment correlation coefficient) ，是一种线性相关系数。
皮尔森相关系数是用来反映两个变量线性相关程度的统计量。
相关系数用r表示，其中n为样本量，别离为两个变量的观测值和均值。
r描述的是两个变量间线性相关强弱的程度。
r的绝对值越大说明相关性越强。
2.2数据测试公式是抽象的，咱们利用几组值就能够够更好明白得相关系数的意义。
从皮尔森相关系数概念来看，若是两个基因的表达量呈线性关系（数学上，线性相关指的是直线相关，指数、幂函数、正弦函数等曲线相关不属于线性相关），那么两个基因表达量的就有显著的皮尔森相关系性。
下面用几组模拟数值来测试一下：测试1：两个基因A、B，他们的表达量关系是B=2A，在8个样本中的表达量值如下：表1 基因A、B在8个样本中的表达量值图1 基因A、B在8个样本中的表达量示用意计算得出，他们的皮尔森相关系数r=1，P-vlaue≈0。
测试2：两个基因A、C，他们的关系是C=15-2A，在8个样本中的表达量值如下：表2 基因A、C在8个样本中的表达量值图2基因A、C在8个样本中的表达量示用意计算得出，他们的皮尔森相关系数r=-1，P-vlaue≈0。
从以上能够直观看出，若是两个基因的表达量呈线性关系，那么具有显著的皮尔森相关性。
N-P(Neyman—Pearson)判决
上式中，l 是判决阈值。
可以看出，N-P判决规则的形式和最小误判 概率准则及最小损失准则的形式相同，只是似然 比阈值不同。
9
这里
l
是由下列关系式确定：
rr
21
=
p(x
w 2
)d
x
= 0
W1
即适当地选取 l 以保证使 21 = 0 ，因此
l 的值决定着类域 W1
为求 l ，令
r l(x) =
、W
r
1
2
在W12上有
r
r
p(x w ) lp(x w ) 0
1
2
这时的 y 值为
r
rr
r
rr
y
=
(1
l0
)
W1 W11
(
p(
x
w) 1
lp(
x
w 2
)
)d
x
(
W12
p(x
w 1
)
lp(x
w 2
)
)
d
x
= y
r
r
r
( p(x w ) lp(x w ))dx
r
r
r
( p(x w ) lp(x w ))dx
固定0反求l
24
例：在军事目标识别中，假定有灌木丛和坦克两种
类型，它们的先验概率分别是0.7和0.3，损失函数如
下表所示，其中，类型w1和w2分别表示灌木和坦克， 判决1=w1，2=w2，3表示拒绝判决。现在做了四 次试验，获得四个样本的类概率密度如下：
问：P(x|w1):0.1, 0.15, 0.3, 0.6, P(x|w2):0.8, 0.7, 0.55, 0.3
线性回归模型检验方法拓展-三大检验
线性回归模型检验⽅法拓展-三⼤检验第四章线性回归模型检验⽅法拓展——三⼤检验作为统计推断的核⼼内容，除了估计未知参数以外，对参数的假设检验是实证分析中的⼀个重要⽅⾯。
对模型进⾏各种检验的⽬的是，改善模型的设定以确保基本假设和估计⽅法⽐较适合于数据，同时也是对有关理论有效性的验证。
⼀、假设检验的基本理论及准则假设检验的理论依据是“⼩概率事件原理”，它的⼀般步骤是（1）建⽴两个相对（互相排斥）的假设（零假设和备择假设）。
（2）在零假设条件下，寻求⽤于检验的统计量及其分布。
（3）得出拒绝或接受零假设的判别规则。
另⼀⽅⾯，对于任何的检验过程，都有可能犯错误，即所谓的第⼀类错误P（拒绝H|H0为真）=α和第⼆类错误P（接受H|H0不真）=β在下图，粉红⾊部分表⽰P（拒绝H0|H0为真）=α。
黄⾊部分表⽰P（接受H0|H0不真）=β。
⽽犯这两类错误的概率是⼀种此消彼长的情况，于是如何控制这两个概率，使它们尽可能的都⼩，就成了寻找优良的检验⽅法的关键。
下⾯简要介绍假设检验的有关基本理论。
参数显著性检验的思路是，已知总体的分布(,)F X θ，其中θ是未知参数。
总体真实分布完全由未知参数θ的取值所决定。
对θ提出某种假设001000:(:,)H H θθθθθθθθ=≠><或，从总体中抽取⼀个容量为n 的样本，确定⼀个统计量及其分布，决定⼀个拒绝域W ，使得0()P W θα=，或者对样本观测数据X ，0()P X W θα∈≤。
α是显著性⽔平，即犯第⼀类错误的概率。
既然犯两类错误的概率不能同时被控制，所以通常的做法是，限制犯第⼀类错误的概率，使犯第⼆类错误的概率尽可能的⼩，即在0()P X W θα∈≤ 0θ∈Θ的条件下，使得()P X W θ∈，0θ∈Θ-Θ达到最⼤，或1()P X W θ-∈，0θ∈Θ-Θ达到最⼩。
其中()P X W θ∈表⽰总体分布为(,)F X θ时，事件W ∈{X }的概率，0Θ为零假设集合（0Θ只含⼀个点时成为简单原假设，否则称为复杂原假设）。
neymanpearson基本引理
g()=1-()
在0 时,g()≤ 的检验称为水平为的检验,记为(,0, 1)检验.
常取0.1,0.05,0.01等值.
chap7
根据检验的水平确定临界值c
例1中 g() (n)k en
kc k!
g ( )
0
则 E0 [ ( X )] P0 { p( X ;1) 0 p( X ;0 )} G(0 )
G() P0 { p( X ;1) p( X ;0 )}
1
G()
P0
{
p( X ;1) } p( X ;0 )chap7
ii) 存在00,使G(0)< G(0-0)
(a.e.[]). 测度为零的集合外
chap7
(1)对给定的(0<<1)存在一个检验函数(x)及常数k≥0，使 14
E0 [ (x)]
(I)
(x)
1, 0,
p(x;1) kp(x;0 ) p(x;1) kp(x;0 )
(II)
证明: 要证,存在形如(II)的检验函数，使(I)成立.
P (T
c)
k c
(n ) k
k!
9
e n
是的严格增函数.
给定,在≤1(H0)时控制犯第一类错的概率 g()
g()是的严格增函数, 要在范围≤1中选取使g() 最大的,即为=1，由
g(1) nk en
kc k! 确定拒绝域中临界值c:
}
是
p( X ;1) p(X ;0)
的分布函数,
是非降，右连续.
信号检测与估计知识点总结(3)
第二章 检测理论1．二元检测：① 感兴趣的信号在观测样本中受噪声干扰，根据接收到的测量值样本判决信号的有无。
② 感兴趣的信号只有两种可能的取值，根据观测样本判决是哪一个。
2．二元检测的数学模型：感兴趣的信号s ，有两种可能状态：s0、s1。
在接收信号的观测样本y 中受到噪声n 的污染，根据测量值y 作出判决：是否存在信号s ，或者处于哪个状态。
即：y(t)=si(t)+n(t) i=0,1假设：H 0：对应s 0状态或无信号，H 1：对应s 1状态或有信号。
检测：根据y 及某些先验知识，判断哪个假设成立。
3. 基本概念与术语✧ 先验概率：不依赖于测量值或观测样本的条件下，某事件（假设）发生或 成立的概率。
p(H 0),p(H 1)。
✧ 后验概率：在已掌握观测样本或测量值y 的前提下，某事件（假设）发生或成立的概率。
p(H 0/y),p(H 1/y) 。
✧ 似然函数：在某假设H 0或H 1成立的条件下，观测样本y 出现的概率。
✧ 似然比：✧ 虚警概率 ：无判定为有；✧ 漏报概率 ：有判定为无；✧ （正确）检测概率 ：有判定为有。
✧ 平均风险： 4.1 最大后验概率准则（MAP ）在二元检测的情况下，有两种可能状态：s0、s1，根据测量值y 作出判决：是否存在信号s ，或者处于哪个状态。
即： y(t)=si(t)+n(t) i=0,1假设：H 0：对应s 0状态或无信号，H 1：对应s 1状态或有信号。
)|()|()(01H y p H y p y L =f P m P d P )(][)(][111110101010100000H P C P C P H P C P C P r ∙++∙+=如果 成立，判定为H 0成立；否则 成立，判定为H 1成立。
利用贝叶斯定理： 可以得到： 如果 成立，判定为H 0成立； 如果 成立，判定为H 1成立；定义似然比为： 得到判决准则： 如果 成立，判定为H 0成立； 如果 成立，判定为H 1成立；这就是最大后验准则。
模式识别试题库
《模式识别》试题库一、基本概念题1.1 模式识别的三大核心问题是：、、。
1.2、模式分布为团状时，选用聚类算法较好。
1.3 欧式距离具有。
马式距离具有。
（1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲影响的特性1.4 描述模式相似的测度有：。
（1）距离测度（2）模糊测度（3）相似测度（4）匹配测度1.5 利用两类方法处理多类问题的技术途径有：（1）；（2）；（3）。
其中最常用的是第个技术途径。
1.6 判别函数的正负和数值大小在分类中的意义是：，。
1.7 感知器算法。
（1）只适用于线性可分的情况；（2）线性可分、不可分都适用。
1.8 积累位势函数法的判别界面一般为。
（1）线性界面；（2）非线性界面。
1.9 基于距离的类别可分性判据有：。
（1）1[]w BTr S S-（2）BWSS（3）BW BSS S+1.10 作为统计判别问题的模式分类，在（）情况下，可使用聂曼-皮尔逊判决准则。
1.11 确定性模式非线形分类的势函数法中，位势函数K(x,x k)与积累位势函数K(x)的关系为（）。
1.12 用作确定性模式非线形分类的势函数法，通常，两个n维向量x和x k的函数K(x,x k)若同时满足下列三个条件，都可作为势函数。
①（）；②（ ）； ③ K(x,x k )是光滑函数，且是x 和x k 之间距离的单调下降函数。
1.13 散度J ij 越大，说明ωi 类模式与ωj 类模式的分布（ ）。
当ωi 类模式与ωj 类模式的分布相同时，J ij =（ ）。
1.14 若用Parzen 窗法估计模式的类概率密度函数，窗口尺寸h1过小可能产生的问题是（ ），h1过大可能产生的问题是（ ）。
1.15 信息熵可以作为一种可分性判据的原因是： 。
1.16作为统计判别问题的模式分类，在（ ）条件下，最小损失判决规则与最小错误判决规则是等价的。
1.17 随机变量l(x )=p( x |ω1)/p( x |ω2)，l( x )又称似然比，则E {l( x )|ω2}=（ ）。
5.4奈曼-皮尔逊引理
奈曼-皮尔逊引理及似然比检验从1928年开始的大约10年时间里，Neyman 和Pearson 合作发表了一系列有关假设检验的论文，从而建立了最大势检验理论（最优检验理论,MP 检验）。
本节介绍的奈曼-皮尔逊引理是这一理论的基本结果。
这一定理证明了当原假设和备择假设都是简单假设时，MPT 检验一定存在，并可求出检验函数的具体形式。
5.4.1 似然比，似然比检验与一致最优检验（一致最大势检验）设（连续型或离散型）总体X 的概率函数是);(θx f ，参数θ的参数空间},{10θθ=Θ， n X X X ,...,,21是总体X 的一个样本，考虑假设检验问题1100::θθθθ=>--<=H H 。
（8.1）定义1 （1）称n X X X ,...,,21的联合概率函数的比值∏∏=Λ==ni i ni i n x f x f x x 1011101);();(),;,,(θθθθ为似然比函数（或概率比函数），并规定当0);(0);(1110>∏=∏==ni i ni i x f x f θθ且时似然比为∞+，当0);(0);(1110=∏=∏==ni i ni i x f x f θθ且时似然比为0。
此外，称∏∏=Λ==ni i ni i n X f X f X X 1011101);();(),;,,(θθθθ为似然比统计量。
（2）若对假设检验问题（8.1）的检验函数有如下形式⎩⎨⎧<Λ>Λ=010101011),;,,(0),;,,(,1),,(λθθλθθφn n n x x x x x x ， 其中0λ是某个非负常数，则相应的检验法称为似然比检验（或概率比检验）。
注：请联系最大似然原理，理解似然比检验的直观合理性。
例 设总体~X ),1(p B ，321,,X X X 是总体X 的一个样本，要检验假设：4.0:2.0:10=>--<=p H p H 。
二语习得引论翻译笔记-第四章
语言与大脑布罗卡区：大脑左前叶与说的能力有关。
左脑受损比右脑更易失语。
维尼克区：左前叶附近靠近皮质的部分与听觉输入有关，也是语言处加工中心。
大脑侧裂偏侧优势：大脑不同半球的分工；在孩童时期就出现了。
临界期假说：Lenneberg提出儿童的一定年龄内大脑受损，此时大脑的可塑性会使儿童大脑其它部分接管语言功能，从而使其正常习得一语.超过了这个时期就做不到了。
左右半球的特化分工：图4.1左——语言体系、词法、句法、功能词和变形、声调系统、更多的词汇知识；右——非语言的（婴儿哭）、视觉空间信息（非语言的)、语调、非字面意义和模糊性、一些词汇知识。
大脑的特化是一样的，不管是说出来的语言还是聋哑人的手语,都是左半球支配。
关于大脑的研究收集数据的方法：1.对脑损伤者语言受损情况的搜集;2.不同语言对左右脑的刺激，大脑左半球比右半球加工语言更加快速准确；3.电击法定位大脑皮层的功能；4.PET扫描法等直接观察法；未解的四个问题:1.多语者的多种语言间的相互独立性?这个问题依然未解，因为个体间有差异。
多语系统既不是完全分离的，也不是完全融合的. Ervin和Osgood提出的三种可能：［coordinate, compound, subordinate]同等关系：平行的语言系统复合关系：整合的融合的从属关系:一种语言系统要通过另一种来介入，学习二语通过一语作为媒介。
2.多语者两种语言存储在大脑的相同部位吗？说话的个体间存在很大的差异性,两种语言存储在不同在不同的部位,但是都在左半部分。
右脑对二语的影响比左脑大回答：L2需要的是大脑的记忆功能;L1需要的是大脑的直接文字处理功能3.大脑关于L2学习的构造跟学习年龄、学习方法、熟练程度有没有关系？年龄：对大脑构造有影响；年龄越大,涉及到右脑更多熟练程度:对大脑构造的影响还不知道,二语大脑的构造对于水平较低的人有更高的融合程度学习方法：见问题2的回答4.脑损伤后两种语言受什么影响？哪种先康复？后学习的语言先丢掉，最早的语言保留到最后.康复的话,一语先恢复。
非参数统计(R软件)参考答案
非参数统计(R软件)参考答案内容：A.3, A.10, A.12A.3 上机实践：将MASS数据包用命令library(MASS)加载到R中，调用自带“老忠实”喷泉数据集geyer，它有两个变量：等待时间waiting和喷涌时间duration，其中…(1) 将等待时间70min以下的数据挑选出来;(2) 将等待时间70min以下,且等待时间不等于57min的数据挑选出来;(3) 将等待时间70min以下喷泉的喷涌时间挑选出来;(4) 将喷涌时间大于70min喷泉的等待时间挑选出来。
解:读取数据的R命令：library(MASS);#加载MASS包data(geyser);#加载数据集geyserattach(geyser);#将数据集geyser的变量置为内存变量(1) 依题意编定R程序如下：sub1geyser=geyser[which(waiting<70),1];#提取满足条件（waiting<70）的数据,which()，读取下标sub1geyser[1:5];#显示子数据集sub1geyser的前5行[1] 57 60 56 50 54(2) 依题意编定R程序如下：Sub2geyser=geyser[which((waiting<70)&(waiting!=57)), 1];#提取满足条件（waiting<70& (waiting!=57)的数据. Sub2geyser[1:5];#显示子数据集sub1geyser的前5行[1] 60 56 50 54 60 ……原数据集的第1列为waiting喷涌时间，所以用[which(waiting<70),2](3)Sub3geyser=geyser[which(waiting<70),2];#提取满足条件（waiting<70）的数据,which()，读取下标Sub3geyser[1:5];#显示子数据集sub1geyser的前5行[1] 4.000000 4.383333 4.833333 5.450000 4.866667……原数据集的第2列为喷涌时间，所以用[which(waiting<70),2](4)Sub4geyser=geyser[which(waiting>70),1];#提取满足条件（waiting<70）的数据,which()，读取下标Sub4geyser[1:5];#显示子数据集sub1geyser的前5行[1] 80 71 80 75 77…….A.10如光盘文件student.txt中的数据，一个班有30名学生，每名学生有5门课程的成绩，编写函数实现下述要求：(1) 以data.frame的格式保存上述数据；(2) 计算每个学生各科平均分，并将该数据加入(1)数据集的最后一列；(3) 找出各科平均分的最高分所对应的学生和他所修课程的成绩；(4) 找出至少两门课程不及格的学生，输出他们的全部成绩和平均成绩；(5) 比较具有(4)特点学生的各科平均分与其余学生平均分之间是否存在差异。
西方语言学流派笔记(刘润清)
高思畅西方语言学流派笔记（刘润清）一、什么是语言?语言是用于人类交际的一种任意的、口语的、符号性系统。
任意的：词汇的声音序列与它们所代表的的客观实体或者抽象概念之间没有内在的必然的联系。
是约定俗成的。
口语的：语言的根本渠道是声音，文字是辅助手段。
文字是口头语言的记录。
符号：语音是一种象征，本身没有实际价值。
语言是人类特有的。
二、语言学的方法论归纳法induction：由个别到一般的论证方法。
通过许多个别的事例，或分论点，归纳出他们共有的特性，得出一个一般性的结论。
提供假说，证明假说和理论，确定家说的支持度，对未来情况进行预测。
归纳法容易犯经验主义的错误，连着八天看到老张跑步，不能得出“老张每天跑步”结论。
“归纳法是自然科学的光荣，却是哲学的耻辱。
”演绎法deduction：是从普遍性结论或一般性事理推导出个别性结论的论证方法，普遍性结论是依据，个别性结论是论点。
运用演绎推理时，所根据的一般原理，即大前提必须正确。
实证法verification：研究要有根有据，是应用极广的研究范式。
知识必须建立在观察和实验的经验事实上。
有定性也定量之分。
证伪法falsification：科学的本质在于他的可错性。
新理论得到确认，但还不能说已被证实，而只是暂时没有被证伪。
三、心理语言学语言成了每个人的社会标志。
心理语言学试图从知觉、记忆、智力、动机等角度来解释当代语言理论关于语言习得和语言能力的某些假设。
两大派：联想派：婴儿的大脑是一张白纸，语言是通过许多刺激-反应-强化过程学会的。
内容派：婴儿的大脑由于遗传的原因，生来具有学习语言的机智，一旦接触语言的原始材料，很快就掌握母语。
第四章索绪尔现代语言学的开端（20 世纪初）一、索绪尔是这个世纪最伟大的语言学家，是结构主义的创始人。
（20 世纪5、60 年代）二、背景法国社会学家迪尔凯母，奥地利心理学家弗洛伊德，瑞士语言学家索绪尔在不同领域分别提出，反对把看不见、摸不着、非物质的社会、心理、语言等虚无化，而是把他们看成实实在在存在着的东西，而且往往是起决定性作用的东西。
第3章假设检验
1- g( )，当 1.
3.1.4 检验的水平
Neyman 和 Pearson的假设检验理论的基本 思想:在控制犯第一类错误的概率的前提下， 寻找使犯第二类错误的概率尽可能小的检验。 因为人们常常把弃真错误看得比采伪错误更重 一些。
寻找一个好的检验法，就是对选定的一个较
小的数α ( 0< α <1),在满足
(x) *(x)
这即证明了 *( x) 满足(3.2.3) .
满足(3.2.3)的检验函数 (x) 通常称为似
然比检验函数（或称为概率比检验函数）。在
集合 { x : f ( x;0) 0}或 { x : f ( x;1) 0} 上，似然
比函数
(x)
f ( x;1) f ( x;0 )
比较大时，f (x; 1 )较大，拒绝H0，认为 = 1
则
E0[( X )] P0 { f ( X;1) 0 f ( X;0 )}
G(0 ) G(0 0) G(0 )
P0 {
f
( X;1)
0
fHale Waihona Puke ( X;0 )}G(0 ) [ G(0 )]
在这两种情况下，λ0就可以取作式(3.2.3)中的非
负常数k， (x) 满足(3.2.2)，这就说明 (x) 是水
E1[ ( X )] E1[ ( X )],
则称检验 (x)是水平为α的最优检验，记为
MPT( ost owerful est)
定理 3.2.1（Neyman-Pearson引理）
设参数空间 ={ 0, 1} ，样本X的分布具 有分布密度（或离散的概率）f (x; ), 则对简单
假设检验问题(3.2.1)，有
量时，MPT检验函数可取为随机化的形式
Neyman-Pearson基本引理
(I)
(II)
p( x;1 ) kp( x; 0 ) p( x;1 ) kp( x; 0 )
(2)由(I)和(II)确定的检验函数(x)是水平为的MPT.反之，如果 (x)是水平为的MPT，则一定存在常数k≥0，使(x)满足(II)式 (a.e.[]). 测度为零的集合外
chap7
i 1
W {x | xi c}.
i 1
n
H0 : 1 ,
H1 : 1.
( ) P ( X W ),
50
犯第一类错误的概率
(n ) k n ( ) P ( X W ) P (T c) e ， 1. k! k c
1
基本概念 Neyman-Pearson基本引理 一致最优势检验 统计推断的三个方面: 抽样分布，参数估计与假设检验
根据样本的信息检验关于总体的某个假设是否成立的问题 称为假设检验问题. 比如, 总体X的均值是否等于0; 总体X是否服从正态分布等.
chap7
§7.1
基本概念
2
1.关于分布p的原假设与备择假设记为 H0: pP0, H1: pP1 P0与P1 是分布族P的互不相交的非空子集.
T X i ~ P(n )
i 1 n
原假设H0: 1成立时,犯第一类错误的概率为
(10 ) k 10 (10 )15 10 ( ) E [ (X )]=1g e +r g e +0 k! 15! k =16
(10)k 10 (10)15 10 e +r g e =0.048740+r g0.034718, 1 15! k =16 k !
严加安测度论的答案
cooperation and understanding between nations. we will begin to responsibly leave iraq to its people, and forge a hard-earned peace in afghanistan. with old friends and former foes, we will work tirelessly to lessen the nuclear threat, and roll back the specter of a warming planet. we will not apologise for our way of life, nor will we waver in its defence, and for those who seek to advance their aims by inducing terror and slaughtering innocents, we say to you now that our spirit is stronger and cannot be broken; you cannot outlast us, and we will defeat you.
【doc】奈曼-皮尔逊准则下传感器量化位数间的关系
奈曼-皮尔逊准则下传感器量化位数间的关系第31卷第1期2009年2月探测与控制JournalofDetection&ControlV ol_31NO.1Feb.2009奈曼一皮尔逊准则下传感器量化位数间的关系夏双志,刘炳奇,周万幸(南京电子技术研究所,江苏南京210013)摘要:在分布式检测系统中,对于融合中心采用软判决融合的情况,大多数研究都假定各传感器的量化位数相同,而没有考虑各传感器量化位数之间的关系.在Neyman-Pearson准则下,给出了最优检测时各传感器量化位数问的关系,并指出了在一定条件下传感器量化位数存在着上界.在不损失系统检测性能的前提下,这些关系可以帮助确定各传感器的最大量化位数.关键词:分布式检测;奈曼一皮尔逊准则;软判决;量化位数中图分类号:TP274文献标志码:A文章编号:111118—1194(2009)0141015-04 RelationshipsamongQuantizationBitsofSensorsunderN—PCriterion XlAShuang—zhi,LIUBing—qi,ZHOUWan-xing (NanjingResearchInstituteofElectronicsTechnology,Nanjing210013,China) Abstract:Mostresearchesassumethatthequantizationbitsofallsensorsareidenticalfordistri buteddetectionsystemadoptingsoftdecisionfusion,andignoretherelationshipsamongthem.Accordingto Neyman-Pearsoncriterion,thispapershowstherelationshipamongquantizationbitsofsensors,andindicatest hatthereisanup—perboundofquantizationbitsundersomeconditions.Themaximumquantizationbitsofsens orscanbedeter—minedbytherelationshipswithoutlossofthedetectionperformance.Keywords:distributeddetection;Neyman-Pearsoncriterion;softdecision;quantizationbit s0引言分布式检测系统将多个传感器的局部判决信息进行融合处理以得到最后的判决信息,从而形成关于同一环境或事件的更完全,更准确的判决.在分布式检测系统中,按照各传感器判决信息量化位数的不同可分为硬判决融合系统和软判决融合系统.对于硬判决融合系统,各传感器仅向融合中心传送一位二进制判决信息|1].各传感器采用软判决(即向融合中心传送多位标定目标存在与否的判决信息)能够较大地提高整个系统的检测性能,使其性能接近于集中式检测系统.在实际应用中,各传感器可以根据系统的通讯能力向融合中心传送多位二进制判决信息.对应地将各传感器向融合中心传送软判决的融合系统称为软判决融合系统.对于软判决融合系统,不管在Bayes准则下,还是在Neyman-Pearson准则下,先前的大多数文献都假定各传感器的量化位数相同,而没有考虑各传感器量化位数之间的关系.文献[9]首先给出了在Bayes准则下各传感器量化位数间的一些关系,并指出当融合系统中的一些传感器量化位数确定时,为了使整个融合系统的平均错误概率最小,对于某个剩下的传感器,其量化位数存在着一个上界,当量化位数超过这个上界时,融合系统的性能得不到相应的提高.在很多实际情况下,因为很难确定各个假设的先验概率及各个判决的代价函数,限制了Bayes准则的应用.在这种情况下常常采用Ney—man-Pearson准则,如常见的雷达和声纳系统.本文在上述工作的基础上将其结论推广至Neyman-Pearson准则下,并说明了在Neyman—Pearson准则下最优检测时各传感器量化位数之间的一些关系,当融合系统中的一些传感器量化位数确定时,对于*收稿日期:2008—09—12作者简介:夏双志(1984一),男,湖北黄冈人,硕士研究生,研究方向:雷达信号检测,分布式信号检测.E-mail:hbx****************.16探测与控制剩下的某个局部传感器,为了在要求的系统虚警概率下使得系统检测概率最大,其量化位数同样存在着一个上界,当量化位数超过这个上界时,融合系统的检测性能得不到相应的提高.通过这些量化位数之间的关系,可以指导我们确定各传感器的量化位数.1软判决融合系统分布式检测系统由融合中心和多部传感器组成,各传感器首先对各自的观测做出判决,之后将判决结果传输到融合中心,融合中心依据各传感器的判决结果形成最终的判决,一个典型的分布式检测系统结构框图如图1所示.融合由心HI)/P(u!H.)为似然比函数,t为融合中心判决阈值,为随机化判决因子.这里,随机化判决因子是为了满足特定的系统虚警概率.文献[9]说明了,当各传感器观测不含点质概率成分时,融合中心采用公式(1)所示的随机化判决是次优的.对于给定各传感器的量化规则,融合中心为了达到要求的系统虚警概率必须采取随机化判决.这时可以适当地修改各传感器的量化规则,从而使融合中心不工作在随机点上,使融合中心的判决是确定的.同时,文献E9]也指出,在大多数情况下,各传感器的观测都不包含点质概率成分,只有少数特殊分布符合点质概率分布.由此在这里我们仅采用确定性判决规则[9],即:FcⅡ_--pc".一HtH一{:=:;:c2由公式(2)可知,融合中心的系统虚警概率和检测概率分别为:一P(uo—H1Iu)P(ulHo)一P(1IIHo)m)≥P』一:P("o—HlIu)P(uIH1)===P(ulH1)(3)A(")≥￡图分布式并行检测系统结构图传感器闻量化位数的关系MIMA. ~2Fig.1Adistributedparalledetectionsystem…～……一………'概率密度函数分别为f(rilHo)和f(rlHt),其中H0为假定目标不存在的假设,H为假定目标存在意给定的系统虚警概率≤a,使系统检测概率达到最大的融合中心最优融合规则为[5]:P(uo—H1ll1)一,A(11)=t1At(1)f,(")>【0,A(1I)<t2kt)个值,k即为第i个传感器的量化位数,可以对于分布式检测系统,通过分析各传感器判决与融合中心融合规则之间的映射关系,可以得到Neyman-Pearson准则下传感器量化位数间的一个一般关系.其具体描述为:当第N个传感器量化位数k一2时,融合系统在Neyman-Pearson准则下能够获得系统最优解,且当是>2E时,融合系统的检测性能不会提N (1)高.其中E=k,表示前N一1个传感器的量ix1化位数之和.在这个一般关系中,kN的上界随E的增加以指数关系增加.对于分布式检测,这个一般关系是一个较为普遍的关系,不仅适用于传感器观测相互独立的情况,也适用于传感器观测存在相关性的情况.从上面的一般关系中可以看出,kN的上界是很夏双志等:奈曼一皮尔逊准则下传感器量化位数间的关系17 松弛的.当给定各传感器观测相互独立,且其似然比为单调函数的条件时,结合现有的一些研究成果,可以将是的上界变得更紧一些.这个限定条件下的关系可以描述为:各传感器观测相互独立,且其似然比为单调函数,当第?\,个传感器量化位数kN—E-4-1时,融合系统在Neyman-Pearson准则下能够获得系统最优解,且当k>E+1时,融合系统的检测性能不会得到提高.在这个限定条件下,k的上界变为E-+1,以近似于E的关系变化.通过这两个关系,我们可以在不损失融合系统检测性能的情况下确定各传感器的最大量化位数.在N==:2的情况下,我们可以得到更加简单实用的关系.利用没有限定条件的一般关系,我们可以得到:当k+足为常数时,融合系统的全局最优解能够在下面的条件下获得,lo≤kz≤2k,或l0≤志1≤2k2.利用限定条件下的关系,我们可以得到:当.+后.为常数时,且各传感器观测相互独立,似然比函数单调时,融合系统的全局最优解在以下条件下获得,是】一1≤k2≤走】+1,或足2—1≤走l≤是2+1.当两个传感器观测相互独立,且其似然比函数单调时,这个关系说明了量化位数愚,kz应该均匀分配.3证明首先,对没有限定条件的一般关系进行证明.为了证明这个关系,只需要证明当kN>2￡NⅢ, 时,融合系统的检测性能与k一2时的检测性能相同即可.融合中心的融合规则可以表示为F(11) 一P(Uo—HllH)一F("1,…,"1;UN)一F(U1;U),其中u有2个取值,UN有2个取值.当固定U时,F(11)则变为U的函数,而从u映射到F(H)只有2(~EN--1)个映射关系,表1示出了当N==:3,是1一k2=1(即E1—2)时u1到F(11)的映射关系表.对于U的每一个取值都确定一个uN_t 至F(H)的函数,当w>2时,UN取值的个数将超过从U映射到F(11)映射关系的个数[2(~EN-)],则一定有不同的UN取值对应TM--个映射关系.不失一般性,假设当U—i,j(i≠)对应于同一个映射关系时,下面证明UN合并i,后(合并后用符号b表示),系统的虚警概率和检测概率不发生改变.由公式(3)可知:Pfa:==∑P(u.=H}u)P(u}H.)一ll∑P(u.=Hllu)P(u{H.)+UN--1?uN~-i?J∑P(uo—H1u)P(ulH())4-UⅣ一1-"～一i∑P(u.:H1u)P(uIHo)UN_I,uNJ为了简洁,定义C一∑P(u.一H.lUN--I?uN~-i?Ju)P(uJHo),又因为UN=,j(i≠)对应同一个映射关系,则c+∑P(uo—H1Il,N—)?UN--I?uNiP(UN-1,z'N=ilH.)+∑P(u.=HluN_,U一l,"～一JUN=j)P(Ux--.,N—J1H.)一c+∑[P(.一U^L_]H1lUN_l,"N—i)P(Ur.-l,UN=iIHo)+P(一H1lul,UN—)P(ul,UN一lHo)]===C+∑EP(uo=H.Iu,N—)?[P(u,M—UN-1i【Ho)+P(U1,UN:lHo)]很明显,判决"N—,j(i≠)的区域互不相交,所以有P(Ul,N=bIHo)===P(【,l,"N=ilHo)4-P(ul,UN—jHo)又合并后对应的融合规则不发生变化,即有一c+∑P(u.一Hlu,"N一6)?UN--1P(UⅣ啊l,UN—bJI-lo)由此可知当"===i,j(i≠)对应于同一个映射关系时,U.v合并i,J后(即相应地减少了量化级数),系统的虚警概率不发生改变.用同样的过程可以证明,.v合并i,后系统的检测概率也不发生改变.由此我们可以合并那些对应同一个映射关系的aN值,使得系统的性能不超过志一2艮时的性能.由此得证.l8探测与控制表1一种关系下的融合规则函数表≤kz≤k?+1或kz一1≤k-≤kz+1. Tab.1ThefusionrulesundercertainconditionO_厂21}5111O_厂l61111其次,对限定条件下的关系进行证明.证明:融合中心的融合规则可以表示为F(11)=== F(Ul;UN)=F(U1;(rN)),其中(rN)为第N个传感器的判决规则.固定u.时,F(UNI.; (rN))是关于rN的一个二值函数.文献[7]指出,在Neyman-Pearson准则下,当各传感器观测相互独立时,各传感器的量化规则为似然比量化规则.当各传感器似然比函数单调时,对于固定的uN-值,F(uN-;(rw))能够完全由一个阈值进行决定.对于u的所有值,我们总可以用不多于1*2一个阈值完全确定F(UN-l;()).又l*2个阈值可以将检测统计量rN划分为1*2+1个间隔,此时】<kⅣ≤El+1,即当kN≤El+1时,rN不同间隔中的UⅣ值(即不同的UN取值)可能完全对应于不同的映射关系.当kN>E.+1时,则由一般关系的证明过程可以得出,系统检测性能将不超过kN—E.+1时的性能.所以上界kN一l+1.由此得证.最后,对N一2情况下的关系进行证明.由一般关系可知,系统为了达到最优解,应满足k2≤2t,1≤2,由此可以得知lo醛≤2≤2或lo≤是1≤2kz.由限定条件下的关系可知,系统为了达到最优解,应满足k≤kt+1,是≤kz+1,由此可得忌一14数值实例在Neyman-Pearson准则下,按照系统要求的虚警概率,在各传感器判决规则给定的条件下,融合中心的系统检测概率可以由式(1)和式(3)求得.其具体步骤如下:1)对向量ll的每一个取值,计算相应的似然比函数值A(11)一P(uIH1)/P(ulH0),对A(11)的所有取值按照由小到大的顺序重新排序,得到一序列N{A(H)),n—l,…,2M,其中M一:良,再由{A)中一1每一项的分母构成一序列{);2)令一2M;3)计2M算一:P;4)若@2<PC.,则令一'z一1,转至第3)步,否则执行下一步;5)计算阈值t及随机化因子,其中t===A,=(P'一@升1)/P,由此根据式(3)可得系统检测概率.考虑分布式检测系统由2部传感器构成,各传感器观测相互独立.对于单部传感器,其观测服从高斯分布:1,(IHo)一exp(--li)√Z丁c厂(rlH)一exp(一)√Z7c其中i一1,2,假定m1—2,2—3.表2给出了在一些系统虚警概率下,集中式融合系统的系统检测概率和不同(k,kz)条件下分布式检测系统的最优系统检测概率,其中Cen表示集中式融合系统.表2不同虚警概率下的分布式检测系统的性能Tab.2Theglobaldetectionprobilitiesofdistributedsystemsfor somegivengloblefalsealarmprobabilities5×10—36×1037×10—38X10一.9×10～.l×1O. Cen(1,1)(1.2)(1.3)(2,2)(2,3)(2,4)0.89960.81790.86090.8609O.88490.88490.8849(下转第22页)～～一～一OO1O54OO2222822777踮踮357822247l18888窨%粕C;C;c;c;n6999777449977778225558788888m9O67222加87888884l447768288999码22探测与控制弹药以及战术弹药在弹道飞行中的角运动历史等领域具有广阔的工程应用前景.而经过处理的测量数据则能够进行弹丸空气动力学特征分析,弹药一载荷关联性分析,弹药一武器系统关联性分析,并作为制导弹药的制导基础数据,还可在GPS系统被干扰时用作辅助导航.同时,传感器所获得的数据还可为加速度仪和角速度传感器的修正提供相对转向和转速参考.当然,在工程应用前还需要在算法优化及实现,传感器选择,测量装置的优化配置,盲区分析和消除以及工程试验等方面做大量工作.渗考文献:[1]罗杰.模块化智能磁航向系统的研究[D].南京:南京航空航天大学,2003.LUOJie.Researchonthemodularizedintelligentmagnet—icheadingsystem[D].Nanjing:NanjingUniversityof AeronauticsandAstronautics,2003.[2]陈清文.基于磁阻传感器的载体姿态测量测量系统的设计[D].南京:南京理工大学,2004.CHENQin-wen.Designforvehiclealtitudemeasurement systembasedonmagneticsensor[D].Nanjing:Nanjing EngineeringUniversity,2004.[3]JamesLenz,Alans.Edelstein.Magneticsensorsandtheir applications[J].IEEESensorsJournal,2006,6(2):631—649.[41ThomasEHarkins,DavidJHepner.MAGSONDE:A deviceformakingangularmeasurementsonspinningpro—jectileswithmagneticsensors[R].US:ARL-TR-2310, 2000.[5]ThomasEHarkins,DavidJHepner,BradfordDavis. Methodandsystemfordeterminingmagneticattitude:US,6493651132[P].2002—12—10.[6]AndrewAThompson.APoint-wiseSolutionforthe MagneticFieldV ector[:ARL-TR-2633,2002.(上接第l8页)由表2可知,在Neyman-Pearson准则下,各传感器的量化位数存在着结论l和结论2的关系.当一1时,在该例的假设下,志一2是系统性能的一个上界,是z>2时系统的检测性能没有得到改善.当t一2时,在该例的假设下,k=3是系统性能的一个上界,kz>3时系统的检测性能没有得到改善.5结论本文给出了在Neyman-Pearson准则下,分布式检测系统各传感器量化位数之间的一些关系.其中一般关系适用于各种情况,但是k的上界随E~_成指数关系增长.当加入各传感器观测相互独立,且其似然比为单调函数的限定条件后,kN的上界近似于E,这是一个较紧的上界.实际中运用这些结论,在不损失系统检测性能的前提下,可以指导我们确定各传感器的最大量化位数.参考文献:[1]ZHANGQian,PramodKV arshney,RichardDWese1. Optimalbi—levelquantizationofi.i.d.sensorobservations forbinaryhypothesistesting[J]rm. Theory,2002,48(7):2105—2111.[2]VarshneyPK.Distributeddetectionanddatafusion[M]. NewY ork:Springer-V erlag,1997.[3]XIANGMing.Optimizationofdistributeddetectionsys- temsunderneyman-pearsoncriterion[C]//Th~9thIn—:lEEE, 2006:774-780..[4]ThomopoulosSCA,ViswanathanR,BougouliasnOp- timaldistributeddecisionfusion[J].IEEETransonAES,1989,(25):761—765.[5]相明,韩崇昭,赵俊渭,等.基于Neyman-Pearson准则的最优分布式量化检测融合算法[J].探测与控制,2002,24(4):1-6.XIANGMing,HANChong-zhao,ZHAOJun-wei,eta1. Optimumdetectionfusionalgrithmfordistributedand quantizedneyman-pearsondetectionsystem[J].Journal ofDetectionandControI,2002,24(4):1-6.[6]IEECC,CHA0JJ.Optimumlocaldecisionspacepatti—tioningfordistributeddetection[J].IEEETransonAES,1989,25(4):536—544.[7]DouglasWarren.PeterlletLOptimumquantizationforde- tectorfusion:someproofs,examples,andpatholngy~J].Jour—haloftheFranklinInstitute,1999,33(6);323-359.[83HuJun.RiskSBlun~Ontheoptimalityoffinitelevel quantizationsfordistributedsignaldetection[J].IEEE TransInforillTheory,2001,(47):1665—1671.[9]PeterⅥrillett.DouglasWarrerLThesuboptirnalityofrandom- izedtestsindistributedandquantizeddetectionsystems[J].舰TransInforraTheory,1992,38(2):335—361.。
Neyman-Pearson基本引理
犯第二类错误的概率
( ) P ( X W ) 1 P ( X W ), 1
() 1－ () 不同
( ) P ( X W ) 1 P ( X W )
(n ) k n P (T c) e , k! k 0
c 1
给定(0,1)，有且只有下列两种情况： i) 存在00,使G(0)=
0
G ( )
ii) 存在00,使G(0)< G(0-0)
0 与 1 是 的互不相交的非空子集.
给定H0和H1就等于给定检验问题，记为检验问题(H0,H1).
2. 定义：在检验问题(H0,H1)中，检验法则（简称检验法或检验） 就是设法把样本空间X划分为互不相交的两个可测集：
X W W
并规定： 当观测值xW时,就拒绝原假设H0，认为备择假设H1成立. 当观测值xW时(即 x W ),就不拒绝H0，认为原假设H1成立, 称W为检验的拒绝域. 选定了检验法确定了拒绝域 chap7
在0 时,g()≤ 的检验称为水平为的检验,记为(,0, 1)检验.
常取0.1,0.05,0.01等值.
chap7
根据检验的水平确定临界值c
(n ) k n e 是的严格增函数. 例 1 中 g ( ) k! k c 给定,在≤1(H0)时控制犯第一类错的概率 g ( )
1.
由以上两式可知 n 固定时不可能使得犯两类错的概率都减少.
(n ) k n P(T k ) e , k 0,1, chap7 k!
6
4.势函数的定义： 称样本观察值落在拒绝域的概率为检验的势函数(功效函数)， 记为
g ( ) P ( X W ),
关于Neyman-Pearson基本引理的几个注记
关于Neyman-Pearson基本引理的几个注记
王金亮;余海燕;胡松波;刘文君
【期刊名称】《数学杂志》
【年(卷),期】2011(031)002
【摘要】本文探讨了Neyman-Pearson基本引理.通过论证总体参数θ只有θ0或θ1两种可能时最优检验功效函数的唯一性,得到了两种假设T1:θ=θ0→θ=θ1和T2:θ=θ1→θ=θ0各自对应最优检验的两类错误概率可以互换的结论.
【总页数】5页(P357-361)
【作者】王金亮;余海燕;胡松波;刘文君
【作者单位】九江学院理学院,江西,九江,332005;九江学院理学院,江西,九
江,332005;九江学院理学院,江西,九江,332005;九江学院理学院,江西,九江,332005【正文语种】中文
【中图分类】O212.1
【相关文献】
1.关于Nakayama引理的2点注记 [J], 陈引兰
2.关于Riesz引理的注记 [J], 相中启;王少英
3.关于容度下Borel-Cantelli引理的一点注记 [J], 张德飞;段星德
4.关于全纯映照模的Schwarz引理一点注记 [J], 徐庆华; 刘太顺
5.关于高等工程教育几个基本概念研究的注记 [J], 余寿文
因版权原因，仅展示原文概要，查看原文内容请购买。