lda 的高维数据处理模拟

4
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 6. PCA所得投影阵为
W＝c*eigvector
5
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 7. 计算样本的均值
m1=mean(a,2)
m2=mean(b,2)
6
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 8. 计算每类样本的类内方差
8
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 10. 计算投影矩阵
能使sw/sb最小化的投影矩阵;
9
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 11. 计算投影矩阵
[eigvector, eigvalue] = eig(sw,sb); eigvalue = diag(eigvalue); [junk, index] = sort(eigvalue); eigvalue = eigvalue(index); eigvector =eigvector(:,index); U=eigvector(:,1:15);
11
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 5. 计算样本特征 y=a(:,1)'*W*U
12
10
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 12. 计算投影矩阵 或者，先计算inv(sw),G=inv(sw)*sb [eigvector, eigvalue] = eig(G); eigvalue = diag(eigvalue); [junk, index] = sort(-eigvalue); eigvalue = eigvalue(index); eigvector =eigvector(:,index); U=eigvector(:,1:15);
2.4.3 高维样本降维处理 3. 计算全体样本的均值及总体方差
m=mean(c,2); ht1=c-repmat(m1,1,200); st=ht1'*ht1;
3
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 4. 计算投影矩阵
[eigvector, eigvalue] = eig(st); eigvalue = diag(eigvalue); [junk, index] = sort(-eigvalue); eigvalue = eigvalue(index); eigvector =eigvector(:,index); U=eigvector(:,1:200);
hw1=a-repmat(m1,1,100) sw1=W'*hw1*hw1'*W hw2=b-repmat(m2,1,100) sw2=W'*hw1*hw1'*W sw=sw1+sw2;
7
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 9. 计算类间的方差
sb=W'*(m2-m1)*Βιβλιοθήκη Baidum2-m1)'*W;
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 ⒈ 生成样本，随机产生两类样本，样本个数为5
a=rand(10000,100)*100
b=rand(10000,100)*100
1
2· 4 线性判别分析－LDA
2.4.3 高维样本降维处理 2.全体样本矩阵 c=[a b]
2
2· 4 线性判别分析－LDA