熵函数
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
熵函数
方法一：
A=-(0.3*log2(0.3)+0.1*log2(0.1)+0.21*log2(0.21)+0.09*log2(0.09)
+0.05*log2(0.05)+0.25*log2(0.25));
disp(A)
2.3549
方法二：
A=[0.3 0.1 0.21 0.09 0.05 0.25];
B=-sum(A.*log2(A));
disp(B)
2.3549
平均互信息
方法一：
A=[0.3 0.1 0.21 0.09 0.05 0.25];
B=[0.1 0.23 0.4 0.27;0.2 0.2 0.3 0.3;0.06 0.65 0.2 0.09;0.1 0.4 0.2 0.3;0.7 0.1 0.1 0.1;0.3 0.1 0.3 0.3];
C=A*B
D=-sum(C.*log2(C))%H(Y)
E=-(B.*log2(B))
F=sum(A*E) %（H（Y|X））
G=D-F %(H(Y)- H（Y|X）)
C =
0.1816 0.2915 0.2900 0.2369
D =
1.9755
0.3322 0.4877 0.5288 0.5100
0.4644 0.4644 0.5211 0.5211
0.2435 0.4040 0.4644 0.3127
0.3322 0.5288 0.4644 0.5211
0.3602 0.3322 0.3322 0.3322
0.5211 0.3322 0.5211 0.5211
F =
1.7617
G =
0.2137
方法二：
A=[0.3 0.1 0.21 0.09 0.05 0.25];
B=[0.1 0.23 0.4 0.27;0.2 0.2 0.3 0.3;0.06 0.65 0.2 0.09;0.1 0.4 0.2 0.3;0.7 0.1 0.1 0.1;0.3 0.1 0.3 0.3];
C=-sum((A*B).*log2(A*B))-sum(A*-(B.*log2(B)));
disp(C)
0.2137
平均失真度Dmax和Dmin
Dmin(先取小再求和)
A=[0.3 0.1 0.21 0.09 0.05 0.25]
B=[0.1 0.23 0.4 0.27;0.2 0.2 0.3 0.3;0.06 0.65 0.2 0.09;0.1 0.4 0.2 0.3;0.7 0.1 0.1 0.1;0.3 0.1 0.3 0.3]'%转置
C=min(B)
D=A.*C
Dmin=sum(D)
A =
0.3000 0.1000 0.2100 0.0900 0.0500 0.2500
0.1000 0.2000 0.0600 0.1000 0.7000 0.3000
0.2300 0.2000 0.6500 0.4000 0.1000 0.1000
0.4000 0.3000 0.2000 0.2000 0.1000 0.3000
0.2700 0.3000 0.0900 0.3000 0.1000 0.3000
C =
0.1000 0.2000 0.0600 0.1000 0.1000 0.1000
D =
0.0300 0.0200 0.0126 0.0090 0.0050 0.0250
Dmin =
0.1016
Dmax：（先求和再取小）
A=[0.3 0.1 0.21 0.09 0.05 0.25]
B=[0.1 0.23 0.4 0.27;0.2 0.2 0.3 0.3;0.06 0.65 0.2 0.09;0.1 0.4 0.2 0.3;0.7 0.1 0.1 0.1;0.3 0.1 0.3 0.3]
C=A*B
Dmax=min(C)
A =
0.3000 0.1000 0.2100 0.0900 0.0500 0.2500
B =
0.1000 0.2300 0.4000 0.2700
0.2000 0.2000 0.3000 0.3000
0.0600 0.6500 0.2000 0.0900
0.1000 0.4000 0.2000 0.3000
0.7000 0.1000 0.1000 0.1000
0.3000 0.1000 0.3000 0.3000
C =
0.1816 0.2915 0.2900 0.2369
Dmax =
0.1816
平均失真度：
方法一：
syms ab
A=[0.3 0.1 0.21 0.09 0.05 0.25]
B=[0.1 0.23 0.4 0.27;0.2 0.2 0.3 0.3;0.06 0.65 0.2 0.09;0.1 0.4 0.2 0.3;0.7 0.1 0.1 0.1;0.3 0.1 0.3 0.3]
C=[1 0 0 0;a 1-a 0 0;1 0 0 0;1 0 0 0;0 b (1-b)/2 (1-b)/2;0 1 0 0]
E=B.*C
H=A*E
F=sum(H)
A =
0.3000 0.1000 0.2100 0.0900 0.0500 0.2500
B =
0.1000 0.2300 0.4000 0.2700
0.2000 0.2000 0.3000 0.3000
0.0600 0.6500 0.2000 0.0900
0.1000 0.4000 0.2000 0.3000
0.7000 0.1000 0.1000 0.1000
0.3000 0.1000 0.3000 0.3000
C =
[ 1, 0, 0, 0]
[ a, 1 - a, 0, 0]
[ 1, 0, 0, 0]
[ 1, 0, 0, 0]
[ 0, b, 1/2 - b/2, 1/2 - b/2]
[ 0, 1, 0, 0]
E =
[ 1/10, 0, 0, 0]
[ a/5, 1/5 - a/5, 0, 0]
[ 3/50, 0, 0, 0]
[ 1/10, 0, 0, 0]
[ 0, b/10, 1/20 - b/20, 1/20 - b/20]