H.264中的整数变换原理

1 −1 −1 1
1⎤
2 −1
1 −1
2
⎥ ⎥ ⎥ ⎥(W ⎥ ⎥ ⎥ ⎥⎦
⎡1 ⎢⎢ 1 ) ⎢⎢⎢ 11 ⎣2
1 1
2 −1
−1
1 −1
2 −1
1
1⎤
−
1
⎥ ⎥
1 −1
⎥ ⎥ ⎥
2⎦
可以看出，只需加法和右移的操作即可完成反变换，而反变换的输入数据具有大的动态范围，所以造 成的误差很小。
0⎥⎢1 b⎥⎦⎢⎣d
−1 −1
−1 1
1 −d
⎥ ⎥ ⎦
⎢ ⎢ ⎣
x20 x30
x21 x31
x22 x32
x23 x33
⎥ ⎥ ⎦
⎢1 ⎢⎣1
−d −1
−1 1 ⎥⎢0
1
−
d
⎥ ⎦
⎢⎣0
0 0
a 0
0⎥ b⎥⎦
式中，d = c/b，B 是对角矩阵。因此，可以写成如下形式：
Y = (CXCT ) ⊗ E =
Y = BCXCT BT = BCXCT B
⎡a 0 0 0⎤⎡1 1 1 1 ⎤⎡x00 x01 x02 x03 ⎤⎡1 1 1 d ⎤⎡a 0 0 0⎤
= ⎢⎢0 b 0 0⎥⎥⎢⎢1 d
−d
−
1
⎥ ⎥
⎢ ⎢
x10
x11
x12
x13
⎥ ⎥
⎢⎢1
d
−1
−1
⎥ ⎥
⎢⎢0
b
0
0⎥⎥
⎢0 ⎢⎣0
0 0
a 0
⎟⎞ ⎟ ⎟ ⎟ ⎟⎠
⎡ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣
1
1
1 1 2
1 1
2 −1
−1
1 −1
2 −1
1
1⎤
−
1
⎥ ⎥
1 −1
⎥ ⎥ ⎥
2⎦
同样地，将前置比例乘子矩阵Eb以整数精度合并到反量化过程，得到 4×4 整ห้องสมุดไป่ตู้变换的反变换的最终 表达式为
⎢⎡1
⎢
⎢1
X
= CbTWCb
=
⎢ ⎢⎢1
⎢
⎢⎣1
1
1 2 −1 2 −1
长度为 N 的一维序列的 x(n), n = 0, 1, ......, N −1的 DCT 变换定义为
∑ Y (k)
=
N −1
α (k) x(n) cos
2n
+1 kπ，n
=
0, 1,
...,
N
−1
n=0
2N
其中
⎧1
α
(k
)
=
⎪⎪ ⎨
N
⎪2
⎪⎩ N
k =0 k = 1, 2, ..., N −1
把上述变换写成矩阵形式，一个 4×4 的 DCT 变换表示为
⎥ ⎥ ⎥
⎣2 4 2 4⎦
= (H f XH f ) ⊗ E f
式中， a = 1/ 2, b = 2 / 5 ，Ef称为后置比例乘子矩阵。在H.264 标准的实现中将Ef以整数精度合并到
量化过程，这样 4×4 整数变换的最终表达式为
⎡1 1 1 1 ⎤ ⎡1 2 1 1 ⎤
W
=
Hf
XH
T f
=
相应地，DCT 的反变换可以由式（）表示，即
X = CT (Y ⊗ E)C
系数 d = 2 −1 = 0.414213... 为无理数， 为方便计算做一个近似， 选择 d=7/16、3/8 和 1/2，取
d=1/2 时获得了最好的编码增益。为了保持矩阵 H 的正交性，即 H T H = I ，修改 b 的值，得到
b=
1= 2(1 + d 2 )
2/5
最后得到 a = 1/ 2 , c = db, 所以 c = 1/10 。
H.264 中所采用的 4×4 变换，当其基矩阵中包含比例因数时，就是通常文献中所说的“强相关变换” （HCT），基矩阵（HCT）可表示为
⎡ 1/ 2 ⎤⎡1 1 1 1 ⎤
( HCT
)
=
⎡a a a a ⎤⎡x00 x01 x02 x03 ⎤⎡a b a c ⎤
Y = HXH T = ⎢⎢b
c
−c
−
b⎥⎥
⎢ ⎢
x10
x11
x12
x13
⎥ ⎥
⎢⎢a
c
− a − b⎥⎥
⎢a ⎢⎣c
−a −b
−a b
a −c
⎥ ⎥ ⎦
⎢ ⎢ ⎣
x20 x30
x21 x31
x22 x32
x23 x33
⎥ ⎥ ⎦
⎢⎢2 ⎢1
1 −1
−1 −1
− 2⎥⎥( X )⎢⎢1 1 ⎥ ⎢1
1 −1
−1 −1
− 2⎥⎥ 2⎥
⎢⎣1 − 2 2 −1⎥⎦ ⎢⎣1 − 2 1 −1⎥⎦
可以看出，由于系数矩阵元素只有 ±1 与 ± 2 ，只需要加法和移位即可完成变换，所以说 H.264 的变
换是无乘法的。 相应地，反变换的定义如下：
1 −1 −1 1
d −1 1 −d
⎤ ⎥ ⎥ ⎥ ⎥ ⎦
⎟⎞ ⎟ ⎟ ⎟ ⎟⎠
⊗
⎡a 2 ⎢⎢ab ⎢a 2 ⎢ ⎢⎣ab
ab b2 ab b2
a2 ab a2 ab
ab⎤
b
2
⎥ ⎥
ab⎥
b
2
⎥ ⎥⎦
式中， ⊗ 表示相应位置的系数之间的乘积，而不是矩阵相乘。这样，可以把矩阵 E 中的系数放入量
化步骤之中，变换就简单了许多。
⎢⎢1 / ⎢ 1/
10 2
⎥ ⎥
⎢⎢2
⎥⎢1
1 −1
−1 −1
− 2⎥⎥ 1⎥
⎢⎣1 /
10
⎥ ⎦
⎢⎣1
−2
2
− 1⎥⎦
对于二维 ( X ) 4×4 的数据的整数变换为
(Y ) = (HCT )( X )(HCT )T
=
⎜⎛ ⎜ ⎜ ⎜⎜⎝
⎡1 ⎢⎢2 ⎢1 ⎢⎣1
1 1 −1 −2
1 1 ⎤ ⎡1 2
⎜⎛ ⎜ ⎜ ⎜ ⎜⎝
⎡1 ⎢⎢1 ⎢1 ⎢⎣d
11 d −d −1 −1 −1 1
1 ⎤⎡x00
−
1
⎥ ⎥
⎢ ⎢
x10
1 −d
⎥ ⎥ ⎦
⎢ ⎢ ⎣
x20 x30
x01 x11 x21 x31
x02 x12 x22 x32
x03 ⎤⎡1 1
x13
⎥ ⎥
⎢⎢1
d
x23 x33
⎥ ⎥ ⎦
⎢1 ⎢⎣1
−d −1
X
=
C
T b
(Y
⊗ Eb )Cb
⎢⎡1 ⎢ ⎢1 =⎢ ⎢⎢1 ⎢ ⎢⎣1
1
1 2 −1 2 −1
1 −1 −1 1
1⎤
2 −1
1 −1
2
⎥ ⎥⎥⎥⎥⎥⎥⎜⎜⎜⎜⎜⎝⎛ ⎥⎦
(Y
)
⊗
⎡a 2 ⎢⎢ab ⎢a 2 ⎢ ⎢⎣ab
ab b2 ab b2
a2 ab a2 ab
ab b2 ab b2
⎤ ⎥ ⎥ ⎥ ⎥ ⎥⎦
H.264 标准中的整数变换与量化
（CyanDragon 整理） H.264 的编码框图中，首先通过帧内预测或者帧间预测计算残差，再对残差进行整数变换和量化，最 后经过熵编码后输出。这样在 H.264 编码过程中，同时包括了预测编码、变换编码和熵编码，取得了更好 的压缩效率。和 H.263 或 MPEG-4 相比，H.264 采用 4×4 整数变换，变换过程和量化过程混合在一起。虽 然这样做会在 PSNR（峰值信噪比）上有轻微的损失，但整数变换避免了 H.263 等标准中非整数 DCT 变换、 反变换过程中的失配问题，而且变换过程只需加法和移位操作，可以不使用乘法操作，复杂性大为减少。 DCT 变换是一种正交变换，因为它具有良好的去相关性和压缩效率，并且有快速算法可以实现，所以在图 像编码中被广泛使用。
⎢a ⎢⎣a
−c −b
−a a
b⎥ − c⎥⎦
式中，H 表示变换矩阵，参数分别为
a =1/ 2
b = 1/ 2 cos(π / 8)
c = 1/ 2 cos(3π / 8)
因为 H 是正交矩阵，即 H T H = I ，所以相应的反变换（IDCT）为
X = H T YH
对变换矩阵 H 进行基于蝶形的因式分解，得到如下变换表示式：
−1 −1
−12⎥⎥⎥( X )⎢⎢⎢11
1 −1
2 −1⎥⎦ ⎢⎣1 − 2
⎡ ⎢
a
2
1 −1 −1 1
1⎤ − 2⎥⎥ 2⎥ − 1⎥⎦
⎟⎞ ⎟ ⎟ ⎟⎟⎠
⊗
⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢
ab 2 a2
ab
ab
2 b2
4 ab
2 b2
a2
ab 2 a2
ab
ab ⎤
2 b2
⎥ ⎥ ⎥
4⎥
ab ⎥
2 b2