和积算法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
继续迭代,直到达到最大迭代次数。
18
Thanks!!!
19
靠性信息
LLR(qi(l) ) LLR( pi )
LLR(rj(il) )
iM (i)
进行硬判决
yˆi
0, 1,
LLR(qi(l) ) LLR(qi(l) )
0 0
将 判 决 后 得 到 的 序 列 yˆ ( yˆ1, yˆ2,K代, yˆ入n )校验方 程 H,若 H •则yˆ表' 示0译码正确,停止迭代,否则
j )\i
tanh(
1 2
LLR(
q(l ij
1)
)))
(3) 变量节点处理过程
第 l次迭代过程中变量节点 传i 递给与之相邻的校验
节点 j的可靠性信息 n
LLR
(
q(l ij
)
)
LLR(
pi
)
LLR(
r(l ji
)
)
17
iM (i )\ j
(4)译码判决
在本次迭代过程处理最后,重新计算各变量节点的可
pr (xi 0 /
y
, S) 1 pi
1
(1 2 pmn )
mM (i)
nN ( j)\i
pr (xi 1 / y, S)
pi
1
(1 2 pmn )
pr (xi 0 /
y
,
S)表示在校m验M (方i) 程组n为N (
y ( y1, y2,K ,,yn所) 有变量节点 接收bi 到对应的接收 值 。yi 第一次迭代:每个变量节点 xi给所有与之相邻的校验 节点 传si送一个可靠性消息;每个校验节点 接s收i 到
可靠性消息之后,进行处理,然后返回一个新的可
靠性信息给与之相邻的变量节点 ,这xi样就完成了第
一次迭代。 完成后进行判决,如果满足校验方程则结束译码, 否则如此反复多次迭代,每次都进行判决,直到达 到设定的最大迭代次数,译码失败。
m1
pi
1
•
mM (i)
(1 2 pmn )
nN ( j )\i
2
同理可得
pr (xi
0 / y, S)
(1
1
pi ) •
mM (i )
nN
(
j
)\i
(1
2
pmn
)
2
8
BP算法的预备知识:
LLR(
pi
)
n iM (i)\
j
LLR(rji )
14
同样定义校验节点 j传递给变量节点i的可靠性信息为
LLR(rji
)
ln
rji rji
(0) (1)
根据数学公式
tanh
x
ex ex
ee可 xx得
和
tanh(
1 2
LLR(
rji
))
1
2rji
(1)
(11)
tanh(
qij (0) (1 pi ) •
(rmi (0))
mM (i )\ j
(5) (6)
10
BP译码算法流程:
(1) 初始化
计算经信道传输后各变量节点的初始概率 pi (1和) pi (0) i 1,2,K 。, n对每个变量节点求传递给与其相邻的校
验节点的可靠性信息
个比特为 1 的概率为 p,i 则整个序列中出现偶数个 1
的概率为
1
2
1 2
m i 1
(1 2 pi )
出现奇数个1的概率为
1 1
22
m i 1
(1 2 pi )
6
Gallager定理:对于 (n, j, k)规则LDPC码,pmn代表第m 个校验方程中的第n 个变量比特为1的概率,则
在得到除 j 以外的其他所有校验比特和信道的外部信
息后,判断变量节点 ci 的 0概率。
9
另一方面,校验节点 j 传递给变量节点i的可靠性信息
应该为在给定信息位和其他信息位具有独立概率分
布条件下,校验方程 j 满足的概率。将此可靠性信息
记为 ,rji则
rji (1)
1 2
1 2
q(0) ij
(1)
q(0 ij
)
(0)
pi (1) pi (0)
(7)
其中的上标(0)表示迭代次数。
(2) 校验节点处理过程( ri的j 计算)
根据式(3)和式(4)求出第 次l 迭代过程中校验节点 传j 递 给与之相邻的变量节点 的i 可靠性信息
r(l ji
)
(1)
1 2
1 2
递给与之相邻的校验节点 j的可靠性信息
q(l ij
)
(1)
Kij
•
pi (1)
•
r(l
mi
)
(1)
mM (i )/ j
qi(jl) (0) Kij • pi (0) •
r(l
mi
)
(0)
(9)
mM (i )/ j
其中的 Ki为j 校正因子,使每次计算出的
q(l ij
)
(1)
16
LLR BP译码算法流程:
(1) 初始化
接收信号的似然比作为初始置信度赋给变量节点,
即
LLR(qi(j0) )
ln
pi (0) pi (1)
(2) 校验节点处理过程
第 l次迭代过程中校验节点 传j 递给与之相邻的变量节 点 的i可靠性信息
LLR(
r(l ji
)
)
2
tanh1(
iN (
在得到除校验节点 j 以外的其他所有校验比特和信道
的外部信息后,判断变量节点 ci 的 1概率;
再定义:
1
(1 2 pmn )
qij (0) pr (x j 0 / y , S) (1 pi ) •
(
mM (i )\ j
nN ( j )\i
2
) (2)
表示变量节点 i 传递给校验节点j 的外部概率信息,即
置信传播算法是基于 Tanner 图的迭代译码算法。在 迭代过程中,可靠性信息,即“消息”通过 Tanner
图上的边在变量节点和校验节点中来回传递,经多次 迭代后趋于稳定值,然后据此进行最佳判决。
在每次迭代过程中,保证发送的信息与接收节点已得 到的信息相互对立。
3
置信传播译码算法的基本流程如下: 在迭代前,译码器接收到信道传送过来的实值序列
1 2
LLR(qij
))
1
2qij
(1)
(12)
综合式(11)、式(12)及式(8)可得
tanh(
1 2
LLR(rji
))
iN
(
j)/i
tanh(
1 2
LLR(qij
))
15
于是
LLR(rji
)
2
tanh 1 (
iN
(
j
)\i
tanh(
1 2
LLR(qij
)))
最后,定义变量节点i的硬判决概率似然比为
节点 i相邻;
N ( j) 表示变量节点的集合,集合中的节点均与校验 7
节点j相邻;
证明:
pr(xi 1/ y, S)=pr(xi 1) •xi 1时满足j个校验方程的概率
j
pi • xi 1满足第i个校验方程的概率
m1
j
pi • 第i个校验方程的其他k-1个变量有奇数个1的概率
LLR(q j
)
பைடு நூலகம்
ln
qj (0) qj (1)
LLR(
pi
)
iM (i)
LLR(rji
)
此算法流程与前一节中的概率 BP 译码算法基本一致, 区别在于第一、二和三步中计算的数据不再是概率 信息,而是概率的似然比;第四步中译码判决时,
当LLR(q j ) 时0判决 yˆ j ,0否则判决 yˆ。j 1
(1
nN ( j )\i
2qn(lj1) (1))
r(l ji
)
(0)
1
r(l ji
)
(1)
1 2
1 2
nN (
(1
j )\i
2qn(lj1) (1))
(8)
11
(3)变量节点处理过程( qi的j 计算)
根据式(5)和式(6)求出第 l次迭代过程中变量节点 传i
置信传播算法
1
目录
置信传播(BP)译码算法简介 概率BP译码算法 LLR BP译码算法
2
置信传播(BP)译码算法简介
置信传播(Belief Propagation)译码算法是消息传递 (Message Passing)算法在 LDPC译码中的运用。消息 传递算法是一个算法类,最初运用于人工智能领域, 人们将其运用到 LDPC 码的译码算法中,提出了 LDPC 码的置信传播算法。
变量节点i传递给校验节点 j的可靠性信息 qij (1就) 是
pr (xj 1/ y,, S于) 是定义:
1
(1 2 pmn )
qij (1) pr (x j 1 / y , S) pi •
(
mM (i )\ j
nN ( j )\i
2
) (1)
表示变量节点 i 传递给校验节点j 的外部概率信息,即
4
Tanner图
变量节点
x1 x2 x3 x4 x5
x6
x7 x8
s1
s2
s3
s4
校验节点
5
概率BP译码算法
在此 BP 算法中,变量节点和校验节点之间传递的可靠 性信息分别是判断变量节点是 0 或 1 成立的概率和判 断校验方程是否满足的概率,因此称为概率置信传播 算法。
引理:一个独立的比特序列,其长度为 m ,假设第 i
j )\i
S ,接收序列
为 y 的条件下判断发送帧中的第 i个比特为 0 的概率;
pr (xi 1/ y, S) 表示在校验方程组为 S ,接收序列
为y 的条件下判断发送帧中的第 i个比特为 1 的概率;
pi 表示发送序列的第 i位为 1 的先验概率;
M (i) 表示校验节点的集合,集合中的节点均与变量
nN (
(1
j )\i
2q jn (1))
(3)
rji
(0)
1
rij (1)
1 2
1 2
(1
nN ( j )\i
2q jn (1))
(4)
将式(3)代入式(1),式(4)代入式(2)可得
qij (1) pi •
(rmi (1))
mM (i )\ j
定义变量节点 i的先验概率似然比为
LLR( pi )
ln
pi (0) pi (1)
ln 1 pi (1) pi (1)
再定义变量节点 i传递给校验节点 j的可靠性信息为
LLR(qij
将式(10)代入上式得
)
ln
qij (0) qij (1)
LLR(qij )
ln
qij (0) qij (1)
{xk : k i, k N ( j)}
{sk : k j, k M (i)}
rji s j qij xi
13
LLR BP译码算法
用似然比表示校验节点与变量节点之间来回传递的 可靠性信息,将校验节点和变量节点为 0 或 1 统一到 一个公式中来,且似然比可以将大量的乘法运算转化 为加法运算,于是得到了 LDPC 码的 LLR BP 算法。
q( l ) ij
(0)
1
(4)译码判决
在本次迭代过程处理最后,重新计算各变量节点的可
靠性信息 qi(l) (1) Ki • pi (1) •
r(l
mi
)
(1)
mM (i )
qi(
l
)
(0)
Ki
•
pi
(0)
•
r(l
mi
)
(0)
(10)
mM (i )
其中的
K
也为校正因子,使每次计算出的
i
qi(l) (1)
qi(l) (0)
12
1
若 q(jl)(1) q(jl)(,0) 则 判 决 yˆ,j 否1 则
yˆ;j 将0 判
决后得到的序列
yˆ ( yˆ1,代yˆ2入,K校, y验ˆn )方程 H,
若
则表H示•译yˆ码' 正0确,停止迭代,否则继续迭
代,直到达到最大迭代次数。
18
Thanks!!!
19
靠性信息
LLR(qi(l) ) LLR( pi )
LLR(rj(il) )
iM (i)
进行硬判决
yˆi
0, 1,
LLR(qi(l) ) LLR(qi(l) )
0 0
将 判 决 后 得 到 的 序 列 yˆ ( yˆ1, yˆ2,K代, yˆ入n )校验方 程 H,若 H •则yˆ表' 示0译码正确,停止迭代,否则
j )\i
tanh(
1 2
LLR(
q(l ij
1)
)))
(3) 变量节点处理过程
第 l次迭代过程中变量节点 传i 递给与之相邻的校验
节点 j的可靠性信息 n
LLR
(
q(l ij
)
)
LLR(
pi
)
LLR(
r(l ji
)
)
17
iM (i )\ j
(4)译码判决
在本次迭代过程处理最后,重新计算各变量节点的可
pr (xi 0 /
y
, S) 1 pi
1
(1 2 pmn )
mM (i)
nN ( j)\i
pr (xi 1 / y, S)
pi
1
(1 2 pmn )
pr (xi 0 /
y
,
S)表示在校m验M (方i) 程组n为N (
y ( y1, y2,K ,,yn所) 有变量节点 接收bi 到对应的接收 值 。yi 第一次迭代:每个变量节点 xi给所有与之相邻的校验 节点 传si送一个可靠性消息;每个校验节点 接s收i 到
可靠性消息之后,进行处理,然后返回一个新的可
靠性信息给与之相邻的变量节点 ,这xi样就完成了第
一次迭代。 完成后进行判决,如果满足校验方程则结束译码, 否则如此反复多次迭代,每次都进行判决,直到达 到设定的最大迭代次数,译码失败。
m1
pi
1
•
mM (i)
(1 2 pmn )
nN ( j )\i
2
同理可得
pr (xi
0 / y, S)
(1
1
pi ) •
mM (i )
nN
(
j
)\i
(1
2
pmn
)
2
8
BP算法的预备知识:
LLR(
pi
)
n iM (i)\
j
LLR(rji )
14
同样定义校验节点 j传递给变量节点i的可靠性信息为
LLR(rji
)
ln
rji rji
(0) (1)
根据数学公式
tanh
x
ex ex
ee可 xx得
和
tanh(
1 2
LLR(
rji
))
1
2rji
(1)
(11)
tanh(
qij (0) (1 pi ) •
(rmi (0))
mM (i )\ j
(5) (6)
10
BP译码算法流程:
(1) 初始化
计算经信道传输后各变量节点的初始概率 pi (1和) pi (0) i 1,2,K 。, n对每个变量节点求传递给与其相邻的校
验节点的可靠性信息
个比特为 1 的概率为 p,i 则整个序列中出现偶数个 1
的概率为
1
2
1 2
m i 1
(1 2 pi )
出现奇数个1的概率为
1 1
22
m i 1
(1 2 pi )
6
Gallager定理:对于 (n, j, k)规则LDPC码,pmn代表第m 个校验方程中的第n 个变量比特为1的概率,则
在得到除 j 以外的其他所有校验比特和信道的外部信
息后,判断变量节点 ci 的 0概率。
9
另一方面,校验节点 j 传递给变量节点i的可靠性信息
应该为在给定信息位和其他信息位具有独立概率分
布条件下,校验方程 j 满足的概率。将此可靠性信息
记为 ,rji则
rji (1)
1 2
1 2
q(0) ij
(1)
q(0 ij
)
(0)
pi (1) pi (0)
(7)
其中的上标(0)表示迭代次数。
(2) 校验节点处理过程( ri的j 计算)
根据式(3)和式(4)求出第 次l 迭代过程中校验节点 传j 递 给与之相邻的变量节点 的i 可靠性信息
r(l ji
)
(1)
1 2
1 2
递给与之相邻的校验节点 j的可靠性信息
q(l ij
)
(1)
Kij
•
pi (1)
•
r(l
mi
)
(1)
mM (i )/ j
qi(jl) (0) Kij • pi (0) •
r(l
mi
)
(0)
(9)
mM (i )/ j
其中的 Ki为j 校正因子,使每次计算出的
q(l ij
)
(1)
16
LLR BP译码算法流程:
(1) 初始化
接收信号的似然比作为初始置信度赋给变量节点,
即
LLR(qi(j0) )
ln
pi (0) pi (1)
(2) 校验节点处理过程
第 l次迭代过程中校验节点 传j 递给与之相邻的变量节 点 的i可靠性信息
LLR(
r(l ji
)
)
2
tanh1(
iN (
在得到除校验节点 j 以外的其他所有校验比特和信道
的外部信息后,判断变量节点 ci 的 1概率;
再定义:
1
(1 2 pmn )
qij (0) pr (x j 0 / y , S) (1 pi ) •
(
mM (i )\ j
nN ( j )\i
2
) (2)
表示变量节点 i 传递给校验节点j 的外部概率信息,即
置信传播算法是基于 Tanner 图的迭代译码算法。在 迭代过程中,可靠性信息,即“消息”通过 Tanner
图上的边在变量节点和校验节点中来回传递,经多次 迭代后趋于稳定值,然后据此进行最佳判决。
在每次迭代过程中,保证发送的信息与接收节点已得 到的信息相互对立。
3
置信传播译码算法的基本流程如下: 在迭代前,译码器接收到信道传送过来的实值序列
1 2
LLR(qij
))
1
2qij
(1)
(12)
综合式(11)、式(12)及式(8)可得
tanh(
1 2
LLR(rji
))
iN
(
j)/i
tanh(
1 2
LLR(qij
))
15
于是
LLR(rji
)
2
tanh 1 (
iN
(
j
)\i
tanh(
1 2
LLR(qij
)))
最后,定义变量节点i的硬判决概率似然比为
节点 i相邻;
N ( j) 表示变量节点的集合,集合中的节点均与校验 7
节点j相邻;
证明:
pr(xi 1/ y, S)=pr(xi 1) •xi 1时满足j个校验方程的概率
j
pi • xi 1满足第i个校验方程的概率
m1
j
pi • 第i个校验方程的其他k-1个变量有奇数个1的概率
LLR(q j
)
பைடு நூலகம்
ln
qj (0) qj (1)
LLR(
pi
)
iM (i)
LLR(rji
)
此算法流程与前一节中的概率 BP 译码算法基本一致, 区别在于第一、二和三步中计算的数据不再是概率 信息,而是概率的似然比;第四步中译码判决时,
当LLR(q j ) 时0判决 yˆ j ,0否则判决 yˆ。j 1
(1
nN ( j )\i
2qn(lj1) (1))
r(l ji
)
(0)
1
r(l ji
)
(1)
1 2
1 2
nN (
(1
j )\i
2qn(lj1) (1))
(8)
11
(3)变量节点处理过程( qi的j 计算)
根据式(5)和式(6)求出第 l次迭代过程中变量节点 传i
置信传播算法
1
目录
置信传播(BP)译码算法简介 概率BP译码算法 LLR BP译码算法
2
置信传播(BP)译码算法简介
置信传播(Belief Propagation)译码算法是消息传递 (Message Passing)算法在 LDPC译码中的运用。消息 传递算法是一个算法类,最初运用于人工智能领域, 人们将其运用到 LDPC 码的译码算法中,提出了 LDPC 码的置信传播算法。
变量节点i传递给校验节点 j的可靠性信息 qij (1就) 是
pr (xj 1/ y,, S于) 是定义:
1
(1 2 pmn )
qij (1) pr (x j 1 / y , S) pi •
(
mM (i )\ j
nN ( j )\i
2
) (1)
表示变量节点 i 传递给校验节点j 的外部概率信息,即
4
Tanner图
变量节点
x1 x2 x3 x4 x5
x6
x7 x8
s1
s2
s3
s4
校验节点
5
概率BP译码算法
在此 BP 算法中,变量节点和校验节点之间传递的可靠 性信息分别是判断变量节点是 0 或 1 成立的概率和判 断校验方程是否满足的概率,因此称为概率置信传播 算法。
引理:一个独立的比特序列,其长度为 m ,假设第 i
j )\i
S ,接收序列
为 y 的条件下判断发送帧中的第 i个比特为 0 的概率;
pr (xi 1/ y, S) 表示在校验方程组为 S ,接收序列
为y 的条件下判断发送帧中的第 i个比特为 1 的概率;
pi 表示发送序列的第 i位为 1 的先验概率;
M (i) 表示校验节点的集合,集合中的节点均与变量
nN (
(1
j )\i
2q jn (1))
(3)
rji
(0)
1
rij (1)
1 2
1 2
(1
nN ( j )\i
2q jn (1))
(4)
将式(3)代入式(1),式(4)代入式(2)可得
qij (1) pi •
(rmi (1))
mM (i )\ j
定义变量节点 i的先验概率似然比为
LLR( pi )
ln
pi (0) pi (1)
ln 1 pi (1) pi (1)
再定义变量节点 i传递给校验节点 j的可靠性信息为
LLR(qij
将式(10)代入上式得
)
ln
qij (0) qij (1)
LLR(qij )
ln
qij (0) qij (1)
{xk : k i, k N ( j)}
{sk : k j, k M (i)}
rji s j qij xi
13
LLR BP译码算法
用似然比表示校验节点与变量节点之间来回传递的 可靠性信息,将校验节点和变量节点为 0 或 1 统一到 一个公式中来,且似然比可以将大量的乘法运算转化 为加法运算,于是得到了 LDPC 码的 LLR BP 算法。
q( l ) ij
(0)
1
(4)译码判决
在本次迭代过程处理最后,重新计算各变量节点的可
靠性信息 qi(l) (1) Ki • pi (1) •
r(l
mi
)
(1)
mM (i )
qi(
l
)
(0)
Ki
•
pi
(0)
•
r(l
mi
)
(0)
(10)
mM (i )
其中的
K
也为校正因子,使每次计算出的
i
qi(l) (1)
qi(l) (0)
12
1
若 q(jl)(1) q(jl)(,0) 则 判 决 yˆ,j 否1 则
yˆ;j 将0 判
决后得到的序列
yˆ ( yˆ1,代yˆ2入,K校, y验ˆn )方程 H,
若
则表H示•译yˆ码' 正0确,停止迭代,否则继续迭
代,直到达到最大迭代次数。