Kroneckerconvolution克罗内克卷积理解
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
Kroneckerconvolution克罗内克卷积理解
在了解空洞卷积时候发现了Kronecker convolution是对空洞卷积的改进,于是学习了⼀下,原⽂连接:个⼈理解如下:
⾸先,对于⼀个普通卷积,假设输⼊为A,A的⼤⼩为(Ha,Wa,Ca),卷积后的输出为B,B的⼤⼩为(Hb,Wb,Cb),卷积核 K 的⼤⼩为Cb*Ca*(2k+1)(2k+1)。
对于所提出的Kronecker卷积,引⼊了⼀个变换矩阵 F ,通过F与K的乘积来扩展K,K经过扩展后记为K‘,K‘的⼤⼩
为r1(2k+1)*r1(2k+1)。
相应地,A中参与卷积的Patch⼤⼩也就从原来的(2k+1)(2k+1)变成了(2k+1)r1*(2k+1)r1。
其中F由单位矩阵和0矩阵组成,⼤⼩为r1*r1,r1被称为内部膨胀因⼦,⽤来控制卷积核的膨胀率。
r2为内部共享因⼦,控制⼦区域的⼤⼩。
也就是说与单纯插⼊0的空洞卷积相⽐,Kronecker卷积通过与变换矩阵F的乘积展开核,内部膨胀因⼦控制核的膨胀率,内部共享因⼦控制⼦区域的⼤⼩。
那么为什么F与K相乘后K的⼤⼩增⼤了呢?
这是因为F与K的相乘⽅法为Kronecker product ,即克罗内克积,其定义如下:
所以我的理解是卷积仍然是普通的卷积,但是卷积核发⽣了变化,卷积核的变化过程中采⽤了克罗内克积。