Glow

论文基本信息

• 2018 | NIPS | Glow : Generative Flow with Invertible 1x1 Convolutions | Kingma, D. P. and Dhariwal, P.

提出的方法

• 基于NICE和RealNVP
• 使用可逆的\(1\times 1\)卷积代替channel ordering上的反向置换reverse permutation操作
  • 1、激活标准化actnorm：类似批标准化. \( x_{i,j}=s\odot z_{i,j}+b \z_{i,j}=(x_{i,j}-b)/s\)
  • 2、可逆\(1\times 1\)卷积：输入输出通道数目相等的\(1\times 1\)卷积是channel ordering的推广。引入权重矩阵\(W\)。\(1\times 1\)卷积的逆取决于\(W^{-1}\). \( x_{i,j}=Wz_{i,j} z_{i,j}=W^{-1}x_{i,j}\)
  • 3、仿射耦合层: 和RealNVP一样