DDPM에 중요한 치명점이 있는데 높은 퀄리티 샘플을 만들기 위해 많은 iteration이 필요하다. 저자는 non Markovian diffusion process를 제안한다.

DDPM $L_r$은 marginals $q(x_t|x_0)$에 의존하지만 joint $q(x_{1:T}|x_0)$에는 의존하지 않는다. 이게 저자가 본 주요 관찰이다.

Untitled

Forward process

Untitled

Untitled

공식 3처럼 Markovian forward process는 길지는 않다. 각 $x_t$는 $x_{t-1}$과 $x_0$ 둘다 의존한다.

GENERATIVE PROCESS AND UNIFIED VARIATIONAL INFERENCE OBJECTIVE

생성과정을 $q_σ(x_{t−1}|x_t, x_0).$로 만든다.

Untitled

위와 같이 유도하여 사용한다.

DENOISING

Untitled

$x_{t-1}$은 위와 같이 정의 가능하다. $σ_t = 0$일때 DDIM이 된다. random noise와 directio pointing 몇 부분이 0이 된다.

ODES

DDIM은 Euler method ODE와 비슷하다. 아마 score based 모델을 의미하며 Euler → runge→ Heuns로 변한다.