첫번째 기여는 실용적인 측면에서 모델들의 이론들을 본다. 더욱 tangible한 objects와 알고리즘에 집중한다. 그리고 덜 통계적인 과정을 이끌어온다.
두번째 기여는 diffusion 모델을 이용해 이미지 통합하는 샘플링 과정이다. 아
세번째 기여는 score-modeling neural network에 집중했다.
위에 연구들을 합쳐 의미있는 향상을 이꿨다.
Discretization and higher-order integrators
ODE 해결은 실제 해결책인 궤도를 구하는 근사치를 얻기 위함이다.
각 step마다, sovler는 truncation error를 사용한다. local error는 superlinearly하게 scale한다.
보통 처음 ODE solver로 오일러 방법을 쓴다. 빅오는 $h^2$이다. Hiher-order 룽게 쿤타 방법은 매 스텝마다 모델 $D_θ$를 평가해야한다. 그래서 저자는 Heun’s 2를 제시한다.
Heun 사용으로 인한 결과를 확인이 가능하다.
위 공식은 노이즈와 관련된 공식이다. 노이즈가 매스텝마다 다르다.
Trajectory curvature and noise schedule
ODE solution trajectories는 $σ(t)$ , $s(t)$로 결정된다. 이 방법은 truncation errors를 줄여준다. 저자가 선택한 값은 $σ(t)=t, s(t)=1$이다. DDIM에서 만들어졌다. 아무튼 이덕에 ODE 솔루션은 아래 공식과 같은데 이게 더욱 간결하게 된다.
