[시리즈] Diffusion Models

4학년 1학기, AI R&D 인턴십을 진행하게 되었다. Graphics AI 분야에서 연구개발을 수행할 것 같고, 주로 게임 캐릭터를 위한 Texture Generation or Texture Transfer Task을 위해 DIffusion 계열의 모델을 활용하게 될 것 같다. 틈틈히 선행 연구들을 리뷰하고 정리해 두고자 한다.

생성 모형은 기본적으로 어떤 도메인(이미지, 자연어, 음성 등)의 복잡한 확률 분포를 모형화하는 것을 목적으로 하는데, 이 시리즈에서는 이미지에 대한 생성 모형, 그 중에서도 Diffusion Model에 대해 중점적으로 다루어 보고자 한다. 생성 모델 개요에서 GAN, VAE, Flow Model, Diffusion Model 등 다양한 생성 모델의 구조와 장단점을 알아보고, 본격적으로 관련 논문을 리뷰한다.

📖 Content

Generative Model 개요

[2020/06] DDPM: Diffusion Model 기초

[2020/06] DDPM: Denoising Diffusion Probabilistic Model

[2020/10] DDIM: Denoising Diffusion Implicit Models

[2021/12] LDM: High-Resolution Image Synthesis with Latent Diffusion Models

[2022/06] DPM-Solver: A Fast ODE Solver for Diffusion Probabilistic Model Sampling in Around 10 Steps

[2022/08] DreamBooth: Fine Tuning Text-to-Image Diffusion Models for Subject-Driven Generation

[2022/08] Prompt-to-Prompt Image Editing with Cross-Atention Control

[2022/08] An Image is Worth One Word: Personalizing Text-to-Image Generation using Textual Inversion

[2022/10] On Distillation of Guided Diffusion Models

[2022/11] InstructPix2Pix: Learning to Follow Image Editing Instructions

[2023/02] ControlNet: Adding Conditional Control to Text-to-Image Diffusion Models

Reference Papers

[2015/03] Deep Unsupervised Learning using Nonequilibrium Thermodynamics

[2020/11] SDE: Score-Based Generative Modeling through Stochastic Differential Equations

[2021/02] I-DDPM: Improved Denoising Diffusion Probabilistic Models

[2021/05] Diffusion Models Beat GANs on Image Synthesis

[2022/07] Classifier-Free Diffusion Guidance

[시리즈] Diffusion Models

📖 Content

📁 Posts