Generative Model의 요약

- generative model: joint probability distribution, $p_(x)$ 이다.

- 조건이 있다면, conditional generative model, $p_(x|c)$ 이다.

활용 분야

1. 데이터 생성: 새로운 데이터 샘플을 생성할 때이다. 예를들면, 가상의 얼굴 사진을 만들때 사용한다.

2. Oulier 검출기, 데이터 압축, generative classifier, 모델 비교에 사용한다. 즉, 데이터의 분포를 추정함으로서 발생하는 모든 작업들이다.

3.Missing value 처리, Inpainting:

- Missing value: 관측 등의 손실로 일부의 데이터를 관찰하였을 때, 분포에 근거해서, 손실한 부분을 채우는 과정이다. 단순한 랜덤은 현실에 없는 데이터를 생성할 가능성이 있다.

- In-painting: 영상 내에 가려진 부분을 채워넣는 작업이다. 예를들면, 2d영상으로부터 3d로 복원할 경우, 관측되지 않는 영역을 generative model로 채워 넣는 작업을 한다.

4. Latent 변수 추정

- 문서의 주제(latent variable)가 무엇인가? Bayesian Model에서 사용가능 하다. 관측된 데이터로부터 잠재 토픽을 추정하는 것이다. 예를들면, 문서의 토픽을 추정하는 것이다.

- 두 영상의 latent 변수 2개를 추출하고, 이 중간의 영상은 무엇이 될까? 를 생성할 수 있다. 예를들면, 무표정 얼굴 사진과 여우를 섞은 모습은 어떻게 될 것인가를 할 수 있다.

5. Representation Learning: 수십 문장을 학습하여, 문장을 가장 잘 설명하는 latent 변수(=feature)를 학습하는 분야이다. 향후에 downstream(supervised task)에 사용된다.