GAN(Generative Adversarial Networks) 리뷰

1. introduce

“적대적 생성 신경망”으로 해석되는 GAN은 generator model 중 하나로 가짜 이미지를 생성하는 Generator와 데이터를 구분하는 Discriminator의 경쟁으로 학습하는 모델이다. 아래 그림과 수식을 통해 이해해 보자.

위의 그림처럼 Generator는 최대한 진짜 돈과 비슷한 가짜 돈을 만들고 Discriminator는 최대한 가짜 돈과 진짜 돈을 구분하려 한다. 만약 Generator의 능력(성능)이 높아지면 Discriminator의 판단(성능)이 낮아질 것이고, Generator의 능력(성능)이 낮아지면 Discriminator의 판단(성능)이 높아질 것이다. GAN은 이러한 과정을 통해 학습한다.

 

2. Objective Function

 

2.1 Gan의 Objective funtion

• G : Generator 
• D : Discriminator
• z : noise

식이 복잡해 보여도 하나씩 뜯어 보면 간단하다.

 

2.1 Discriminator의 Objective funtion

* 이 식에서는 D(G(z))를 간단하게 D(x)로 표현하였다.

Discriminator의 목적은 real 이미지를 판별한 결과 D(x)가 최대한 1에 가깝게, fake 이미지를 판별한 결과 D(x)가 최대한 0에 가깝게 하여 Objective function을 최대화 하는 것이다. (최대값 0)

 

 

2.1 Generator의 Objective funtion

이와 반대로 Generator의 목적은 D(G(z))를 최대한 1에 가깝게 하여 Objective function을 최소화 하는 것이다.

 

이 가장 이상적인 형태는 Discriminator가 fake와 real을 구분할 수 없는 상태인 D(x)와 D(G(z))가 0.5에 가까워 지는 것이다.

 

 

3. 한계

• 다른 모델과 달리 명확한 평가 기준이 없다.
  • loss는 단지 오토파라미터의 구실이고 실제적인 loss가 아님
• 실제 환경에서 loss 함수 정의하고 최적화 할 때, G의 초기 성능이 안 좋다.(D(G)가 0에 가까움)
  • 따라서 학습 비율을 D:G=1:5로 불균형하게 성정하는 것이 일반적
• 기술적으로 고해상도 이미지를 생성할 수 없다.
• 불안정한 학습