[CSE URP] InfoGAN 논문 읽기 (1) Abstract ~ Experiment 1

 

 

Original Paper)
InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets

arXiv link ) https://arxiv.org/pdf/1606.03657.pdf 

Abstract

💡 InfoGAN

• GAN + Information-theoretic(정보 이론)
• 정보 이론의 아이디어를 GAN에 붙여 확장시킨 모델 
• 완전한 비지도 방식으로 **Disentanlged representations(분리된 표현)**을 학습할 수 있다.
  • 이를 통해 InfoGAN은 아래와 같은 데이터에서 유의미한 특성을 분리해냈다.
    • MNIST 데이터 세트의 숫자의 각도, 너비
    • 3D 렌더링된 이미지에서의 방위각, 높이(고도), 빛에 따른 변화, 너비 변화
    • CelebA 얼굴 데이터 세트에서 헤어 스타일, 안경의 유무, 감정
•  

Introduction

Unsupervised learning

• 비지도 학습은 레이블이 지정되지 않은 방대한 양의 데이터에서 가치를 추출하는 것이 목적이다.
  • 일반적으로 Representation learning(표현 학습)을 통해 레이블이 없는 데이터의 중요한 Semantic feature를 쉽게 해독 가능한 요소로써 드러낼 수 있도록 학습
  • 이러한 표현은 분류, 회귀, 시각화 및 Policy learning(정책 학습) 등 많은 Downstream task에 유용하다.
  • 비지도 학습 연구의 상당 부분은 생성 모델링에 의해 추진되는데, 이는 관측된 데이터를 합성하거나 ‘생성’할 수 있는 능력이 데이터에 대한 어떤 형태의 이해를 수반한다고 믿기 때문이다.
• 그러나, 비지도 학습은 그 과정에서 어떤 Downstream task에 쓰일 지 알 수 없다.
  • 때문에 데이터의 두드러진 특성을 명시적으로 나타내는 Disentangled representations이 도움이 될 수 있다.
  • ex) Face Dataset - 얼굴 표정, 눈 색깔, 헤어스타일, 안경의 유무
• InfoGAN은 기존 GAN에 약간의 제약을 주어 생성 모델이 Representation을 학습할 때, Disentanlged representations(분리된 표현)을 학습하도록 도와준다.

이 논문에서는!

point) GAN 모델의 간단한 수정을 통해, 잠재 코드 c와 생성된 이미지 G(z, c) 사이의 Mutual information를 최대화하여 해석 가능하고 의미있는 표현(Disentangled representations)을 학습한다

• 단순하지만, 그 품질은 레이블 정보를 사용한 이전의 지도 학습과 견줄 수 있다.
• 논문의 나머지 부분에서는,
  • 상호 정보를 최대화하는 것이 어떻게 해석 가능한 표현을 초래하는지 설명
  • 이를 위한 간단하고 효율적인 알고리즘을 도출
• 실험 섹션에서는,
  • 비교적 깨끗한 데이터 세트에서 InfoGAN과 이전 접근법을 비교
  • 비지도 학습이 시행된 적 없던 복잡한 데이터 세트를 학습

Background : GAN, Mutual Informatin for Inducing

1) GAN

• Minimax game을 통해 심층 생성 모델을 훈련하는 프레임워크
  • 목표는 실제 데이터 분포 P_{data}(x)와 일치하는 Generator 분포 P_G(x)를 학습하는 것이다.
• 데이터 분포의 모든 x에 명시적으로 확률을 할당하는 대신, 랜덤 노이즈 변수 zP_{noise}(z)를 샘플 G(z)로 변환한다. → Generator 분포 P_G에서 샘플을 생성하는 Generator G를 학습한다.
• Discriminator D 는 실제 데이터 분포 P_{data}와 생성기의 분포 P_G의 샘플을 구별하는 것을 목표로 하여 학습한다.
• 수식은 아래와 같다.

2) Mutual Informatin for Inducing Latent codes

: Information Theoretic (정보 이론)

• 시그널에 존재하는 정보의 양을 측정하는 응용 수학의 한 갈래

 💡 정보 이론의 핵심 아이디어는 잘 일어나지 않는 사건(unlikely event)는 자주 발생하는 사건보다 정보량이 많다(informative)는 것. 아래의 세가지 조건을 만족하는 함수는 발생 가능한 사건이나 메세지의 확률 분포에 음의 로그를 취한 수식이다. 

• 자주 발생하는 사건은 낮은 정보량을 가진다. 발생이 보장된 사건은 그 내용에 상관없이 전혀 정보가 없다는 걸 뜻한다.
• 덜 자주 발생하는 사건은 더 높은 정보량을 가진다.
• 독립사건(independent event)은 추가적인 정보량(additive information)을 가진다. 예컨대 동전을 던져 앞면이 두번 나오는 사건에 대한 정보량은 동전을 던져 앞면이 한번 나오는 정보량의 두 배이다.
• 음의 로그를 취하는 정보 이론의 수식은 아래와 같다. 

• 예를 들어, 동전을 던져 앞면이 나오는 사건과 주사위를 던져 눈이 1이 나오는 사건의 정보량을 비교해 보면
  • 주사위 눈이 1이 나올 사건은 동전의 앞면이 나오는 사건보다 덜 자주 발생하므로 더 높은 정보량을 갖는다.
  • 위 수식에 적용해보면 아래와 같다고 할 수 있다.

Mutual Information for Inducing Latent Codes

• 정보 이론에서 X와 Y 사이의 상호 정보 I(X;Y) 는 무작위 변수 Y의 지식으로부터 학습된 무작위 변수 X에 대한 정보의 양을 측정한다. 상호 정보는 두 엔트로피 항의 차이로 표현될 수 있다.
• 직관적으로 I(X;Y)는 Y가 관측될 때 X의 불확실성을 감소시키는 것이다.
  • 만약 X와 Y가 독립적이라면, I(X;Y) = 0이 된다.

기본적인 GAN은 단순한 noise vector인 z를 사용하며 Generator가 이를 사용하는 방법에 제한을 가하지 않는다. 결과적으로 Generator는 z를 고도로 얽힌 방식으로 사용하게 되어 z의 개별 차원이 데이터의 의미적 특징과 일치하지 않을 수 있다.

• 왼쪽의 분포를 보면, 데이터들이 무질서하게 배치되어 있다는 것을 알 수 있다. → Entangled, 꼬여있다.
  • 이런 경우에서는 어떤 유의미한 정보를 파악하기 어렵게 된다.
  • 노이즈의 분포가 꼬여있기 때문에 노이즈를 연속적으로 변화시켜도 만들어지는 이미지가 연속적이지는 않게 된다.

• InfoGAN은 단일 비정형 노이즈 벡터를 사용하는 대신 입력 노이즈 벡터를 두 부분으로 분해한다.
  1. 압축할 수 없는 Noise source z
  2. 데이터 분포의 의미적 특징을 나타내는 잠재 코드 c
     • 잠재 코드들의 집합은 c1, c2, ..., cL로 표기한다.
     • 가장 간단하게 아래와 같은 Factored distribution를 가정할 수 있다.

그러나 쉬운 표기를 위해 모든 잠재 변수 c_i의 연결을 나타내기 위해 잠재 코드 c를 사용할 것이다.

• ex) MNIST
  • c1 - 0부터 9까지 digit type
  • c2, c3 - 회전과 글씨의 두께에 대한 continuous한 정보
• 다음으로 Generator 네트워크에 $z, c$ 를 모두 제공한다.
  • 따라서 G(z, c)가 될 테지만, 표준 GAN에서 Generator는 P_G(x|c) = P_G(x)를 만족하는 방법을 찾아 c를 자유롭게 무시할 수 있어, 이에 대처하기 위해 정보 이론적 정규화를 제안한다.
    • c가 무시될 수 있는 이유는 수식 상 x와 c가 전혀 상관 없는 값이기 때문
    • 이를 위해서, 잠재 코드 c와 Generator의 분포 G(z, c) 사이에 높은 상호 정보가 있어야 한다. 따라서 I(c;G(z,c)) 의 값이 무조건 높아야 한다.

Experiments

우리 실험의 첫 번째 목표는 Mutual Information이 효율적으로 최대화될 수 있는지 알아보는 것이고, 두 번째는 Generator를 사용하여 한 번에 하나의 Latent factor만 변화시킴으로써 InfoGAN이 Disentanlged representations을 학습할 수 있는지 여부를 평가하는 것이다

Mutual Information Maximization

잠재 코드 c와 생성된 이미지 G(z, c) 사이의 상호 정보가 제안된 방법으로 효율적으로 최대화될 수 있는지 평가해보자.

Disentangled Representation

💡 MNIST Dataset 사용하여 학습한 결과이다.
code는 길이가 3인 벡터
c1 - 각 숫자의 종류를 의미
c2 - 숫자의 기울기
c3 - 숫자의 너비
오른쪽으로 갈수록 해당하는 code element 값을 조금씩 변화시키며 생성

• (a)에서 분포 c1만을 사용하여 숫자를 바꾸어 출력하였다.
• (c)는 분포 c2를 조절하여 글씨의 기울기의 변화를 주었다.
• (d)는 분포 c3을 조절하여 글씨의 두께를 변화시켰다.
• 다른 데이터셋에서도 마찬가지로 좋은 결과를 냈다.
• 방위각, 높이(고도), 빛에 따른 변화, 너비 변화

• 회전, 너비 변화

• 안경의 유무, 헤어스타일, 감정의 변화 같은 고차원의 semantic 변화도 캡쳐해서 Disentnagled representation을 학습할 수 있었음