On the journey of

CSE URP라는 카테고리 안에 글 쓸 날도 얼마 안 남은 것 같다 :) 자세한 것은 나아중에 적겠지만, 우선은..! 그렇다. StarGAN에서의 Instance Normalization에 대한 Key 질문은 아래와 같다. "왜 StarGAN에서는 (Image Classification에서 주로 사용되는) Batch Norm이 아닌 Instance Norm이 사용되었는가?" 이 질문의 답변에 앞서 Batch Norm과 Instance Norm에 대해서 간략하게 살펴보자. - Batch Norm을 수식으로 표현하면 아래와 같다. Instance Norm을 수식으로 표현하면 다음과 같다. (수식에 따르면) Batch Norm은 "normalize all images across batch and spatia..

* 본 포스팅에 포함된 강의안 캡처 및 내용의 저작권은 모두 아래 링크(강의) 에 있음을 밝힙니다. Original Lec. https://www.youtube.com/watch?v=DWdtr_IURkU&list=PLSAJwo7mw8jn8iaXwT4MqLbZnS-LJwnBd&index=2 Linear Regression : 선형회귀. 독립변수 X와 종속변수 Y가 있을 때 두 변수 간 상관관계와 영향을 파악하는 것도 있지만, 둘 다 1차원 벡터라 하면 x --> y로 가는 함수를 만드는 것이 목표 ​ (Linear) Hypothesis ​f(x) = wx + b 의 꼴로 잡아놓았을 때, 다양한 f(x)가 존재할 수 있는데 각각의 f를 hypothesis, 가설이라고 부른다 데이터 분포를 설명하는 가정, 가..

임베딩 임베딩의 종류는? 행렬 분해 기반 방법 말뭉치(corpus) 정보가 들어 있는 원래 행렬을 2개 이상의 작은 행렬로 쪼개는 방식 GloVe, Swivel 예측 기반 방법 어떤 단어 주변에 특정 단어가 나타날지 예측하거나, 이전 단어들이 주어졌을 때 다음 단어가 무엇일지 예측하거나, 문장 내 일부 단어를 지우고 해당 단어가 무엇일지 맞추는 과정에서 학습하는 방법 Word2Vec, FastText, BERT, ELMo, GPT 토픽 기반 방법 주어진 문서에 잠재된 주제를 추론하는 방식으로 임베딩을 수행하는 기법 LDA(Latent Dirichlet Allocation) 임베딩 평가방법은? 내적평가 -word embedding 자체의 성능을 측정하기 위해 specific/intermediate subt..

Mutual Information for Inducing Latent Codes - 2 목표) 기존 GAN에서 Semantic 정보를 담당하는 Latent 벡터를 별도로 분류하여 Semantic 정보를 컨트롤할 수 있는 새로운 GAN 모델 개발 배경 일반적인 GAN은 하나의 Noise vector z로 가짜를 생성 ex) Mnist 숫자이미지 생성 가능, but 각도/굵기 등의 semantic 정보 컨트롤은 불가능 이러한 정보들이 학습 시 고려되지 않아 z에 복잡하게 얽혀져 있음 제안 InfoGAN은 위 문제를 해결하기 위해 두가지 Input vector를 사용: z&c z: 일반적인 GAN에서 사용하는 noise vector c: semantic 정보를 컨트롤 하기 위한 추가 벡터 P(c1,c2,.....