목록주성분분석 (2)
On the journey of
임베딩 임베딩의 종류는? 행렬 분해 기반 방법 말뭉치(corpus) 정보가 들어 있는 원래 행렬을 2개 이상의 작은 행렬로 쪼개는 방식 GloVe, Swivel 예측 기반 방법 어떤 단어 주변에 특정 단어가 나타날지 예측하거나, 이전 단어들이 주어졌을 때 다음 단어가 무엇일지 예측하거나, 문장 내 일부 단어를 지우고 해당 단어가 무엇일지 맞추는 과정에서 학습하는 방법 Word2Vec, FastText, BERT, ELMo, GPT 토픽 기반 방법 주어진 문서에 잠재된 주제를 추론하는 방식으로 임베딩을 수행하는 기법 LDA(Latent Dirichlet Allocation) 임베딩 평가방법은? 내적평가 -word embedding 자체의 성능을 측정하기 위해 specific/intermediate subt..
What is Machine Learning? "A Field of study that gives computer the ability to learn without being explicitly programmed" if-else문과 같은 수백 개의 조합으로 룰베이스로 코드를 짤 필요 없이 알아서 학습을 한다 Deep Learning 머신 러닝에서 쓰이는 학습 방법을 차용하여 머신러닝 알고리즘의 성능을 좀 더 올릴 수 있는 방법론이며 Feature Extractor이라고도 표현할 수도 있다 Representation Learning 딥러닝과 머신러닝의 간극 즈음에 자리하여 feature들을 조금 더 잘 표현하는 법을 학습한다 e.g.) shallow neural network Machine L..