정리노트

이전 Probability Overview(1),(2)에서 다룬 내용은 이번포스팅을 위한 준비운동이었고, 이제부터 본격적으로 Machine Learning Model의 큰 뿌리중 하나라고 볼 수 있는 Bayes Classifier를 살펴보도록 하겠다. ◆ 목차 ◎ Bayes Rule (posterior, prior, likelihood) ◎ Discriminative Model VS Generative Model ○ Examples (Classification Problem에서의 Probabilistic Setting) ◎ Bayes Classifier ◎ Bayes Rule (posterior, prior, likelihood) Bayes Rule은 두 Random Variable의 Prior Prob..

이전 포스팅 (1)에서는 Random Variable하나를 가지고 어떤 확률분포를 따르는지, 혹은 가정하는지에 대해 간단히 다뤄보았다. 이번 포스팅에서는 여러개의 Random Variable에관한 내용이며, 큰 줄기로는 다음 포스팅에 다룰 Bayes Classifier를 이해하기위한 개념들을 정리해볼 것이다. ◆목차 ◎ Jointly Distribured Random Variables(결합 확률변수) ◎ Conditional distribution ◎ Independent Random Variables ◎ Jointly Distribured Random Variables(결합 확률변수) '결합'확률 분포는 여러개의 Random Variable의 확률변수를 종합해서 고려한 확률 분포를 의미한다. 기호로는 ..

◆목차 ◎ Random Variable(확률변수) ○ Discrete Random Variable ○ Continous Random Variable ○Expectation ◎ Random Variable 확률변수의 의미는, Random한 실험이나 관측등을 진행했을 때, 그 변수의 값이 존재할 확률을 수치적으로 표현한 변수를 의미하며, 이때 존재가능한 모든 변수의 값의 집합을 Sample Space라고 한다. Random Variable의 종류는 크게 연속된 값을 표현하는 변수(Continous)와 불연속적인 값을 표현하는 변수(Discrete) 두가지로 나눌 수 있다. Continous Random Variable와 Discrete Random Variable은 각각 Continous Sample Spa..

PCA(Principal Component Analysis) PCA는 Principal Component Analysis의 약자로, 말 그대로 주성분을 분석하여 Minor한 Component를 없앰으로서 Machine Learning에서는 주로 record수에 비해 feature 수가 많은(High Dimensionality) 데이터셋의 차원수를 낮추고 싶을때 주로 사용한다. 먼저 PCA의 기본개념인 SVD에대해 이야기해보도록 하자. 한 Matrix는 Left Singular vector matrix와 Singular Value Matrix, 그리고 Right Singular Vector matrix, 3가지로 Decomposition이 될 수 있으며, 이때, Singular Value matrix의 각..