[Probability] Covariance & Correlation

두 개의 확률 변수 X와 Y에 대한 공분산(Covariance)은 다음과 같이 정의됩니다:

\(\mathrm{Cov}(X,Y) = \mathrm{E}( (X-\mathrm{E}(X)) (Y - \mathrm{E}(Y)) ) = \mathrm{E}(XY) - \mathrm{E}(X) \mathrm{E}(Y) \)

공분산 값은 양수 또는 음수 또는 0(확률 변수가 상호 독립일 경우)을 갖습니다.

두 개의 확률 변수에 대한 의존성을 나타내는 지표는 상관관계(Correlation)이며, 다음과 같이 정의됩니다:

\( \mathrm{Corr}(X,Y) = \displaystyle{\frac{\mathrm{Cov}(X,Y)}{\sqrt{\mathrm{Var}(X)\mathrm{Var}(Y)}}} \)

이며, -1과 +1 사이의 값을 갖습니다. 마찬가지로 확률 변수가 상호 독립일 경우 값은 0입니다.