[Data Science / Probability] Bayes' Theorem

\(A_1, ..., A_n\)이 샘플 공간의 분할이면, 사건 \(B\)의 조건 하에 사건 \(A_i\)의 Posterior Probability는 확률 \(P(A_i)\)와 \(P(B \mid A_i)\)를 이용하여 다음과 같이 구할 수 있다.

\(\displaystyle{ P(A_i \mid B) = \frac{P(A_i)P(B \mid A_i)}{\sum_{j=1}^{n}{P(A_j)P(B \mid A_j)}} }\)

이를 Bayes' Theorem이라고 한다.

Bayes' Theorem은 확률이론에 있어 매우 중요한 결론이다. 이는 새로운 정보가 기존의 확률 정보의 업데이트 또는 개정에 어떻게 유용하게 사용될 수 있는가에 대한 방법을 제시해 주기 때문이다. 어떤 경우에 있어 Prior Probability \(P(A_i)\)는 극히 적은 정보를 기반으로 "추측"되어야 할 수도 있는데 새로운 정보가 추가됨에 따라 이러한 확률을 향상시키는 것이 매우 중요하다. Bayes' Theorem은 이에 대한 방법을 제공한다.

증명

\(\displaystyle{ P(A_i \mid B) = \frac{P(A_i \cap B)}{P(B)} = \frac{P(A_i)P(B \mid A_i)}{P(B)} = \frac{P(A_i)P(B \mid A_i)}{\sum_{j=1}^{n}{P(A_j)P(B \mid A_j)}} }\)

* 앞서 포스팅 된 "Law of Total Probability"가 증명에 활용 됨