나이브 베이즈

기초 수학

조합

순서를 상관하지 않고 뽑는 것

순열

순서를 고려하고 뽑는 것

사건 A가 일어날 확률

P(A) = n(A) / n(S)

(A 경우) / (전체 경우)

P(A) = A 사건이 일어날 확률

조건부 확률

사건 A가 일어났다고 가정했을때, 사건 B가 일어날 확률

P(B | A) = P(A∩B) / P(A) (단, P(A) > 0)

확률의 곱셈 정리

P(A∩B) = P(A)P(B|A) = P(B)P(A|B) (단, P(A) > 0 && P(B) > 0)

P(B | A) = P(A∩B) / P(A)

P(A | B) = P(A∩B) / P(B)

P(A∩B) = P(A)∗P(A∩B) / P(A) = P(B)∗P(A∩B) / P(B)

독립과 종속

독립 : 사건 A가 일어나거나 일어나지 않는 것이 사건 B가 일어날 확률에 영향을 주지 않을 때

P(A∩B) = P(A)P(B)= P(B)P(A) -> 독립인 사건의 곱셈정리

종속 : 사건 A가 일어나거나 일어나지 않는 것이 사건 B가 일어날 확률에 영향을 줄 때

베이즈 정리

두 확률 변수의 사전 확률과 사후확률 사이의 관계를 나타내는 정리

베이즈 정리는 사전확률로부터 사후확률을 구할 수 있다.

# 사후확률 : 시간적으로 나중에 일어나는 사건을 그보다 앞서 일어나는 사건의 전제로 사용하는 조건부 확률

사건 B가 먼저 일어난 후 사건 A가 일어날 때

P(B|A) : 사후 확률, 후에 일어나는 사건 A를 전제로 하는 조건부 확률

P(B) : 사전 확률, 사건 A가 일어나기 전 사건 B가 일어날 확률

P(A|B) : 가능도, 이미 알고 있는 사건이 발생했다는 조건 하에 다른 사건이 발생할 확률

P(A) : 관찰값, 사건 B가 일어난 후에 사건 A가 일어날 확률

-> 좌변, 우변 모두 조건부 확률 사용, 조건부 확률의 전제 조건이 바뀜

-> 좌변과 우변의 전제 및 조건부 확률이 다른 이유 -> P(B|A)가 사후 확률이기 때문이다

사건 B가 사건 A가 일어나는데 얼마나 영향을 주는지 표현할 수 있다.

40/100 = 2/5 = P(B|A) 60/100 = 3/5 = P(C|A)

식을 정리하면 P(A|B)∗P(B)/(P(A|B)∗P(B) + P(A|C)∗P(C)) = P(A|B) ∗ P(B)/P(A)

베이즈 정리 활용

1) 상자 A를 선택할 확률 * 그 공이 빨간색일 확률

1/2 * 2/3 = 1/3

2) 상자 B를 선택할 확률 * 그 공이 빨간색일 확률

1/2 * /3 = 1/6

빨간 공이 상자 A에서 나올 확률

1) / 1) + 2) = (1/3)/(1/3)+(1/6) = 2/3