베이즈 정리

개념
- 베이즈 정리는 이전의 경험과 현재의 증거를 토대로 어떤 사건의 확률을 추론하는 조건부 확률이론

I. 불확실성 추론의 대표적 확률이론, 베이즈의 정리(Bayes' theorem) 개요

가. 베이즈의 정리의 개념

- 베이즈 정리는 이전의 경험과 현재의 증거를 토대로 어떤 사건의 확률을 추론하는 조건부 확률이론

나. 베이즈의 정리 특징

- 불확실성 추론 : 직접 관측으로는 쉽게 얻어낼 수 없는 현상 추론에 용이

- 사후확률 : 사전지식P(A|B)으로부터 사후확률 P(B|A)를 추론

 

Ⅱ. 베이즈의 정리의 기반 이론

가. 조건부 확률(Condition Probablility)

- 사건 B가 일어났다는 조건 하에 사건 A가 일어날 확률

 

나. 전확률(Total Probability)

- 서로 배반인 사건 A1, A2, …, An 이 어떤 시행의 결과로 일어나고, 이들 사이의 완전계(A1, A2, .., An의 합집합은 전체집합:전사건)를 이룰 때 이 시행의 결과로 일어나는 임의의 사건 B에 대하여

P(B) = P(B∩A1) + P(B∩A2) + … + P(B∩An)

⇒ 조건부 확률을 적용하면

P(B) = P(A1)*P(B|A1) + P(A2)*P(B|A2) + … + P(An)*P(B|An)

 

 

Ⅲ. 베이즈의 정리 도출

- B를 표본공간 S 내의 임의의 사건이라 하고 서로 배반인 사건 A1, A2, …,

An 의 합(Union)이 전체공간 S라 하면, B 사건 근거로 Ai 사건이 발생할 확률

 

 

- 위의 공식은 A의 사건이 여러 개인 경우를 일반화하여 공식이 복잡해 보임.

- 문제에서는 A사건이 주로 하나만 제시되며 아래의 베이즈 정리로 풀이 가능함.

예시 ) P(감기|기침) = P(기침|감기) * P(감기) / P(기침)

 

Ⅳ. 베이즈 정리 활용

- 나이브 베이즈 분류기(Naïve Bayes Classifier) : 주로 스팸 필터나 키워드 검색을 활용한 문서 분류에 사용되는 지도 학습 분류기 / 모든 특성값은 서로 독립이다

댓글