전확률정리,total_probability_theorem

Difference between r1.26 and the current

@@ -20,7 +20,7 @@
$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$ (Bayes' rule의 가장 간단한 경우)
에 $A=A_i$ 를 적용하면 다음을 얻을 수 있다.
$P(A_i|B)=\frac{P(B|A_i)P(A_i)}{\sum_{i=1}^{n}P(B|A_i)P(A_i)}$
이것을 [[베이즈_정리,Bayes_s_theorem]]라고 한다.
이것을 [[베이즈_정리,Bayes_theorem]]라고 한다.

(Schaum Prob, RV, and RP)

@@ -61,14 +61,14 @@
$=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdots+P(A|B_n)P(B_n)$
$=\sum_{i=1}^{n}P(A|B_i)P(B_i)$

이 사실은 [[베이즈_정리,Bayes_s_theorem]]에 쓰인다.
이 사실은 [[베이즈_정리,Bayes_theorem]]에 쓰인다.

(Leon-Garcia p.63)
----
[[분할,partition]]의 정의와 [[조건부확률,conditional_probability]]의 정의로부터 '''전확률 정리'''를 이끌어 낸다.
(유도과정은 분할 페이지에도 있음.)

'''전확률정리'''로부터 [[베이즈_정리,Bayes_s_theorem]]를 이끌어낸다.
'''전확률정리'''로부터 [[베이즈_정리,Bayes_theorem]]를 이끌어낸다.



@@ -124,7 +124,7 @@


관련:
[[베이즈_정리,Bayes_s_theorem]]
[[베이즈_정리,Bayes_theorem]]
[[확률,probability]]
[[조건부확률,conditional_probability]]

@@ -135,5 +135,4 @@
[[https://terms.naver.com/entry.naver?docId=3338097&cid=47324&categoryId=47324 수학백과: 전체 확률의 법칙]]

Up: [[확률,probability]]


AKA 전체 확률에 대한 정리(theorem on total probability), 전체확률법칙(law of total probability), 전확률공식(total probability formula)



[edit]

1. 설명

표본공간 $S$ 의 분할 $A_1,\cdots,A_n$ 이 있을 때, 사건 $B$ 의 확률을 구하는 방법.
$P(B)=$
$\sum_i P(B\cap A_i)$ ...바로 교집합의 확률을 더하는 것이다.
$\sum_i P(B|A_i)P(A_i)$

의의: unconditional probability $P[B]$ 를, weighted conditional probabilities(조건부확률,conditional_probability)의 합 $\sum_i P(B\cap A_i)$ 으로 구할 수 있다.
$S$ 내에
  • 분할로 이루어진 $n$ 개의 사건 $A_1,A_2,\cdots,A_n$ 이 있다. (mutually exclusive and exhaustive)
  • 어떤 사건 $B$ 가 있다.
그러면 사건 $B$ 의 전확률(total probability)은
$P(B)=\sum_{i=1}^{n}P(B\cap A_i)=\sum_{i=1}^{n}P(B|A_i)P(A_i)$

여기에 더해, 조건부확률,conditional_probability 정의로부터 나온 식
$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$ (Bayes' rule의 가장 간단한 경우)
에 $A=A_i$ 를 적용하면 다음을 얻을 수 있다.
$P(A_i|B)=\frac{P(B|A_i)P(A_i)}{\sum_{i=1}^{n}P(B|A_i)P(A_i)}$
이것을 베이즈_정리,Bayes_theorem라고 한다.

(Schaum Prob, RV, and RP)

[edit]

2. 가장 간단한 경우 CHK

A가 두 개로 분할된 경우
$A(\subset S)$ 의 분할 $A_1,A_2$ 가 있고 $B\subset A$ 가 있을 때
$\begin{align}P(B)&=P(B\cap A)\\&=P(B\cap A_1)+P(B\cap A_2)\\&=P(B|A_1)P(A_1)+P(B|A_2)P(A_2)\end{array}$

[edit]

3. 설명 계속

$A_1,\cdots,A_n$ 이 $S$ 의 분할(partition)일 때,
$P(B)=\sum_i P(B\cap A_i) = \sum_i P(A_i)P(B|A_i)$

i.e.
P(B)
= P(B∩A1) + P(B∩A2) + ... + P(B∩An)
= P(A1) P(B|A1) + P(A2) P(B|A2) + ... + P(An) P(B|An)
표본공간,sample_space $S$ 가 상호 배반인 $\lbrace A_1,A_2,\cdots,A_N\rbrace$ 사건의 합으로 표현할 수 있다 가정한다. 즉
$S=\bigcup_{n=1}^{N}A_n \textrm{ with }A_i\cap A_j=\emptyset\textrm{ for all }i\ne j$

그러면 어떤 사건,event $B$ 는 다음과 같이 표현할 수 있다.
$B=\bigcup_{n=1}^{N}(B\cap A_n)$

사건 $B$ 의 확률은 상호 배반이니까 단순히 더하기만 하면 되므로
$P(B)=\sum_{n=1}^{N}P(B\cap A_n)=\sum_{n=1}^{N}P(A_n)P(B|A_n)$

from http://contents.kocw.or.kr/document/lec/2012/Hufs/KimMyoungJin/05.pdf p10
표본공간,sample_space S의 분할,partition
$B_1,B_2,\cdots,B_n$ 이 있을 때,
어떤 사건,event A는 서로 배반인 사건의 합집합으로 나타낼 수 있다.
$A=A\cap S$
$=A\cap(B_1\cup B_2\cup\cdots\cup B_n)$
$=(A\cap B_1)\cup(A\cap B_2)\cup\cdots\cup(A\cap B_n)$
따라서 A의 확률,probability은,
$P(A)=P(A\cap B_1)+P(A\cap B_2)+\cdots+P(A\cap B_n)$
$=P(B_1)P(A|B_1)+P(B_2)P(A|B_2)+\cdots+P(B_n)P(A|B_n)$
$=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+\cdots+P(A|B_n)P(B_n)$
$=\sum_{i=1}^{n}P(A|B_i)P(B_i)$

이 사실은 베이즈_정리,Bayes_theorem에 쓰인다.

(Leon-Garcia p.63)
분할,partition의 정의와 조건부확률,conditional_probability의 정의로부터 전확률 정리를 이끌어 낸다.
(유도과정은 분할 페이지에도 있음.)

전확률정리로부터 베이즈_정리,Bayes_theorem를 이끌어낸다.



[edit]

4. from RR wiki; to CLEANUP


B는 임의의 사건,event이고, 상호배타적,mutually_exclusive 사건 n개:
$A_1,\cdots,A_n$ 가 있고
Ai일 때 B일 조건부확률,conditional_probability이 $P(B|A_i)$ 이면
$P(B)=P(B|A_1)P(A_1)+\cdots+P(B|A_n)P(A_n)$
다음 두 조건
이 만족할 때, 임의의 사건 $B$ 의 확률은
$P(B)=\sum_{i=1}^{n}P(A_i)P(B|A_i)$

[edit]

5. Example

Q: 1~10에서 두 숫자를 뽑는다. without replacement. 두번째 숫자가 5일 확률?
Sol.
A1 : 첫번째에 1을 뽑는 사건
A2 : 첫번째에 2를 쁩는 사건
...
A10 : 첫번째에 10을 뽑는 사건
B : 두번째에 5를 뽑는 사건
P(B)?
$A_1\cup A_2\cup \cdots \cup A_{10} = \Omega$
$A_i\cap A_j = \emptyset \textrm{ if } i\ne j$

$P[A_i]=\frac1{10}$
$P[B|A_1]=\frac19$
$P[B|A_2]=\frac19$
...
$P[B|A_i]=\frac19$ if $i\ne5$

$P[B]=\sum_{i=1\\i\ne5}^{10}P[B|A_i]P[A_i]=\frac19 \times \frac1{10} \times 9 = \frac1{10}$

(Example from 랜덤프로세스입문 금오공과대학교 임완수 http://kocw.net/home/search/kemView.do?kemId=1265854)

[edit]

6. Example 2

생산품 50%를 A라인, 30%를 B라인, 20%를 C라인에서 만들고,
각각 3% 5% 6%의 불량품이 생김.
임의로 선택한 제품이 불량품일 확률은?

임의로 하나의 제품을 선택했을 때 A라인에서 생산되었을 사건을 A,
마찬가지로 B, C 정의하고, 불량품일 사건을 D라 하면
P(D) = P(A∩D) + P(B∩D) + P(C∩D)
= P(A)·P(D|A) + P(B)·P(D|B) + P(C)·P(D|C)
= 0.5 × 0.03 + 0.3 × 0.05 + 0.2 × 0.06 = 0.042

from http://blog.naver.com/mykepzzang/220834919339