728x90

제 01강. 조건부확률과 Bayes 정리

기본적인 확률과 통계에 대한 지식을 짚어보고 시작해보자.

(1) Sample Space -> S(set)

(2) Event(A) : $A \subset S$

$P (A)$ : A가 발생할 확률을 말한다.

(3) Conditional Probabilities

베이지안, 조건부 확률이다.

$P (B | A) = \frac{P (B \cap A)}{P (A)} = \frac{P ((B \cap A) | S)}{P (A | S)}$

A가 조건으로 있을 때, B가 발생할 확률을 말한다.

S는 subspace라 굳이 표기하지 않고 중간 과정만 사용한다.

(4) Total Probability

$P (A) = P (A_{1}) + P (A_{2}) + \dots + P (A_{n})$ : 서로 겹치지 않는 "배반사건"들의 합이다.

{ $A_{1}, A_{2}, \dots, A_{n}$ } : partition of "A"

$P (A_{1}) = P (A_{1} \cap A) = P (A | A_{1}) P (A_{1})$

그렇다면 결국 다음과 같다.

$P (A) = \sum_{i = 1}^{n} P (A | A_{i}) P (A_{i})$

(5) Bayesian Theorem

$P (B | A) = \frac{P (B \cap A)}{P (A)} = \frac{P (A | B) P (B)}{P (A)}$

$P (A | B) = \frac{P (A \cap B)}{P (B)}$

$A_{i}$ : original. input이지만 잘 모른다.

$A$ : 이미 관찰된 데이터로 output에 해당한다.

조건의 위치를 바꿔가며 문제를 푸는 것이 바로 Bayesian 이다.

Binary Symmetric Channel

input symbols : { $x_{1}, x_{2}$ } = transition

output symbols :{ $y_{1}, y_{2}$ } = receiver

둘 다 0아니면 1의 값을 갖는다.

$P_{11} = P (y_{1} | x_{1})$ : 1번식

$P_{12} = P (y_{2} | x_{1})$ : 2번식

$P_{22} = P (y_{2} | x_{2})$ : 3번식

$P_{21} = P (y_{1} | x_{2})$ : 4번식

1,2번식 & 3,4번식의 합은 각각 1이다. 조건이 같고 남은 모든 경우의 수의 합이기 때문이다.

에러의 경우는 다음과 같다.

$P_{e r r o r} = P (y_{2} | x_{1}) P (x_{1}) + P (y_{1} | x_{2}) P (x_{2})$

$y_{2}$ 를 받았을 때, $x_{1}$ 이 전송되었을 확률.

$P (x_{1} | y_{2}) = \frac{P (y_{2} | x_{1}) P (x_{1})}{P (y_{2})} = \frac{P (y_{2} | x_{1}) P (x_{1})}{P (y_{2} | x_{1}) P (x_{1}) + P (y_{2} | x_{2}) P (x_{2})}$

Independent Events

만약에 A와 B가 독립이라면

$P (B | A) = P (B) a n d P (A | B) = P (A)$

$P (B | A) = \frac{P (B \cap A)}{P (A)} = P (B)$

$P (A \cap B) = P (A) P (B)$

A와 B가 독립이라면

$\bar{A} 와 B, \bar{B} 와 \bar{A}, \bar{B} 와 A$ 는 모두 독립이다.

( $\bar{A} = 1 - P (A)$ )

Combined Experiments

두 개의 동전을 던지는 경우처럼 $S_{1}, S_{2}$ 가 있을 때,

$x_{1} \in S_{1}, x_{2} \in S_{2}$ 이다.

728x90

저작자표시

[KOCW 확률통계] 01강. 조건부확률과 Bayes 정리

제 01강. 조건부확률과 Bayes 정리

(1) Sample Space -> S(set)

(2) Event(A) : $A \subset S$

(3) Conditional Probabilities

(4) Total Probability

(5) Bayesian Theorem

Binary Symmetric Channel

Independent Events

Combined Experiments

티스토리툴바

제 01강. 조건부확률과 Bayes 정리

(1) Sample Space -> S(set)

(2) Event(A) : 𝐴⊂𝑆

(3) Conditional Probabilities

(4) Total Probability

(5) Bayesian Theorem

Binary Symmetric Channel

Independent Events

Combined Experiments

티스토리툴바

(2) Event(A) : $A \subset S$