📗강의노트/KOCW 확률과 통계
[KOCW 확률통계] 제 12강. 조건부 평균과 공분산
제 12강. 조건부 평균과 공분산Continuous case일 때,μY|X=E[Y|X=x]=∫∞−∞yfY|X(y|x)dy fX|Y(x|y)=fXY(x,y)fY(y) (Bayesian Theorem에 의한 것이다.) E[X|Y=y]=y=g(Y)E[g(x)]=∫g(x)fX(x)dxE[g(X,Y)]=∫∫g(x,y)fXY(x,y)dxdy 증명E[E[X|Y]]=E[∫∞−∞xfX|Y(x|y)dx]=∫∞−∞[∫∞−∞xfX|Y(x|y)dx]fY(y)dy=∫∞−∞[∫∞−∞xfX|Y(x|y)fY(y)dxdy]=∫∞−∞[∫∞−∞xfX|Y(x,y)fY(y)fY(y)dydx]=∫∞−∞xfX(x)dx=E[X]Covariance & Correlation Coefficient Cov(X,Y)=σXY=E[(X−μx)(Y−μY)]=E[..
[KOCW 선형대수] 11강. 연합확률밀도함수와 조건부확률밀도함수
제 11강. 연합확률밀도함수와 조건부확률밀도함수(PMF = Probability mass function, 확률 질량 함수)(1) Joint PMF ?\mathbf{F_{XY}(x,y)}\begin{cases} \frac{1}{8} ....x=1,y=1\\ \frac{5}{8} ....x=1,y=2\\ \frac{1}{4} ....x=2,y=1\\ 1 ....x=2,y=2\\ \end{cases}FXY(x,y)⎩⎪⎪⎪⎨⎪⎪⎪⎧81....x=1,y=185....x=1,y=241....x=2,y=11....x=2,y=2discrete한 경우, P_{XY}(x,y)PXY(x,y)로 표현한다. 다음과 같다면P_{XY}(1,1) = \frac{1}{8}PXY(1,1)=81이다.Continuous한..
[KOCW 확률통계] 10강. 다중변수 및 연합분포
제 10강. 다중변수 및 연합분포1. Joint CDF of Bivariate R.Vjoint CDF : 𝑃[𝑋≤𝑥,𝑌≤𝑦]=𝐹𝑥𝑦(𝑥,𝑦) marginal CDF : 𝐹𝑥(𝑥),𝐹𝑌(𝑦) 1-1. Properties of joint CDF(1) 0≤𝐹𝑋𝑌(𝑥,𝑦)≤1 (2) if 𝑥1≤𝑥2 and 𝑦1≤𝑦2 하나를 고정해도 값은 커진다. 𝐹𝑋𝑌(𝑥1,𝑦1)≤𝐹𝑋𝑌(𝑥2,𝑦1)≤𝐹𝑋𝑌(𝑥2,𝑦2) 𝐹𝑋𝑌(𝑥1,𝑦1)≤𝐹𝑋𝑌(𝑥1,𝑦2)≤𝐹𝑋𝑌(𝑥2,𝑦2) (3) lim𝑥,𝑦−>∞𝐹𝑋𝑌(𝑥,𝑦)=𝐹𝑋𝑌(∞,−∞)=1 (4) lim𝑥−>∞𝐹𝑋𝑌(𝑥,𝑦)=𝐹𝑋𝑌(∞,𝑦)=0 lim𝑦−>∞𝐹𝑋𝑌(𝑥,𝑦)=𝐹𝑋𝑌(𝑥,−∞)=0 (5) lim𝑥−>𝑎+𝐹𝑋𝑌(𝑥,𝑦)=𝐹𝑋𝑌(𝑎,𝑦) lim𝑥−>𝑏+𝐹𝑋𝑌(𝑥,𝑦)=𝐹..
[KOCW 확률통계] 09강. 정규분포
제 09강. 정규분포 Normal Distribution ( Gaussian ) Random Variable X : 연속적인 형태이다. pdf : 𝑓𝑋(𝑥)=12𝜋𝜎2𝑋√𝑒−12𝜎2𝑋(𝑥−𝜇𝑋)2 파라미터는 평균과 분산이다.𝑁(𝜇𝑋,𝜎2𝑋) 이는 평균을 기준으로 대칭적이고, 종 모양을 띄고있다.𝜎𝑋σX가 크면 분포가 넓어지고 𝜎𝑋σX가 작아지면 분포가 좁아진다. CDF : 𝐹𝑋(𝑥)=∫𝑥−∞12𝜋𝜎2𝑋√𝑒−12𝜎2𝑋(𝑡−𝜇𝑋)2𝑑𝑡 𝑢=𝑡−𝜇𝑋𝜎𝑋 라고 가정하자. ∫𝑥−𝜇𝑋𝜎𝑋−∞12𝜋√𝑒−𝑢22𝑑𝑢=Φ(𝑥−𝜇𝑋𝜎𝑋) Φ(−𝑥)=1−Φ(𝑥) Normal Approximation to Binomial Dist 𝐵(𝑛,𝑝)−>𝑁(𝑛𝑝,𝑛𝑝(1−𝑝)) 𝑃[𝑎≤𝑋≤𝑏]=𝑃[𝑎−𝑛𝑝𝑛𝑝(𝑎−𝑝)√≤𝑍≤𝑏−𝑛𝑝𝑛𝑝..
[KOCW 확률통계] 08강. 지수분포와 어랑분포
제 08강. 지수분포와 어랑분포 Poisson Distribution Random Value X가 시간동안에 베르누이 분포에서 성공한 events의 수를 말한다.𝑃𝑋(𝑋=𝑘)=𝜆𝑘𝐾!𝑒−𝜆,𝐾=0,1,2,⋯ 𝐸[𝑋]=𝜆 𝜎2𝑋=𝜆 Exponential Distribution Random Value X는 lifetime이다. 최대 time까지 살아남을 확률을 말한다.pdf : 𝑓𝑋(𝑥)=𝜆𝑒−𝜆𝑥 CDF : 𝐹𝑋(𝑥)=∫𝑥0𝜆𝑒−𝜆𝑡𝑑𝑡=1−𝑒−𝜆𝑥=𝑃(𝑋≤𝑥) 결국 time x까지 살아남을 확률을 말하는 것이다.𝐸[𝑋]=1𝜆 𝐸[𝑋2]=2𝜆2 𝜎2𝑋=1𝜆2 그리고 앞 장의 Geometric distribution 처럼 exponential distribution도 Forgetfulness Property..
[KOCW 확률통계] 07강. 여러가지 이산확률분포
제 07강. 여러가지 이산확률분포 Chevyshev Inequality𝐸[(𝑋−𝑋̂)2]를 minimize하기 위해 𝑋̂를 평균으로 고른다여기서 𝑋̂로 고른 평균에서부터 얼마나 멀리 떨어져있는지 확률을 말한다.𝑃[|𝑋−𝐸[𝑋]|≥𝑎]≤𝜎2𝑋𝑎2,𝑎>0 Special Prob Distributions Bernoulli Distribution ( 베르누이 분포 ) Random Value X가 Binary하다.예를 들어,𝑃[𝑠𝑢𝑐𝑐𝑒𝑠𝑠]=𝑃 𝑃[𝑓𝑎𝑖𝑙𝑢𝑟𝑒]=1−𝑃처럼 두 가지 경우로만 나뉘는 것을 말한다. 이 때, 𝐸[𝑋]=𝑃,𝜎2𝑋=𝑃(1−𝑃)이다.Binomial Distribution 베르누이 분포내에서 n번의 시도를 하는데, 성공할 확률이다.𝐵(𝑛,𝑝)라고 쓰는데 이는 다음과 같이 풀어쓴다. 𝑃𝑋(..