📗강의노트
[KOCW 확률통계] 09강. 정규분포
제 09강. 정규분포 Normal Distribution ( Gaussian ) Random Variable X : 연속적인 형태이다. pdf : 𝑓𝑋(𝑥)=12𝜋𝜎2𝑋√𝑒−12𝜎2𝑋(𝑥−𝜇𝑋)2 파라미터는 평균과 분산이다.𝑁(𝜇𝑋,𝜎2𝑋) 이는 평균을 기준으로 대칭적이고, 종 모양을 띄고있다.𝜎𝑋σX가 크면 분포가 넓어지고 𝜎𝑋σX가 작아지면 분포가 좁아진다. CDF : 𝐹𝑋(𝑥)=∫𝑥−∞12𝜋𝜎2𝑋√𝑒−12𝜎2𝑋(𝑡−𝜇𝑋)2𝑑𝑡 𝑢=𝑡−𝜇𝑋𝜎𝑋 라고 가정하자. ∫𝑥−𝜇𝑋𝜎𝑋−∞12𝜋√𝑒−𝑢22𝑑𝑢=Φ(𝑥−𝜇𝑋𝜎𝑋) Φ(−𝑥)=1−Φ(𝑥) Normal Approximation to Binomial Dist 𝐵(𝑛,𝑝)−>𝑁(𝑛𝑝,𝑛𝑝(1−𝑝)) 𝑃[𝑎≤𝑋≤𝑏]=𝑃[𝑎−𝑛𝑝𝑛𝑝(𝑎−𝑝)√≤𝑍≤𝑏−𝑛𝑝𝑛𝑝..
[KOCW 확률통계] 08강. 지수분포와 어랑분포
제 08강. 지수분포와 어랑분포 Poisson Distribution Random Value X가 시간동안에 베르누이 분포에서 성공한 events의 수를 말한다.𝑃𝑋(𝑋=𝑘)=𝜆𝑘𝐾!𝑒−𝜆,𝐾=0,1,2,⋯ 𝐸[𝑋]=𝜆 𝜎2𝑋=𝜆 Exponential Distribution Random Value X는 lifetime이다. 최대 time까지 살아남을 확률을 말한다.pdf : 𝑓𝑋(𝑥)=𝜆𝑒−𝜆𝑥 CDF : 𝐹𝑋(𝑥)=∫𝑥0𝜆𝑒−𝜆𝑡𝑑𝑡=1−𝑒−𝜆𝑥=𝑃(𝑋≤𝑥) 결국 time x까지 살아남을 확률을 말하는 것이다.𝐸[𝑋]=1𝜆 𝐸[𝑋2]=2𝜆2 𝜎2𝑋=1𝜆2 그리고 앞 장의 Geometric distribution 처럼 exponential distribution도 Forgetfulness Property..
[KOCW 확률통계] 07강. 여러가지 이산확률분포
제 07강. 여러가지 이산확률분포 Chevyshev Inequality𝐸[(𝑋−𝑋̂)2]를 minimize하기 위해 𝑋̂를 평균으로 고른다여기서 𝑋̂로 고른 평균에서부터 얼마나 멀리 떨어져있는지 확률을 말한다.𝑃[|𝑋−𝐸[𝑋]|≥𝑎]≤𝜎2𝑋𝑎2,𝑎>0 Special Prob Distributions Bernoulli Distribution ( 베르누이 분포 ) Random Value X가 Binary하다.예를 들어,𝑃[𝑠𝑢𝑐𝑐𝑒𝑠𝑠]=𝑃 𝑃[𝑓𝑎𝑖𝑙𝑢𝑟𝑒]=1−𝑃처럼 두 가지 경우로만 나뉘는 것을 말한다. 이 때, 𝐸[𝑋]=𝑃,𝜎2𝑋=𝑃(1−𝑃)이다.Binomial Distribution 베르누이 분포내에서 n번의 시도를 하는데, 성공할 확률이다.𝐵(𝑛,𝑝)라고 쓰는데 이는 다음과 같이 풀어쓴다. 𝑃𝑋(..
[핸즈온 머신러닝] 제 9장 연습문제 풀이
Exercise Part. 9Tensorflow1. 계산을 집접 실행하지 않고 계산 그래프를 만드는 주요 장점과 단점은 무엇인가요?(1) 장점 : 텐서플로가 자동 미분 가능 / 병렬로 계산 가능 / 내부 구조를 살피기 쉬움(2) 단점 : 익숙하지 않음 / 단계별 디버깅 수정이 어려움2. a_val = a.eval(session=sess)와 a_val = sesss.run(a)는 동일한 문장인가요?¶그렇다. 동일하다.3. a_val, b_val = a.eval(session=sess),b.eval(session=sess)와 a_val,b_val = sess.run([a,b])는 동일한 문장인가?부수효과로 인해 동일하지 않다. 첫 번째는 그래프를 두 번 실행하지만 두 번째는 그래프를 한 번 실행한다. 그리고..
[KOCW 확률통계] 06강. 조건부 평균
제 06강. 조건부 평균Geometric distribution Random Value K : 1번 성공할때까지의 시행횟수.(𝐾=1):𝑃 = 한 번만에 성공(𝐾=2):(1−𝑃)𝑃 = 두 번만에 성공(𝐾=3):(1−𝑃)2𝑃 = 세 번만에 성공 이를 일반화 해보면 다음과 같다. 𝑃𝐾(𝑘)=(1−𝑃)𝑘−1𝑃 ∑∞𝑘=1𝑃𝐾(𝑘)=1이고∑∞𝑘=1(1−𝑃)𝑘−1𝑃는 무한등비급수 공식을 사용하여 𝑃1−(1−𝑃)=1이 된다. 위의 평균을 구하면 다음과 같다. 𝐸[𝑋]=∑∞𝐾=1𝐾(1−𝑃)𝐾−1𝑃 ∑∞𝐾=1(1−𝑃)𝐾=1−𝑃𝑃 ( 무한등비급수 합 ) 𝑑𝑑𝑝∑∞𝐾=1(1−𝑃)𝐾=−∑∞𝐾=1𝐾(1−𝑃)𝐾−1 이는 1−𝑃𝑃를 미분해보면 −1𝑃2이 나오는 것을 알 수 있다. 따라서 𝐸[𝑋]=∑∞𝐾=1𝐾(1−𝑃)𝐾−1𝑃=𝑃×1𝑃..
[KOCW 확률통계] 05강. 확률변수의 평균과 분산
제 05강. 확률변수의 평균과 분산 Moments of Random Variables Arithmetic average( 산술평균 )𝑋¯=𝑋1+𝑋2+⋯+𝑋𝑁𝑁 for different frequencies 𝑋¯=𝑤1𝑋1+𝑤2𝑋2+⋯+𝑤𝑁𝑋𝑁𝑤1+𝑤2+⋯+𝑤𝑁 𝑃𝐾(𝑘)=𝜆𝑘𝑘!𝑒−𝜆 이를 Poisson distribution(포아송 분포)라고 한다.𝑃𝐾(𝑘)=𝑘𝜆𝑘𝑘!𝑒−𝜆는 Taylor Series라고 하는데 이는 다음을 말한다.∑∞𝑘=0𝑓(𝑘)(0)𝑥𝑘𝑘!와 같은데, 분자의 첫 번째는 f를 k번 미분한 것을 말한다.간단한 공식으로는𝐸[𝑎𝑥+𝑏]=𝑎𝐸[𝑥]+𝑏로 나온다는 것을 알면된다. 𝐸[(𝑋−𝜇)2]=𝜎2𝑥 이는 분산과 같은데 식을 전개하면 다음과 같다.=𝐸[𝑋2]−2𝑋¯𝐸[𝑋]+𝑋¯2 𝐸[𝑋]=𝑋..