11~15강 Review

본 글은 Havard University Statistics 110 강의를 듣고 정리한 내용입니다.

 

Poisson Distribution

X ~ Pois(λ)

$$P(X=k)=\frac{e^{-\lambda }{\lambda }^k}{k!}$$

포아송 분포는 많은 시도의 횟수를 시행하고, 성공 확룰이 매우 작은 경우에 성공의 수를 count 할 때 많이 사용한다.

 

Poisson Paradign (Pois Approximation, 포아송 근사)

event Aj, P(Aj) = pj 에서 n은 매우 큰 수이고 pj는 매우 작은 수라고 할 때, 

event 끼리 독립이면(혹은 약한 종속성을 가지고 있는 경우) event Aj는 포아송 분포로 근사할 수 있다.

 

Ex. Raindrops, Birthday Problem

 

PDF(Probability Density Function, 확률밀도함수)

PDF of 확률변수 X

$$P(A\le X\le B)={\int }_a^{b}f(x)dx$$

원칙적으로 P(X=x) = 0이나 density 의 개념을 이용하여 아래와 같이 구할 수 있다.

$$P(X=x)=f(x_0)\ast ϵ$$

 

확률변수 X가 PDF f를 가지고 있을 때, 확률변수 X의 CDF는 아래와 같다.

$$P(X\le x)={\int }_{-\mathrm{\infty }}^{x}f(t)dt$$

 

확률변수 X가 CDF F를 가지고 있을 때, 확률변수 X의 PDF는 미적분학의 기본 정리에 의해 아래와 같이 나타난다.

$$f(x)=F^{\prime }(x)$$

$$P(a<X<b)={\int }_a^{b}f(x)dx=F(b)-F(a)$$

Uniform(균등분포)

X ~ Unif(a, b), 특정 범위가 뽑힐 확률이 그 범위의 크기에 비례하는 분포

f(x) = c if a ≤ x ≤ b, 0 otherwise 

$$1={\int }_a^{b}cdx=c\ast (b-a)$$

E(X) = (a + b) / 2

균등분포의 일반성

$$ifu\sim Unif(0,1)\to X=F^{-1}(u)\sim F$$

$$ifX\sim F\to F(X)\sim Unif(0,1)$$

균등분포의 대칭성

$$ifu\sim Unif(0,1)\to 1-u\sim Unif(0,1)$$

균등분포의 선형변환

$$a+bu\sim Unif(a,a+b)$$

 

정규분포

중심극한정리 : 여러개의 독립적이고 동일한 확률변수를 더했을 때, 그 합의 분포가 정규분포를 따라 갈 것이다.

mu = 0, sigma = 1인 경우 표준정규분포

$$E(Z)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}\frac{1}{2\pi }z{e}^{-z^2/2}dz=0$$

$$Var(Z)={E(Z)}^2-E(Z^2)=1$$

표준정규분포의 CDF

$$\mathrm{\Phi }(z)=\frac{1}{\sqrt{2\pi }}{\int }_{-\mathrm{\infty }}^z{e}^{t^2/2}dt$$

$$\mathrm{\Phi }(-z)=1-\mathrm{\Phi }(z)$$

 

E(Z) = 0 (정규분포의 대칭성)

Var(Z) = E(Z^2)

E(Z^3) = 0 (LOTUS)

 

일반정규분포

$$X=\mu +\sigma Z$$

$$X\sim N(\mu ,{\sigma }^2)$$

평균과 분산

$$E(X)=\mu$$

$$Var(X)={\sigma }^2\ast Var(Z)={\sigma }^2$$

$$Var(X+c)=Var(X)$$

$$Var(cX)=c^{2}Var(X)$$

$$Var(X+Y)\ne Var(X)+Var(Y)$$

X, Y가 독립일 경우는 위 식 성립

 

68-95-99.7% Rule

$$X\sim N(\mu ,{\sigma }^2)$$

• P(|X-μ| ≤ σ) ≒ 0.68
• P(|X-μ| ≤ 2σ) ≒ 0.95
• P(|X-μ| ≤ 3σ) ≒ 0.997

Poisson Distribution

$$E(X)=\lambda$$

$$E(X^2)={\lambda }^2+\lambda$$

$$\therefore Var(X)={\lambda }^2+\lambda -{\lambda }^2=\lambda$$

 

Binomial Distribution

$$E(X)=np$$

$$Var(X)=np-n{p}^2=np(1-p)=npq$$

이산확률변수에서의 LOTUS(무의식적인 통계학자 법칙) 증명

 

 

 

출처: https://www.edwith.org/ai152