22. 변수변환과 합성곱(Transformations and Convolutions)

본 글은 Havard University Statistics 110 강의를 듣고 정리한 내용입니다.

초기하분포의 분산

HyperGeom(w, b, n), p  w / (w+b), w+b=N

$$Var(\sum _{j=1}^n{X}_j)=Var(X_1)+\cdots +Var(X_n)+2\sum _{i<j}^{}Cov(X_i,X_j)$$

$$=np(1-p)+2(\genfrac{}{}{0ex}{}{n}{2})(\frac{w}{w+b}\frac{w-1}{w+b-1}-p^2)=\frac{N-n}{N-1}np(1-p)$$

(N-n)/(N-1)을 통계학에서 유한 모집단 수정(수정계수)이라고 한다.

• n=1인 경우 Bern(p)의 분산이 된다.
• n보다 훨씬 큰 N값을 가질 경우 (N-n)/(N-1) ≒1

변수변환

X를 연속확률변수, PDF fx, Y = g(X)

1. g는 미분가능한 함수
2. g는 강한 증가 함수

Y의 PDF

$$f_Y(y)=f_X(x)\frac{dx}{dy}(y=g(x),x=g^{-1}(y))$$

Also

$$\frac{dx}{dy}=(\frac{dy}{dx}{)}^{-1}$$

 

Proof

CDF를 찾아서 미분하여 진행

$$P(Y\le y)=P(g(X)\le y)=P(X\le g^{-1}(y))=F_X(g^{-1}(y))=F_X(x)$$

$$\Rightarrow f_Y(y)=f_X(x)\frac{dx}{dy}$$

 

Ex. 로그 정규분포

Y = e^z, z ~ N(0, 1)

$$f_Y(y)=\frac{1}{\sqrt{2\pi }}{e}^{-(lny{)}^2/2}\frac{1}{y}$$

$$\frac{dy}{dz}=e^z=y$$

 

n차원에서의 변수변환

$$\overrightarrow{Y}=g(\overrightarrow{X}),g:{\mathbb{R}}^2\to {\mathbb{R}}^2$$

$$\overrightarrow{X}=(X_1,\cdots ,X_n)$$

joint PDF of  Y​ sasdasd ⃗​​ 

$$f_{\overrightarrow{Y}}(\overrightarrow{y})=f_{\overrightarrow{X}}(\overrightarrow{x})|\frac{d\overrightarrow{x}}{d\overrightarrow{y}}|$$

$$|\frac{d\overrightarrow{x}}{d\overrightarrow{y}}|\to Jacobian$$

jacobian determine의 절대값

$$\frac{d\overrightarrow{x}}{d\overrightarrow{y}}=\left(\begin{array}{cccc}\frac{\partial x_1}{\partial y_1}& \frac{\partial x_1}{\partial y_2}& \cdots & \frac{\partial x_1}{\partial y_n}\\ \frac{\partial x_2}{\partial y_1}& \frac{\partial x_2}{\partial y_2}& \cdots & \frac{\partial x_2}{\partial y_n}\\ & & ⋮& \\ \frac{\partial x_n}{\partial y_1}& \frac{\partial x_n}{\partial y_2}& \cdots & \frac{\partial x_n}{\partial y_n}\end{array}\right)$$

$$|\frac{d\overrightarrow{y}}{d\overrightarrow{x}}{|}^{-1}=|\frac{d\overrightarrow{x}}{d\overrightarrow{y}}|$$

 

합성곱(Convolution)의 변수변환

T = X+Y, X와 Y는 독립, X와 Y의 분포를 알 때 T의 분포

• 이산형

$$P(T=t)=\sum _{x}P(X=x)P(Y=t-x)$$

 

• 연속형

$$f_T(t)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{f}_X(x)f_Y(t-x)dx$$

$$F_T(t)=P(T\le t)={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}P(X+Y\le t|X=x)f_X(x)$$

$$={\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}{F}_Y(t-x)f_X(x)dx$$

 

 

출처: https://www.edwith.org/ai152