30. 카이제곱분포, t분포, 다변량정규분포(Chi-Square, Student-t, Multivariate Normal)

본 글은 Havard University Statistics 110 강의를 듣고 정리한 내용입니다.

카이제곱분포

$${\chi }^2(n)$$

$$V=Z_1^2+Z_2^2+\cdots +Z_n^2,Z\stackrel{i.i.d.}{\sim }N(0,1)\to V\sim {\chi }^2(n)$$

$${\chi }^2(1)=Gamma(\frac{1}{2},\frac{1}{2})$$

두 분포는 같은 분포이다.

$${\chi }^2(n)=Gamma(\frac{n}{2},\frac{1}{2})$$

두 분포 또한 같은 분포를 나타낸다.

 

Student - t분포

$$T=\frac{Z}{\sqrt{V/n}},Z\sim N(0,1),V\sim {\chi }^2(n)$$

$$\therefore T\sim t_n$$

t분포의 특성

1. 대칭분포

$$-T\sim t_n$$

2. n=1

두 독립 표준정규분포의 비와 같으므로 코시분포를 따른다, 평균은 가지지 않는다

3. n ≥ 2

$$E(T)=E(Z)E(\frac{1}{\sqrt{V/n}})=0$$

$$E(Z^2)=1,E(Z^4)=3,E(Z^6)=3\cdot 5,\cdots$$

감마분포와 연관시키는 방법도 있다.

$$E(Z^{2n})=E((Z^2{)}^n)$$

위 식에서 Z^2가 X^2(1)을 나타내고, X^2(1)은 Gamma(1/2, 1/2)이므로 감마분포의 n차적률로 풀 수 있다.

4. 정규분포보다 두꺼운 꼬리 모양을 가진다.

5. 큰 n값에 대해 tn은 정규분포와 거의 같아보인다.

$$T_n=\frac{Z}{\sqrt{V_n/n}},Z_1,\cdots ,Z_n\stackrel{i.i.d.}{\sim }N(0,1),V_n=Z_1^2+\cdots +Z_n^2$$

큰 수의 법칙에 의하여 Vn/n은 확률 1을 가지며 1의 값으로 수렴한다.

∴n이 충분히 클 때, Tn은 1의 확률로 Z로 수렴한다. 따라서, t​n​​ 은  n이 충분히 클 때 표준정규분포 N(0,1) 에 수렴한다.

 

다변량정규분포

정의)

확률벡터 X = (X1, ..., Xn)는 모든 선형결합(t1x1 + t2x2 + ... + tnxn)이 정규분포를 따를 때, 다변량 정규분포를 따른다.

Ex.

Z, W ~ iid N(0, 1)일 때, (Z+2W, 3Z+5W)도 다변량정규분포를 따른다.

∵s(Z+2W)+t(3Z+5W)=(s+3t)Z+(2s+5t)W∼N 

Non-ex.

Z ~ N(0, 1), S는 임의의 부호(같은 확률로 -1or 1), S와 Z는 독립

Z, SZ는 다변량 정규분포를 따르지 않는다

-> Z+SZ는 절반의 확률로 0이되고, 절반의 확률로 2Z가 되기 때문에 이산적인 것과 연속적인 것의 결합이 된다.

정리) 다변량정규분포에 한해서는, [무상관 ⇒ 독립] 이 성립한다.

X​⃗​​​1​​의 모든 구성성분이  X​⃗​​​2​​의 모든 구성성분과 무상관일 때, ​X​⃗​​​1​​과 X​⃗​​​2​​는 서로 독립이다. 

 

ex)  X,Y∼​iid​​ N(0,1) 일 때,  (X+Y,X−Y) 는 다변량정규분포를 따른다. 

 Cov(X+Y, X-Y) = Var(X) +Cov(X,Y) -Cov(X-Y) -Var(Y) = 0 

∴X+Y, X−Y는 서로 독립이다.  

 

 

 

출처: https://www.edwith.org/ai152