23. 베타분포(Beta disctribution)

본 글은 Havard University Statistics 110 강의를 듣고 정리한 내용입니다.

 

베타분포

Beta(a, b), a>0, b>0

PDF

$$f(x)=c{x}^{a-1}(1-x{)}^{b-1}$$

베타분포는 매우 유연한 확률분포이다.

1. a=b=1
2. a=2, b=1
3. a=b=1/2
4. a=b=2

이러한 성질에 의하여

• 사전분포로 사용할 수 있고, 모수는 0과 1 사이의 값을 가진다
• 이항분포에 "켤레사전분포(conjugate prior)"로 쓰인다.
• 다른 분포와의 연결성이 좋다.

Conjugate prior for Binomial

X|P ~ Bin(n, p), P ~ Beta(a, b) [prior]

사후분포 P|X?

$$f(p|X=k)=\frac{P(X=k|p)f(p)}{P(X=k)}=\frac{(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}c{p}^{a-1}(1-p{)}^{b-1}}{P(X=k)}$$

$$\propto p^{a+k-1}(1-p{)}^{b+n-k-1}$$

P(X=k)는 p에 의존적이지 않다.

$$\Rightarrow P|X\sim Beta(a+x,b+n-x)$$

 

Bayes' Billiards

미적분을 쓰지 않고 아래 식 구하기

$${\int }_0^1(\genfrac{}{}{0ex}{}{n}{k})x^k(1-x{)}^{n-k}dx$$

n+1개의 당구공이 있을 때, 처음엔 모든 공이 다 하얀색이고, 그중 하나를 분홍색으로 칠한다.

그다음, (0,1) 사이로 각 공을 독립적으로 던진다.

이는 먼저 n+1개의 공을 던진 후, 1개의 공을 색칠하는 것과 같다.

이 때, X= 분홍색으로 칠해진 공 왼쪽에 있는 공의 갯수 라고 한다.

$$P(X=k)={\int }_0^{1}P(X=k|p)f(p)dp={\int }_0^1(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}dp=\frac{1}{n+1}$$

f(p) = 1, 균등분포이기 때문

 

 

 

 

출처: https://www.edwith.org/ai152