23. 베타분포(Beta disctribution)

본 글은 Havard University Statistics 110 강의를 듣고 정리한 내용입니다.

 

베타분포

Beta(a, b), a>0, b>0

PDF

\[f(x) = cx^{a-1}(1-x)^{b-1}\]

베타분포는 매우 유연한 확률분포이다.

1. a=b=1
2. a=2, b=1
3. a=b=1/2
4. a=b=2

이러한 성질에 의하여

• 사전분포로 사용할 수 있고, 모수는 0과 1 사이의 값을 가진다
• 이항분포에 "켤레사전분포(conjugate prior)"로 쓰인다.
• 다른 분포와의 연결성이 좋다.

Conjugate prior for Binomial

X|P ~ Bin(n, p), P ~ Beta(a, b) [prior]

사후분포 P|X?

\[f(p|X=k) = \frac{P(X=k|p)f(p)}{P(X=k)} = \frac{\binom{n}{k}p^k(1-p)^{n-k}cp^{a-1}(1-p)^{b-1}}{P(X=k)}\]

\[\propto p^{a+k-1}(1-p)^{b+n-k-1}\]

P(X=k)는 p에 의존적이지 않다.

\[\Rightarrow P|X \sim Beta(a+x, b+n-x)\]

 

Bayes' Billiards

미적분을 쓰지 않고 아래 식 구하기

\[\int_{0}^{1}\binom{n}{k}x^k(1-x)^{n-k}dx\]

n+1개의 당구공이 있을 때, 처음엔 모든 공이 다 하얀색이고, 그중 하나를 분홍색으로 칠한다.

그다음, (0,1) 사이로 각 공을 독립적으로 던진다.

이는 먼저 n+1개의 공을 던진 후, 1개의 공을 색칠하는 것과 같다.

이 때, X= 분홍색으로 칠해진 공 왼쪽에 있는 공의 갯수 라고 한다.

\[P(X=k) = \int_{0}^{1}P(X=k|p)f(p)dp = \int_{0}^{1}\binom{n}{k}p^k(1-p)^{n-k}dp = \frac{1}{n+1}\]

f(p) = 1, 균등분포이기 때문

 

 

 

 

출처: https://www.edwith.org/ai152