贝塔函数
$$ B(\alpha + 1, \beta + 1) = \int_{0}^{1} \theta^{\alpha}(1-\theta)^{\beta} d\theta = \frac{\alpha!\beta!}{(\alpha + \beta + 1)!} \ \ \ \ (\alpha, \beta >= 0) $$
来源
问题:投掷一枚不均匀的硬币($P(H = 1) = \theta$),$K$为投掷$n$次正面向上的次数,现对$\theta$进行统计推断。
我们采用贝叶斯统计推断,对参数$\Theta$(随机变量)进行推断。假设先验分布(Prior Distribution
)是贝塔分布族,则可以得到后验分布$\Theta | K$
$$
f_{\Theta | K} (\theta | k) = \frac{f_{\Theta}(\theta) \ P_{K | \Theta}(k | \theta)}{P_{K}(k)}\\\\
among \ \ this, \ P_{K | \Theta} (k | \theta) = C_{n}^{k} \ \theta^{k} \ (1-\theta)^{n - k}
$$
注:$U[0,1]$是特殊的均匀分布。
当对$\Theta$用$LMS$法进行点估计或者计算归一化系数时,我们不得不计算这个贝塔函数。
证明
证明1:利用分布积分
和伽马函数的证明有点像,也是比较困难的,建议非数学系的同学不要轻易尝试。
证明略
证明2:利用概率,构造证明
这个证明非常简洁,学过概率论就能看懂。
证明:
Case 1:当$\alpha = \beta = 0$时,显然成立。
Case 2:当$\alpha$和$\beta$其中有一个为0,另一个为正整数,简单积分之后,显然成立。
Case 3:当$\alpha$和$\beta$都是正整数
构造$X_1, X_2, ...., X_{\alpha}, Z, Y_1, Y_2, … , Y_{\beta}$,相互独立,且在0到1上服从均匀分布。
考虑$P(X_1 \le X_2 \le … \le X_{\alpha} \le Z \le Y_1 \le .... \le Y_{\beta}) = P(A) = \frac{1}{(\alpha + \beta + 1) !}$(将这个有序事件记为$A$)
再考虑$P(A) = \int_{0}^{1} f_{Z}(\theta) \ P(A | \theta) d\theta$(全概率公式)
由于$f_Z(\theta) = 1$,现在主要计算$P(A | \theta)$,相当于
$$
\displaylines{P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta \ \ and \ \ \theta \le Y_1 \le Y_2 < .... \le Y_{\beta}) \\\\
\{X_i\}, \{Y_i\} are \ \ independent \\\\
Origin = \ \ P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta) \cdot P(\theta \le Y_1 \le Y_2 \le .... \le Y_{\beta})}
$$
现在只需要计算$P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta)$
这个事件等价于两个事件:$\{X_i\}$有序和$\{X_i\}$都小于$\theta$,利用条件概率
$P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta) = P(\{X_i\} \le \theta) \cdot P(X_1 \le X_2 \le .... \le X_{\alpha} | \{X_i\} \le \theta)$
前者由于独立性,等于$\theta^{\alpha}$;后者跟之前一样,等于$\frac{1}{\alpha!}$
$P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta) = \theta^{\alpha} \cdot \frac{1}{\alpha !}$
$P(\theta \le Y_1 \le Y_2 \le .... \le Y_{\beta})$同理
由此,我们得到了$P(A | \theta) = \theta^{\alpha} \cdot \frac{1}{\alpha !} \cdot (1 - \theta)^{\beta} \cdot \frac{1}{\beta!}$
代入积分式子中,可以得到$P(A) = \int_{0}^{1} \frac{\theta^{\alpha}(1-\theta)^{\beta}}{\alpha! \beta!} d\theta = \frac{1}{(\alpha + \beta + 1) !}$
最后进行移项,完成证明。
即:$\int_{0}^{1} \theta^{\alpha}(1-\theta)^{\beta} d\theta = \frac{\alpha!\beta!}{(\alpha + \beta + 1)!} \ \ \ \ (\alpha, \beta >= 0)$
附上伽马函数以进行对比
$$
\Gamma(s) = \int_{0}^{+ \infty} x^{s - 1} e^{-x} dx
$$
注:ACwing的latex需要4个\
才能换行