贝塔函数

$$B(\alpha + 1, \beta + 1) = \int_{0}^{1} \theta^{\alpha}(1-\theta)^{\beta} d\theta = \frac{\alpha!\beta!}{(\alpha + \beta + 1)!} \ \ \ \ (\alpha, \beta >= 0)$$

来源

问题：投掷一枚不均匀的硬币（$P(H = 1) = \theta$​​​​），$K$​​为投掷$n$次正面向上的次数，现对$\theta$进行统计推断。

我们采用贝叶斯统计推断，对参数$\Theta$​​(随机变量)进行推断。假设先验分布(Prior Distribution)是贝塔分布族，则可以得到后验分布$\Theta | K$
$$f_{\Theta | K} (\theta | k) = \frac{f_{\Theta}(\theta) \ P_{K | \Theta}(k | \theta)}{P_{K}(k)}\\\\ among \ \ this, \ P_{K | \Theta} (k | \theta) = C_{n}^{k} \ \theta^{k} \ (1-\theta)^{n - k}$$
注：$U[0,1]$是特殊的均匀分布。

当对$\Theta$用$LMS$​法进行点估计或者计算归一化系数时，我们不得不计算这个贝塔函数。

证明

证明1：利用分布积分

和伽马函数的证明有点像，也是比较困难的，建议非数学系的同学不要轻易尝试。

证明略

证明2：利用概率，构造证明

这个证明非常简洁，学过概率论就能看懂。

证明：

Case 1：当$\alpha = \beta = 0$​​时，显然成立。

Case 2：当$\alpha$和$\beta$​​其中有一个为0，另一个为正整数，简单积分之后，显然成立。

Case 3：当$\alpha$​和$\beta$​都是正整数

​ 构造$X_1, X_2, ...., X_{\alpha}, Z, Y_1, Y_2, … , Y_{\beta}$，相互独立，且在0到1上服从均匀分布。

​ 考虑$P(X_1 \le X_2 \le … \le X_{\alpha} \le Z \le Y_1 \le .... \le Y_{\beta}) = P(A) = \frac{1}{(\alpha + \beta + 1) !}$（将这个有序事件记为$A$）

​ 再考虑$P(A) = \int_{0}^{1} f_{Z}(\theta) \ P(A | \theta) d\theta$（全概率公式）

​ 由于$f_Z(\theta) = 1$，现在主要计算$P(A | \theta)$​，相当于
$$\displaylines{P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta \ \ and \ \ \theta \le Y_1 \le Y_2 < .... \le Y_{\beta}) \\\\ \{X_i\}, \{Y_i\} are \ \ independent \\\\ Origin = \ \ P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta) \cdot P(\theta \le Y_1 \le Y_2 \le .... \le Y_{\beta})}$$
​ 现在只需要计算$P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta)$

​ 这个事件等价于两个事件：$\{X_i\}$有序和$\{X_i\}$都小于$\theta$，利用条件概率

​ $P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta) = P(\{X_i\} \le \theta) \cdot P(X_1 \le X_2 \le .... \le X_{\alpha} | \{X_i\} \le \theta)$

​ 前者由于独立性，等于$\theta^{\alpha}$；后者跟之前一样，等于$\frac{1}{\alpha!}$

​ $P(X_1 \le X_2 \le .... \le X_{\alpha} \le \theta) = \theta^{\alpha} \cdot \frac{1}{\alpha !}$

​ $P(\theta \le Y_1 \le Y_2 \le .... \le Y_{\beta})$同理​

​ 由此，我们得到了$P(A | \theta) = \theta^{\alpha} \cdot \frac{1}{\alpha !} \cdot (1 - \theta)^{\beta} \cdot \frac{1}{\beta!}$​​​

​ 代入积分式子中，可以得到$P(A) = \int_{0}^{1} \frac{\theta^{\alpha}(1-\theta)^{\beta}}{\alpha! \beta!} d\theta = \frac{1}{(\alpha + \beta + 1) !}$

​ 最后进行移项，完成证明。

即：$\int_{0}^{1} \theta^{\alpha}(1-\theta)^{\beta} d\theta = \frac{\alpha!\beta!}{(\alpha + \beta + 1)!} \ \ \ \ (\alpha, \beta >= 0)$

附上伽马函数以进行对比

$$\Gamma(s) = \int_{0}^{+ \infty} x^{s - 1} e^{-x} dx$$
注：ACwing的latex需要4个\才能换行