ベータ二項分布

テンプレート:確率分布 ベータ二項分布（ベータにこうぶんぷ テンプレート:Lang-en-short）は、確率論や統計学における離散確率分布の一種。非負整数からなる有限の台を持ち、未知(またはランダム)の成功確率のもとでのベルヌーイ試行を行った場合の成功回数の分布を記述する際に出現する。より具体的には、二項分布における各試行の成功確率が試行ごとにベータ分布に従って決定される場合の成功回数が従う分布である。 ベイズ統計学、テンプレート:仮リンクなどにおいては、二項型多項式列に従い分布するデータのテンプレート:仮リンクを捕捉する際に頻繁に利用される。

ベータ二項分布は、1次元に限定されたテンプレート:仮リンクとみなせる。これは、二項分布とベータ分布が、それぞれ多項分布とディリクレ分布を単変量としたものであるからである。 母数$\alpha ,\beta$ がともに正の整数である場合、この分布はテンプレート:仮リンクと呼ばれる分布に一致する。

動機と導出

複合分布として

ベータ分布は二項分布のテンプレート:仮リンクである。この事実から、解析的に取り扱いやすい複合確率分布が得られる。この分布では、二項分布の成功確率 $p$ 自体をベータ分布に従う確率変数とみなす。このような状況のもとで、次の $n$ 回の試行での成功数 $x$ に興味がある場合、$x$ の従う確率密度関数は次で与えられる:

$\begin{array}{cc}f(x\mid n,\alpha ,\beta )& ={\int }_0^1\mathrm{B}\mathrm{i}\mathrm{n}(x|n,p)\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}(p\mid \alpha ,\beta )dp\\ & =(\genfrac{}{}{0ex}{}{n}{x})\frac{1}{\mathrm{B}(\alpha ,\beta )}{\int }_0^1{p}^{x+\alpha -1}(1-p{)}^{n-x+\beta -1}dp\\ & =(\genfrac{}{}{0ex}{}{n}{x})\frac{\mathrm{B}(x+\alpha ,n-x+\beta )}{\mathrm{B}(\alpha ,\beta )}\end{array}$

この分布はベータ二項分布に他ならない。なお、ベータ関数の性質を利用することで、この確率密度関数は次のようにも記述できる:

$f(x\mid n,\alpha ,\beta )=\frac{\mathrm{\Gamma }(n+1)\mathrm{\Gamma }(x+\alpha )\mathrm{\Gamma }(n-x+\beta )}{\mathrm{\Gamma }(n+\alpha +\beta )\mathrm{\Gamma }(x+1)\mathrm{\Gamma }(n-x+1)}\frac{\mathrm{\Gamma }(\alpha +\beta )}{\mathrm{\Gamma }(\alpha )\mathrm{\Gamma }(\beta )}$

壺問題として

母数$\alpha ,\beta$ がともに正の整数の場合、ベータ二項分布は壺問題、特にテンプレート:仮リンクといわれる問題にも出現する。具体的には、最初に $\alpha$ 個の赤玉と $\beta$ 個の白玉を含む壺が用意されている場合に、「壺から無作為に玉を1つ取り出し、取り出した玉と同色の玉を2つ壺に戻す」という作業を $n$ 回繰り返したときの、赤玉を累計で $x$ 回取り出す確率 $f(x|n,\alpha ,\beta )$ はベータ二項分布となる。実際、赤玉を累計で $x$ 回取り出すような試行結果は $(\genfrac{}{}{0ex}{}{n}{x})$ 通りあるが、これらの試行結果は全て同じ確率$\frac{\frac{(\alpha +x-1)!}{(\alpha -1)!}\frac{(\beta +n-x-1)!}{(\beta -1)!}}{\frac{(\alpha +\beta +n-1)!}{(\alpha +\beta -1)!}}$で出現するので、$f(x|n,\alpha ,\beta )$は

$\begin{array}{cc}f(x|n,\alpha ,\beta )& =(\genfrac{}{}{0ex}{}{n}{x})\frac{(\alpha +\beta -1)!(\alpha +x-1)!(\beta +n-x-1)!}{(\alpha +\beta +n-1)!(\alpha -1)!(\beta -1)!}\\ & =(\genfrac{}{}{0ex}{}{n}{x})\frac{\mathrm{B}(\alpha +x,\beta +n-x)}{\mathrm{B}(\alpha ,\beta )}\end{array}$ と計算できる。なお、非負なる整数 $n$ について $\mathrm{\Gamma }(n)=(n-1)!$ が成立することを用いた。

一方、無作為抽出により取り出した玉以外の玉を壺に戻さない場合、赤玉を累計で $x$ 回取り出す確率は二項分布に従う。また、無作為抽出により取り出した玉を壺に戻さない場合、赤玉を累計で $x$ 回取り出す確率は超幾何分布に従う。

モーメントと性質

最初の3つのモーメントは次で与えられる:

$\begin{array}{cc}\mathrm{E}[x]& =\frac{n\alpha }{\alpha +\beta }\\ \mathrm{E}[x^2]& =\frac{n\alpha [n(1+\alpha )+\beta ]}{(\alpha +\beta )(1+\alpha +\beta )}\\ \mathrm{E}[x^3]& =\frac{n\alpha [n^2(1+\alpha )(2+\alpha )+3n(1+\alpha )\beta +\beta (\beta -\alpha )]}{(\alpha +\beta )(1+\alpha +\beta )(2+\alpha +\beta )}\end{array}$

そして、超過尖度は次で与えられる:

${\beta }_2=\frac{(\alpha +\beta {)}^2(1+\alpha +\beta )}{n\alpha \beta (\alpha +\beta +2)(\alpha +\beta +3)(\alpha +\beta +n)}[(\alpha +\beta )(\alpha +\beta -1+6n)+3\alpha \beta (n-2)+6n^2-\frac{3\alpha \beta n(6-n)}{\alpha +\beta }-\frac{18\alpha \beta n^2}{(\alpha +\beta {)}^2}]$

ベータ分布の平均値を $p=\frac{\alpha }{\alpha +\beta }$ で表すとすれば、示唆的に、この分布の平均値は

$\mu =\frac{n\alpha }{\alpha +\beta }=np$

で表される。一方、分散は

${\sigma }^2=\frac{n\alpha \beta (\alpha +\beta +n)}{(\alpha +\beta {)}^2(\alpha +\beta +1)}=np(1-p)\frac{\alpha +\beta +n}{\alpha +\beta +1}=np(1-p)[1+(n-1)\rho ]$

となり、同じ平均値をもつ二項分布のそれよりも必ず大きくなる。ここで $\rho =\frac{1}{\alpha +\beta +1}$ で定義された正のパラメータは級内相関(テンプレート:Lang-en-short)と呼ばれ、ベータ二項分布が二項分布の分散よりも大きい分散をとることを可能とするパラメータである。 なお、 $n=1$ の場合はベータ二項分布と二項分布を区別することが原理上不可能であり、したがって分散も同じ値となる。

階乗モーメント

テンプレート:Math 個目の階乗モーメント、すなわち$(X{)}_r=X(X-1)\cdots (X-r+1)$の期待値は

$\mathrm{E}[(X{)}_r]=\frac{n!}{(n-r)!}\frac{B(\alpha +r,\beta )}{B(\alpha ,\beta )}=(n{)}_r\frac{B(\alpha +r,\beta )}{B(\alpha ,\beta )}$である。

点推定

モーメント法

テンプレート:仮リンクでは、ベータ二項分布の最初の2つのモーメント $m_1,m_2$ が、標本から計算されるそれらに一致すると仮定して、ベータ二項分布の2つの母数 $\alpha ,\beta$ を推定する。この手法のもとでは、$\alpha ,\beta$ の推定値として以下が得られる:

$\begin{array}{cc}\hat{\alpha }& =\frac{n{m}_1-m_2}{n(\frac{m_2}{m_1}-m_1-1)+m_1}\\ \hat{\beta }& =\frac{(n-m_1)(n-\frac{m_2}{m_1})}{n(\frac{m_2}{m_1}-m_1-1)+m_1}\end{array}$

これらの推定値は、 $m_1,m_2$ の値によっては負の値を取る場合がある。その場合、データの分散がベータ二項分布で扱うには小さすぎることの証拠となり、他の分布(二項分布や超幾何分布など)でのフィットの方が適していることが示される。

最尤推定

最尤推定を解析的に行うことは非実用的だが、確率質量関数がありふれた関数(ガンマ関数またはベータ関数)であるため、直接数値的な最適化を行うことができる。

具体例:性比の不均一性

以下のデータは、19世紀ザクセン州の病院記録から抽出した6115世帯における、家族規模13世帯の最初の12人目の子供のうち男子の数を示す(Sokal and Rohlf, p. 59 from Lindsey)。ただし、希望する性別が生まれた時点で家族が非ランダムに子作りを中止する効果を相殺するため、13人目の子供のデータは含まれていない。

男児の数	0	1	2	3	4	5	6	7	8	9	10	11	12
世帯数	3	24	104	286	670	1033	1343	1112	829	478	181	45	7

最初の2つの標本モーメントおよび $n$ は

$\begin{array}{cc}{m}_1& =6.23\\ m_2& =42.31\\ n& =12\end{array}$

であるので、モーメント法による推定のもとでは

$\begin{array}{cc}\hat{\alpha }& =34.14\\ \hat{\beta }& =31.61\end{array}$

が推定値として得られる。一方、最尤推定のもとでは、数値的最適化によって

$\begin{array}{cc}{\hat{\alpha }}_{\mathrm{m}\mathrm{l}\mathrm{e}}& =34.10\\ {\hat{\beta }}_{\mathrm{m}\mathrm{l}\mathrm{e}}& =31.58\end{array}$

が得られる。これらのもとで最大尤度は

$\log ℒ=-12492.87$

と計算され、赤池情報量規準(AIC)が

$𝐴𝐼𝐶=24989.74$

と求まる。一方、単純な二項分布を仮定して同様にAICを計算すると、最尤推定での男児の出生確率 $p=0.52$ と $AIC=25070.34$ が求まる。したがって、ベータ二項分布によるフィッティングの方がより小さいAICを与えることとなり、ベータ二項分布の方がよりデータにフィットしていると言える。すなわち、データには過分散の証拠があると言える。なお、理論的な裏付けとして、哺乳類の雌が産む子供の性比は個体の状況に依存するという仮説(テンプレート:仮リンク)が提唱されている。

データおよびベータ二項分布・二項分布による(最尤推定での)期待値を以下の表に示した。ベータ二項分布によるフィッティングの効果はより極端な値で顕著である。

男児の数	0	1	2	3	4	5	6	7	8	9	10	11	12
世帯数	3	24	104	286	670	1033	1343	1112	829	478	181	45	7
ベータ二項分布での予測	2.3	22.6	104.8	310.9	655.7	1036.2	1257.9	1182.1	853.6	461.9	177.9	43.8	5.2
二項分布での予測	0.9	12.1	71.8	258.5	628.1	1085.2	1367.3	1265.6	854.2	410.0	132.8	26.1	2.3

ベイズ統計学における役割

ベータ二項分布は、ベイズ推定によりベルヌーイ試行の成功確率 $p$ をデータから推定する場合に顕著な役割を果たす。$𝐗=\{X_1,X_2,\cdots X_{n_1}\}$を成功確率が未知なベルヌーイ分布からの独立同分布サンプルであるとする。いま、$p$ に関する我々の知識が(ベイズ統計学的な意味で)不明瞭であるとして、その事前分布をベータ分布で与えるとする: $p\sim \text{Beta}(\alpha ,\beta )$。 $Y_1=\sum _{i=1}^{n_1}{X}_i$ で表せば、実際に $𝐗$ を観測する前の段階で予測される $Y_1$ の分布(事前予測分布)は、確率分布の複合によりベータ二項分布で与えられる:

$Y_1\sim \text{BetaBin}(n_1,\alpha ,\beta )$

実際に $Y_1$ を観測した後の $p$ の事後分布は

$\begin{array}{cc}f(p|𝐗,\alpha ,\beta )& \propto (\prod _{i=1}^{n_1}{p}^{x_i}(1-p{)}^{1-x_i})p^{\alpha -1}(1-p{)}^{\beta -1}\\ & \propto p^{\sum x_i+\alpha -1}(1-p{)}^{n_1-\sum x_i+\beta -1}\\ & \propto p^{y_1+\alpha -1}(1-p{)}^{n_1-y_1+\beta -1}\end{array}$

であり、事後分布もベータ分布$\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}(y_1+\alpha ,n_1-y_1+\beta )$であることがわかる。

再び確率分布の複合を行うことで、このベルヌーイ試行をさらに独立に $n_2$ 回行った際の累計成功回数 $Y_2$ に関して以下が成立する:

$Y_2\sim \mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n_2,y_1+\alpha ,n_1-y_1+\beta )$

確率変数の生成

ベータ二項分布に従う確率変数 $X\sim \mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,\alpha ,\beta )$ は容易に生成できる。具体的には、まず $p$ をベータ分布 $\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}(\alpha ,\beta )$ からサンプルした後、$X$ を二項分布 $\mathrm{B}(n,p)$ から生成すればよい。この手法は、この分布がベータ分布と二項分布の複合分布であることに依拠している。

関連する分布

• $n=1$ であれば、ベータ二項分布は成功確率が $p=\frac{\alpha }{\alpha +\beta }$ であるベルヌーイ分布に一致する。
• $\alpha =\beta =1$の場合、ベータ二項分布は$\{0,\dots ,n\}$ 上の離散一様分布に一致する。
• $X$ がベータ二項分布 $\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,\alpha ,\beta )$ に従うとき、確率変数 $(n-X)$ はベータ二項分布 $\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,\beta ,\alpha )$に従う。
• $0<p<1$ 、 $s>0$ として、ベータ二項分布 $\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,\alpha =ps,\beta =s(1-p))$ を考えると、$s\to \mathrm{\infty }$ の極限で二項分布 $\mathrm{B}(n,p)$に帰着する。
• $\lambda >0$ として、ベータ二項分布$\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,n\lambda ,n^2)$を考えると、$n\to \mathrm{\infty }$ の極限でポアソン分布 $\mathrm{P}\mathrm{o}\mathrm{i}\mathrm{s}(\lambda )$ に帰着する。
• $0<p<1$ として、ベータ二項分布$\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,1,\frac{np}{(1-p)})$を考えると、$n\to \mathrm{\infty }$ の極限で幾何分布 $\mathrm{G}\mathrm{e}\mathrm{o}\mathrm{m}(p)$ に帰着する。
• $0<p<1$、 $r>0$ として、ベータ二項分布$\mathrm{B}\mathrm{e}\mathrm{t}\mathrm{a}\mathrm{B}\mathrm{i}\mathrm{n}(n,r,\frac{np}{(1-p)})$を考えると、$n\to \mathrm{\infty }$ の極限で負の二項分布 $\mathrm{N}\mathrm{B}(r,p)$ に帰着する。

関連項目

• テンプレート:仮リンク

参考文献

• Minka, Thomas P. (2003). Estimating a Dirichlet distribution. Microsoft Technical Report.

外部リンク

• Using the Beta-binomial distribution to assess performance of a biometric identification device
• Fastfit contains Matlab code for fitting Beta-Binomial distributions (in the form of two-dimensional Pólya distributions) to data.
• Interactive graphic: Univariate Distribution Relationships
• Beta-binomial functions in VGAM R package
• Beta-binomial distribution in Sandia National Labs Cognitive Foundry Java library