分散 (確率論)

統計学および確率論における分散（ぶんさん、テンプレート:Lang-en-short）とは、データ（母集団、標本）、確率変数（確率分布）の標準偏差の自乗のことである。分散も標準偏差と同様に散らばり具合を表しテンプレート:Sfn、標準偏差より分散の方が計算が簡単なため、計算する上で分散を用いることも多い。

分散は具体的には、平均値からの偏差の2乗の平均に等しい。データ テンプレート:Math2 の分散 テンプレート:Math は

$s^2=\frac{1}{n}\sum _{i=1}^n(x_i-\bar{x}{)}^2$

ここで テンプレート:Math は平均値を表す。

分散が テンプレート:Math であることは、データの値が全て等しいことと同値である。データの分散は二乗平均から平均の2乗を引いた値に等しくなる。

確率変数 テンプレート:Mvar の分散 テンプレート:Mathテンプレート:Efn2は、テンプレート:Mvar の期待値を テンプレート:Math で表すと

テンプレート:Math2

となるテンプレート:Sfn。 確率変数の分散は確率変数の2次の中心化モーメントである。

統計学では、記述統計学においては標本の散らばり具合を表す指標として標本分散（ひょうほんぶんさん、テンプレート:Lang-en-short）を、推計統計学においては不偏分散（ふへんぶんさん、テンプレート:Lang-en-short）・不偏標本分散（ふへんひょうほんぶんさん、テンプレート:Lang-en-short）を用いる。

言葉の由来

英語の テンプレート:Lang（バリアンス）という語はロナルド・フィッシャーが1918年に導入した。

確率変数の分散

2乗可積分確率変数 テンプレート:Mvar の分散は期待値を テンプレート:Math で表すと

$V[X]=E[(X-E[X]{)}^2]$

で定義される。これを展開して整理すると

$\begin{array}{cc}V[X]& =E[(X-E[X]{)}^2]\\ & =E[X^2-2XE[X]+(E[X]{)}^2]\\ & =E[X^2]-2E[XE[X]]+E[(E[X]{)}^2]\\ & =E[X^2]-2E[X]E[X]+(E[X]{)}^2(\because E[X]=Const)\\ & =E[X^2]-(E[X]{)}^2\\ \end{array}$

とも書ける。また確率変数 テンプレート:Mvar の特性関数を テンプレート:Math2 とおくと（テンプレート:Mvar は虚数単位）、これは 2階連続的微分可能で

$V[X]=-{{\phi }_X}^{″}(0)+({{\phi }_X}^{\prime }(0){)}^2$

と表示することもできる。

チェビシェフの不等式から、任意の正の数 テンプレート:Mvar に対して

$P(|X-E[X]|>\epsilon )\le \frac{V[X]}{{\epsilon }^2}$

が成り立つ。これは分散が小さくなるほど確率変数が期待値に近い値をとりやすくなることを示す大まかな評価である。

性質

テンプレート:Math2 を確率変数、テンプレート:Math2 を定数とし、共分散を テンプレート:Math で表すと

• $V[X]\ge 0$（非負性）
• $V[X+b]=V[X]$（テンプレート:仮リンクに対する不変性）
• $V[aX]=a^{2}V[X]$（斉次性）
• $V[\sum _i{a}_i{X}_i]=\sum _{i,j}{a}_i{a}_j\mathrm{Cov}[X_i,X_j]$

を満たす。したがって、特に テンプレート:Math2 が独立ならば、

$\mathrm{Cov}[X_i,X_j]=\{\begin{array}{cc}V[X_i]& (i=j)\\ 0& (i\ne j)\end{array}$

より

$V[X_1+\cdots +X_n]=V[X_1]+\cdots +V[X_n]$

が成り立つ。

例

• 確率変数 テンプレート:Mvar が一様分布 テンプレート:Math に従うとき、テンプレート:Math2
• 確率変数 テンプレート:Mvar が正規分布 テンプレート:Math に従うとき、テンプレート:Math2
• 確率変数 テンプレート:Mvar が二項分布 テンプレート:Math に従うとき、テンプレート:Math2
• 確率変数 テンプレート:Mvar がポアソン分布 テンプレート:Math に従うとき、テンプレート:Math

データの分散

推計統計学では、母集団の分散と標本の分散を区別する必要がある。

母分散

大きさが テンプレート:Mvar である母集団 テンプレート:Math2 に対して、平均値を テンプレート:Mvar で表すとき、偏差の自乗の平均値

${\sigma }^2=\frac{1}{n}\sum _{i=1}^n(x_i-\mu {)}^2$

を母分散（ぼぶんさん、テンプレート:Lang-en-short）と言う。

標本分散・不偏標本分散

母集団の平均が$\mu$、分散が${\sigma }^2$のとき、大きさが テンプレート:Mvar である標本 テンプレート:Math2 に対して、標本の平均値を テンプレート:Math で表すとき、偏差の自乗の平均値

$s^2=\frac{1}{n}\sum _{i=1}^n(x_i-\overline{x}{)}^2$

で定義される テンプレート:Math を標本分散（ひょうほんぶんさん、テンプレート:Lang-en-short）と言う。テンプレート:Mvar は標準偏差と呼ばれる。

定義より、

$s^2=\frac{1}{n}\sum _{i=1}^n{x_i}^2-(\overline{x}{)}^2=\overline{x^2}-(\overline{x}{)}^2$

となるから、標本分散は2乗の平均値と平均値の2乗との差に等しい。ただし、この計算では概して二乗平均が巨大になるため、浮動小数点数による近似計算を行う場合には桁落ちが起きる可能性がある。このため、浮動小数点数を扱う場合には定義に従って偏差の二乗和を計算することが一般的である（あるいは一般の総和計算と同じくカハンの加算アルゴリズムやテンプレート:仮リンクのような手法により、誤差を小さくする工夫がなされることもある）。

一般に、標本分散の期待値は母分散と一致せず、母分散より小さくなる。これは、母分散は「母平均との偏差」で算出されるのに対し、標本分散では「標本平均との偏差」で算出されることに原因がある。実際には、平均と分散を持つ同一分布からの無作為標本に対して、標本分散の期待値 テンプレート:Math について、

$E[s^2]=E[\frac{1}{n}\sum _{i=1}^n(x_i-\overline{x}{)}^2]=E[\frac{1}{n}\sum _{i=1}^n(x_i-\mu -(\overline{x}-\mu ){)}^2]$

$=\frac{1}{n}E\left[\sum _{i=1}^n{(x_i-\mu -\frac{1}{n}\sum _{j=1}^n(x_j-\mu ))}^2\right]$

$=\frac{1}{n}E\left[\sum _{i=1}^n{(\frac{n-1}{n}(x_i-\mu )-\frac{1}{n}\sum _{j\ne i}(x_j-\mu ))}^2\right]$

$=\frac{1}{n}\sum _{i=1}^{n}E[\frac{(n-1{)}^2}{n^2}(x_i-\mu {)}^2+\frac{1}{n^2}\sum _{j\ne i}(x_j-\mu {)}^2]$

$+\frac{1}{n}\sum _{i=1}^{n}E[-\frac{2(n-1)}{n^2}(x_i-\mu )\sum _{j\ne i}(x_j-\mu )+\frac{1}{n^2}\sum _{j\ne i}\sum _{k\ne i,j}(x_j-\mu )(x_k-\mu )]$

$=\frac{1}{n}\sum _{i=1}^n[\frac{(n-1{)}^2}{n^2}E[(x_i-\mu {)}^2]+\frac{1}{n^2}\sum _{j\ne i}E[(x_j-\mu {)}^2]]$

$+\frac{1}{n}\sum _{i=1}^n[-\frac{2(n-1)}{n^2}E[(x_i-\mu )\sum _{j\ne i}(x_j-\mu )]+\frac{1}{n^2}\sum _{j\ne i}\sum _{k\ne i,j}E[(x_j-\mu )(x_k-\mu )]]$

ここで、

$E[(x_i-\mu {)}^2]=E[(x_j-\mu {)}^2]={\sigma }^2$

$x_i$、$x_j$、$x_k$は独立のため、

$E[(x_i-\mu )\sum _{j\ne i}(x_j-\mu )]=E[x_i-\mu ]E[\sum _{j\ne i}(x_j-\mu )]=0$

$E[(x_j-\mu )(x_k-\mu )]=E[x_j-\mu ]E[x_k-\mu ]=0$

となるため、

$E[s^2]=\frac{1}{n}\sum _{i=1}^n(\frac{(n-1{)}^2}{n^2}{\sigma }^2+\frac{n-1}{n^2}{\sigma }^2)=\frac{n-1}{n}{\sigma }^2$

が成り立つ。

そこで

${\hat{\sigma }}^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\overline{x}{)}^2=\frac{n}{n-1}{s}^2$

を用いると、

$E[\frac{1}{n-1}\sum _1^n(x_i-\overline{x}{)}^2]={\sigma }^2$

となり、期待値が母分散に等しくなる推定量が得られる。つまり母分散の不偏推定量となる。これを不偏標本分散（ふへんひょうほんぶんさん、テンプレート:Lang-en-short）や不偏分散（ふへんぶんさん、テンプレート:Lang-en-short）と呼ぶ。

上記の標本分散は不偏でないことを強調する場合偏りのある標本分散（テンプレート:Lang-en-short）と言う。 テンプレート:See also なお、不偏標本分散を単に標本分散と呼ぶ文献もある。

定義から明らかに、標本の大きさが大きくなる程につれて偏りのある標本分散は不偏標本分散に近づく。

参考文献

• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Citation
• テンプレート:Cite book

関連項目

• 標準偏差
• 統計量
• 確率密度関数
• テンプレート:仮リンク
• 分散分析
• 推計統計学
• 正規分布
• 中心極限定理
• ブラウン運動