確率変数の収束のソースを表示

[[数学]]の[[確率論]]の分野において、'''確率変数の収束'''（かくりつへんすうのしゅうそく、{{Lang-en-short|convergence of random variables}}）に関しては、いくつかの異なる概念がある。[[確率変数]][[列 (数学)|列]]のある[[極限]]への[[収束]]は、確率論や、その応用としての[[統計学]]や[[確率過程]]の研究における重要な概念の一つである。より一般的な数学において同様の概念は'''確率収束''' (stochastic convergence) として知られ、その概念は、本質的にランダムあるいは予測不可能な事象の列は、その列から十分離れているアイテムを研究する場合において、しばしば、本質的に不変な挙動へと落ち着くことが予想されることがある、という考えを定式化するものである。異なる収束の概念とは、そのような挙動の特徴づけに関連するものである：すぐに分かる二つの挙動とは、その列が最終的に定数となるか、あるいはその列に含まれる値は変動を続けるがある不変な確率分布によってその変動が表現される、というようなものである。

== 背景 ==
「確率収束」とは、本質的にランダムあるいは予測不可能である[[事象 (確率論)|事象]]の列がしばしばあるパターンへと落ち着くことが期待される、という考えを定式化するものである。そのパターンとは、例えば、
* ある固定値や、ある確率事象から発生するそれ自身への、古典的な意味での[[収束]]
* 純粋な決定論的な関数から生じる結果への相似性の増加
* ある特定の結果への嗜好の増加
* ある特定の結果から離れていることに対する反発の増加
などが挙げられる。それより明白ではないが、より理論的なパターンとしては
* 次の結果を表現する確率分布が、ある分布へとより似るようになること
* ある特定の値から離れた結果の[[期待値]]を計算することによって形成される列が {{math|0}} へと収束すること
* 次の事象を表現する[[確率変数]]の[[分散 (確率論)|分散]]がより少なくなっていくこと
などが挙げられる。これらの起こりうる異なるタイプのパターンは、研究されている異なるタイプの確率収束において反映される。

上述の議論は一つの列の一つの極限値への収束と関連しているが、二つの列が互いへと収束する概念も重要である。しかし、それは、それら2つの列の差や比によって定義される列を研究することによって容易に扱うことができる。

例えば、等しい有限の[[平均]]と分散を持つような {{mvar|n}} 個の{{仮リンク|無相関|en|uncorrelated}}確率変数 {{math2|''Y{{sub|i}}'', ''i'' {{=}} 1, …, ''n''}} の平均が
:<math>X_n = \frac{1}{n} \sum_{i=1}^n Y_i</math>
で与えられるとすると、{{mvar|n}} が無限大へと近付く時、{{mvar|X{{sub|n}}}} は確率変数 {{mvar|Y{{sub|i}}}} の共通の平均 {{mvar|μ}} へと確率収束（下記参照）する。この結果は[[大数の法則|大数の弱法則]]として知られる。別のタイプの収束は、[[中心極限定理]]を含む別の有用な定理において重要となる。

以下では、{{math|(''X{{sub|n}}'')}} を確率変数列とし、{{mvar|X}} を確率変数とし、それらすべては同一の[[確率空間]] <math>\scriptstyle (\Omega, \mathcal{F}, P )</math> 上で定義されるものとする。

== 分布収束 ==
{{Infobox
|title = 分布収束の例
|bodystyle = width:28em
|headerstyle = background-color:lightblue;text-align:left;padding-left:3pt
|datastyle = text-align:left
|header1 = サイコロ工場
|data2 = 新しく建設されたばかりのサイコロ工場について考える。初めの方に作られたサイコロには、その製造過程の不完全さに起因して、偏りがあると考えられる。それらを投げた時に出る目から得られる分布は、理想とする[[一様分布]]とはきわだって異なるものとなるであろう。<br /><br />工場が改善されるにつれてサイコロの偏りは少なくなり、より新しく作られたサイコロを投げた時に出る目は一様分布により近いものとなっていく。
|header3 = コイン投げ
|data4 = 偏りの無いコインを {{mvar|n}} 回投げた時に表が出た割合を {{mvar|X{{sub|n}}}} とする。このとき、{{math|''X''{{sub|1}}}} は期待値 {{math2|''μ'' {{=}} 0.5}} および分散 {{math2|''σ''{{sup|2}} {{=}} 0.25}} である[[ベルヌーイ分布]]に従う。それ以降の確率変数 {{math|''X''{{sub|2}}, ''X''{{sub|3}}, …}} はすべて[[二項分布|二項的に]]分布する。<br /><br />{{mvar|n}} が大きくなるにつれて、その分布はしだいに[[正規分布]]の釣鐘型曲線に近い形を取るようになる。{{mvar|X{{sub|n}}}} を適切にシフトし、リスケールすることによって<math>\scriptstyle Z_n = \sqrt{n}(X_n-\mu)/\sigma</math> は標準正規分布へと'''分布収束'''する。この結果は有名な[[中心極限定理]]によるものである。
|header5 = グラフ例
|data6 = {{math|{''X{{sub|i}}''{{)}}}} を、[[一様分布|一様]] {{math|''U''(−1,1)}} 確率変数の[[独立同分布|独立同一]]列とする。<math>\scriptstyle Z_n = {\scriptscriptstyle\frac{1}{\sqrt{n}}}\sum_{i=1}^n X_i</math> を、それらの（正規化された）和とする。このとき、[[中心極限定理]]より、{{mvar|Z{{sub|n}}}} の分布は標準 {{math|''N''(0,&thinsp;{{sfrac|1|3}})}} 分布へと近付く。この収束を、下図に表す：{{mvar|n}} が大きくなるにつれて、確率密度関数はガウス曲線へと近付いていく。
[[画像:Convergence in distribution (sum of uniform rvs).gif|center|200px]]
}}
このタイプの収束により、ある与えられた[[確率分布]]によってより良くモデル化されるようなランダム実験の列における結果を期待することができる。

分布収束は、この記事内で述べられる全ての他のタイプの収束も意味するという点において、最も弱い収束である。しかしながら、実際の現場において、分布収束は非常によく利用される; 最もよく現れるのは、[[中心極限定理]]の応用においてである。

=== 定義 ===
[[確率変数]]の列 {{math2|''X''{{sub|1}}, ''X''{{sub|2}}, …}} が、ある確率変数 {{mvar|X}} へと'''分布収束'''する、あるいは'''弱収束'''あるいは'''法則収束''' (converge in law) するとは、
: <math>\lim_{n\to\infty} F_n(x) = F(x),</math>
が、{{mvar|F}} が[[連続 (数学)|連続]]であるような全ての数 {{math|''x'' ∈ '''R'''}} に対して成り立つことである。ここで、{{mvar|F{{sub|n}}}} および {{mvar|F}} はそれぞれ確率変数 {{mvar|X{{sub|n}}}} および {{mvar|X}} の[[累積分布関数]]である。

{{mvar|F}} が連続であるような点のみを考えるということは本質的である。例えば、もし {{mvar|X{{sub|n}}}} が区間 {{math|[0,&thinsp;{{sfrac|1|''n''}}]}} 上[[一様分布|一様に]]分布しているなら、その列は[[退化分布|退化]]確率変数 {{math|''X'' {{=}} 0}} へと収束する。実際、{{math|''x'' ≤ 0}} である時はすべての {{mvar|n}} に対して {{math|''F{{sub|n}}''(''x'') {{=}} 0}} が成り立ち、 {{math|''x'' > 0}} である時はすべての {{math|''x'' ≥ {{sfrac|1|''n''}}}} となる {{mvar|n}} に対して {{math|''F{{sub|n}}''(''x'') {{=}} 1}} が成り立つ。しかしながら、すべての {{mvar|n}} に対して {{math|''F{{sub|n}}''(0) {{=}} 0}} であるにもかかわらず、この極限確率変数に対しては {{math|''F''(0) {{=}} 1}} である。したがって、{{mvar|F}} の不連続点 {{math|''x'' {{=}} 0}} では累積分布関数の収束は成立しない。

分布収束は次のように表記することができる。
: <math>\begin{align}
  & X_n \ \xrightarrow{d}\ X,\ \ 
    X_n \ \xrightarrow{\mathcal{D}}\ X,\ \ 
    X_n \ \xrightarrow{\mathcal{L}}\ X,\ \  
    X_n \ \xrightarrow{d}\ \mathcal{L}_X, \\
  & X_n \rightsquigarrow X,\ \ 
    X_n \Rightarrow X,\ \ 
    \mathcal{L}(X_n)\to\mathcal{L}(X),\\ 
  \end{align}</math>
ここで <math>\scriptstyle\mathcal{L}_X</math> は {{mvar|X}} の法則（確率分布）である。例えば、{{mvar|X}} が標準正規であるなら <math style="height:1.5em;position:relative;top:-.3em">X_n\,\xrightarrow{d}\,\mathcal{N}(0,\,1)</math> と書くことができる。

{{仮リンク|確率ベクトル|en|random vector}} {{math2|(''X''{{sub|1}}, ''X''{{sub|2}}, …) ⊂ '''R'''{{sup|''k''}}}} に対する分布収束も、同様に定義される。この列がある確率 {{mvar|k}}-ベクトルへと'''分布収束'''するとは、
: <math>\lim_{n\to\infty} \operatorname{Pr}(X_n\in A) = \operatorname{Pr}(X\in A)</math>
が、{{mvar|X}} の{{仮リンク|連続集合|en|continuity set}}であるすべての {{math|''A'' ⊂ '''R'''{{sup|''k''}}}} に対して成り立つことである。

分布収束の定義は、確率ベクトルから、任意の[[距離空間]]におけるより複雑な[[確率要素]]や、さらには漸近の場合を除いて可測でない「確率変数」に対してですら拡張される-そのような状況は例えば[[経験過程]]の研究において現れ、これは「定義されていない法則の弱収束」である<ref>{{harvnb|Bickel|Klaassen|Ritov|Wellner|1998|loc=A.8, page 475}}</ref>。

この場合、'''弱収束'''という呼び名が好ましい（{{仮リンク|測度の弱収束|en|weak convergence of measures}}を参照されたい）。また、確率要素の列 {{math|(''X{{sub|n}}'')}} が {{mvar|X}} へと弱収束する（{{math|''X{{sub|n}}'' ⇒ ''X''}} と記述される）とは、
: <math>\operatorname{E}^* h(X_n) \to \operatorname{E} \,h(X)</math>
がすべての連続有界関数 {{math|''h''(·)}} に対して成り立つことである<ref>{{harvnb|van der Vaart|Wellner|1996|page=4}}</ref>。ここで E{{sup|*}} は外期待値 (outer expectation)、すなわち、{{math|''h''(''X{{sub|n}}'')}} を支配するような最小の可測関数 {{mvar|g}} の期待値を表す。

=== 性質 ===
* {{math|''F''(''a'') {{=}} Pr(''X'' ≤ ''a'')}} であることから、分布収束は、十分大きい {{mvar|n}} に対して {{mvar|X{{sub|n}}}} がある与えられた領域に含まれる確率と、その領域に {{mvar|X}} が含まれる確率がほとんど等しいことを意味する。
* 一般的に分布収束は、対応する[[確率密度関数]]の列が同様に収束するということは意味しない。その一例として、密度 {{math|''f{{sub|n}}''(''x'') {{=}} (1 &minus; cos(2''{{π}}nx''))'''1'''{{sub|{''x''∈(0,1){{)}}}}}} を備える確率変数を考える。そのような確率変数は一様分布 {{math|''U''(0, 1)}} へと分布収束するが、その密度が収束することはない<ref>{{harvnb|Romano|Siegel|1985|loc=Example 5.26}}</ref>。
*'''{{仮リンク|ポートマントーの補題|en|Portmanteau lemma}}'''では、分布収束のいくつかの同値な定義が述べられている。それらの定義は直感にそぐわないものでもあるかも知れないが、統計学における多くの定理の証明に利用されている。その補題によれば、{{math|(''X{{sub|n}}'')}} が {{mvar|X}} へ分布収束するための必要条件は、次のいずれかが成立することである：
* {{math|E''f''(''X{{sub|n}}'') → E''f''(''X'')}} がすべての[[有界関数|有界]]な[[連続関数]] {{mvar|f}} に対して成立する；
* Eƒ(''X{{sub|n}}'') → E''f''(''X'') がすべての有界な[[リプシッツ連続|リプシッツ関数]] {{mvar|f}} に対して成立する；
* limsup{ E''f''(''X{{sub|n}}'') } ≤ E''f''(''X'') がすべての[[半連続|上半連続]]かつ上に有界な関数 {{mvar|f}} に対して成立する；
* liminf{ E''f''(''X{{sub|n}}'') } ≥ E''f''(''X'') がすべての[[半連続|下半連続]]かつ下に有界な関数 {{mvar|f}} に対して成立する；
* limsup{ Pr(''X{{sub|n}}'' ∈ ''C'') } ≤ Pr(''X'' ∈ ''C'') がすべての[[閉集合]] ''C'' に対して成立する；
* liminf{ Pr(''X{{sub|n}}'' ∈ ''U'') } ≥ Pr(''X'' ∈ ''U'') がすべての[[開集合]] ''U'' に対して成立する；
* lim{ Pr(''X{{sub|n}}'' ∈ ''A'') } = Pr(''X'' ∈ ''A'') が、すべての確率変数 ''X'' の{{仮リンク|連続集合|en|continuity set}} {{mvar|A}} に対して成立する。
*'''{{仮リンク|連続写像定理|en|Continuous mapping theorem}}'''によると、{{math|''g''(·)}} が連続関数であるとき、確率変数列 {''X{{sub|n}}''} が {{mvar|X}} に分布収束するなら、{''g''(''X{{sub|n}}'')} も {{math|''g''(''X'')}} へと分布収束することが分かる。
*'''[[レヴィの連続性定理]]'''：確率変数列 {''X{{sub|n}}''} が {{mvar|X}} に分布収束するための必要十分条件は、それらに対応する[[特性関数 (確率論)|特性関数]]の列 {{math|(''φ{{sub|n}}'')}} が {{mvar|X}} の特性関数 {{mvar|φ}} へと[[各点収束]]することである。
* 分布収束は[[レヴィ-プロホロフ計量]]によって[[距離化可能]]である。
* [[スコロホッドの表現定理]]は、分布収束への自然な拡張である。

== 確率収束 ==
{{Infobox
|title = 確率収束の例
|bodystyle = width:28em
|headerstyle = background-color:lightblue;text-align:left;padding-left:3pt
|datastyle = text-align:left
|header1 = ある人物の身長
|data2 = 次のような実験を考える。はじめに、路上の人の中からランダムに一人選ぶ。その人の身長 {{mvar|X}} を、事前に確率変数として定めておく。その後、他の人々に、その人の身長を目算で予測してもらう作業を始める。{{mvar|X{{sub|n}}}} を、その人々からの {{mvar|n}} 回目の回答までに得られた身長の数字の平均とする。すると（[[偏り|バイアス]]が無いならば）[[大数の法則]]により、列 {{mvar|X{{sub|n}}}} はあらかじめ定めた確率変数 {{mvar|X}} へと確率収束する。
|header3 = 射手
|data4 = 人に弓を持たせ、的を目掛けて矢を射させる作業を考える。{{mvar|X{{sub|n}}}} を、その人の {{mvar|n}} 回目までの[[射的]]の成績とする。初めの内は、その人はとても頻繁に的を外すことも考えられるであろうが、何度も繰り返す内にその人の射的の腕前は向上し、的の中心を射抜いて 10 点の成績を得ることも起こりやすくなるであろう。何年も練習を重ねた後に、その人が 10 点以外の成績を得る可能性はより低くなるであろう。したがって、列 {{mvar|X{{sub|n}}}} は {{math|''X'' {{=}} 10}} へと確率収束する。<br /><br />ここで {{mvar|X{{sub|n}}}} は、概収束はしないことに注意されたい。その人がどれほど優れた射手であろうと、失敗をする確率はわずかにでも常に存在している。したがって、列 {{math|(''X{{sub|n}}'')}} は決して定常状態になることは無い。たとえその頻度が少なくなろうと、パーフェクトでない成績は必ずそこに含まれる。
}}
「例外的」な結果が起こる確率は、列が進むにつれてより小さくなる、という考え方が、このタイプの収束の背景にある。

確率収束の概念は統計学において非常に頻繁に用いられる。例えば、ある[[推定量]]が[[一致推定量]]であるとは、それが推定された量へと確率収束することを言う。確率収束はまた、[[大数の法則|大数の弱法則]]により確立される収束の一つでもある。

=== 定義 ===
確率収束の定義を正式に述べる。任意の {{math|''ε'' > 0}} および任意の {{math|''δ'' > 0}} を選ぶ。{{mvar|X}} を中心とする半径 {{mvar|ε}} の外側に {{mvar|X{{sub|n}}}} がある確率を {{mvar|P{{sub|n}}}} とする。このとき、{{mvar|X{{sub|n}}}} が {{mvar|X}} へと確率収束するためには、全ての {{math|''n'' ≥ ''N{{sub|δ}}''}} に対して確率 {{mvar|P{{sub|n}}}} が {{mvar|δ}} より小さくなる、ある数 {{mvar|N{{sub|δ}}}} が存在しなければならない。

確率収束は、収束を表す矢印に記号 {{mvar|p}} を付け加えるか、確率極限作用素 "plim" を使って表される：
: <math>
    X_n \ \xrightarrow{p}\ X,\ \ 
    X_n \ \xrightarrow{P}\ X,\ \ 
    \underset{n\to\infty}{\operatorname{plim}}\, X_n = X.
  </math>

=== 性質 ===
*確率収束するならば、分布収束する{{sup|[[:en:Proofs of convergence of random variables#propA2|[proof]]]}}。
*確率収束しても、必ずしも概収束しない{{sup|[[:en:Proofs of convergence of random variables#propA1i|[proof]]]}}。
*逆に、分布収束が確率収束を意味するためには、極限の確率変数 ''X'' が定数である必要がある{{sup|[[:en:Proofs of convergence of random variables#propB1|[proof]]]}}。
*{{仮リンク|連続写像定理|en|continuous mapping theorem}}によると、どのような連続関数 {{math|''g''(·)}} に対しても、<math style="position:relative;top:-.4em">\scriptstyle X_n\xrightarrow{p}X</math> であるならば <math style="position:relative;top:-.35em">\scriptstyle g(X_n) \xrightarrow{p} g(X)</math> が成立する。
*確率収束は、ある固定された確率空間に対する確率変数の空間上の[[位相幾何学|位相]]を定義する。この位相は、次に述べる{{仮リンク|カイ・ファン|en|Ky Fan}}計量により[[距離函数|距離化可能]]である<ref>{{harvnb|Dudley|2002|page=289}}</ref>：
:: <math style="position:relative;top:.3em">d(X,Y) = \inf\!\big\{ \varepsilon>0:\ \Pr\big(|X-Y|>\varepsilon\big)\leq\varepsilon\big\}</math>
あるいは
:: <math>d(X,Y)=\mathbb E\left[\min(|X-Y|, 1)\right]</math>.

== 概収束 ==
{{Infobox
|title = 概収束の例
|bodystyle = width:28em
|headerstyle = background-color:lightblue;text-align:left
|datastyle = text-align:left
|header1 = 例 1
|data2 = 短命の種である一匹の動物について考える。その動物が毎日に摂る食事の数量を記録する。この数量の列は予測不可能であろうが、その値が {{math|0}} となる日は「確かに必ず」訪れるであろう。その値はその後は永遠に {{math|0}} であり続ける。
|header3 = 例 2
|data4 = 毎朝 7 枚のコインを投げる男について考える。その男は、表の出た枚数だけ 1 [[ポンド (貨幣)|ポンド]]貨幣を午後に[[チャリティー]]へと寄付することを日課としているが、全てが裏であった時にはその日課を永遠に止めることに決めている。<br /><br />{{math|''X''{{sub|1}}, ''X''{{sub|2}}, …}} を、そのチャリティーが彼から受け取る日々の金額とする。<br /><br />その金額が {{math|0}} となり、またその後も {{math|0}} であり続けるような日が訪れることは「ほとんど確かに」予想できるであろう。<br /><br />しかし、コインを投げる日が有限であるのなら、そのような終了条件が起こらない確率も {{math|0}} ではない。
}}
概収束は、初等的な[[実解析]]の分野で知られる[[各点収束]]の概念とほぼ同様な、確率収束の一つの型である。

=== 定義 ===
確率変数列 {{mvar|X{{sub|n}}}} が {{mvar|X}} へと'''概収束'''あるいは'''ほとんど確実に収束'''、'''ほとんど至る所で収束'''、'''確率 {{math|1}} で収束'''あるいは'''強収束'''するとは、
: <math>\operatorname{Pr}\!\left( \lim_{n\to\infty}\! X_n = X \right) = 1</math>
が成り立つことである。

上式は、{{mvar|X{{sub|n}}}} が {{mvar|X}} へと収束しない事象が起きる確率が {{math|0}} であるという意味で、{{mvar|X{{sub|n}}}} の値が {{mvar|X}} の値へと近付くことを意味する（[[ほとんど (数学)]]も参照）。確率空間 <math>\scriptstyle (\Omega, \mathcal{F}, P)</math> を定め、{{mvar|Ω}} から {{math|'''R'''}} への関数としての確率変数の概念を利用することで、上式は
: <math>\operatorname{Pr}\Big( \omega \in \Omega : \lim_{n \to \infty} X_n(\omega) = X(\omega) \Big) = 1</math>
と同値となる。

また概収束の同値な定義には、以下もある：
: <math>\operatorname{Pr}\Big( \liminf \big \{ \omega \in \Omega : | X_n(\omega) - X(\omega) | < \varepsilon \big\} \Big) = 1 \quad\text{for all}\quad \varepsilon>0.</math>
概収束は、しばしば、収束を表す矢印の上に記号 a.s.（almost surelyの略）を付け加えることによって表現される：
: <math>X_n \, \xrightarrow{\mathrm{a.s.}} \, X.</math>
[[距離空間]] {{math|(''S'', ''d'')}} 上の一般的な[[確率要素]] {{math|(''X{{sub|n}}'')}} に対しても、同様に概収束が定義される：
: <math>\operatorname{Pr} \Big( \omega\in\Omega:\, d\big(X_n(\omega),X(\omega)\big)\,\underset{n\to\infty}{\longrightarrow}\,0 \Big) = 1</math>

=== 性質 ===
* 概収束は確率収束を意味し、したがって分布収束を意味する。[[大数の法則|大数の強法則]]で用いられる概念は、概収束である。
* 概収束の概念は、確率変数の空間上の[[位相幾何学|トポロジー]]から生じるものではない。このことは、概収束がそのトポロジーに関する収束列と全く等しいような確率変数の空間上のトポロジーというものは存在しないことを意味する。特に、概収束には計量が無い。

== 確実収束 ==
ある[[確率空間]]上定義される列あるいは確率変数 {{math|(''X{{sub|n}}'')}}（すなわち、[[確率過程]]）が {{mvar|X}} へ'''確実収束''' (sure convergence) あるいは'''各点収束'''するとは、
:<math>\lim_{n\rightarrow\infty}X_n(\omega)=X(\omega), \, \, \forall \omega \in \Omega </math>
が成り立つことである。ここで {{mvar|Ω}} は、確率変数が定義される[[確率空間]]に含まれる[[標本空間]]である。

これは、関数列の[[各点収束]]の概念を[[確率変数]]の列へと拡張したものである（確率変数はそれ自身が関数であることに注意されたい）。
:<math>\big\{\omega \in \Omega \, | \, \lim_{n \to \infty}X_n(\omega) = X(\omega) \big\} = \Omega.</math>
確率変数の確実収束は、上述の他の全ての収束を意味する。しかし、概収束の代わりに確実収束を用いることのメリットは[[確率論]]においてはあまり無い。それら2つの収束の違いは、確率 {{math|0}} の集合に関する点のみに存在する。このことが、確実収束の概念が滅多に用いられることの無い理由である。

== 平均収束 ==
ある {{math|''r'' ≥ 1}} に対し、列 {{math|(''X{{sub|n}}'')}} が {{mvar|X}} へと {{mvar|r}}次平均収束（あるいは、[[Lp空間|{{mvar|L{{sup|r}}}}-ノルム]]について収束）するとは、{{math|(''X{{sub|n}}'')}} および {{mvar|X}} の {{mvar|r}}次[[絶対積率]]が存在し、かつ
: <math>\lim_{n\to\infty} \operatorname{E}\left( |X_n-X|^r \right) = 0</math>
が成り立つことである。ここで作用素 E は[[期待値]]を表す。{{mvar|r}}次平均収束は、{{math|(''X{{sub|n}}'')}} と {{mvar|X}} の差の {{mvar|r}}次のべきの期待値が {{math|0}} へと収束することを意味する。

この種の収束はしばしば、収束を表す矢の上に記号 {{mvar|L{{sup|r}}}} を付け加えることで表現される：
: <math>X_n \, \xrightarrow{L^r} \, X.</math>
''r''次平均収束に関して重要なケースを下に挙げる：
* {{math|''r'' {{=}} 1}} について {{mvar|X{{sub|n}}}} が {{mvar|X}} へと {{mvar|r}}次平均収束するとき、{{mvar|X{{sub|n}}}} は {{mvar|X}} へ'''平均収束'''すると言われる。
* {{math|''r'' {{=}} 2}} について {{mvar|X{{sub|n}}}} が {{mvar|X}} へと {{mvar|r}}次平均収束するとき、{{mvar|X{{sub|n}}}} は {{mvar|X}} へ'''二乗平均収束'''すると言う。この収束はまた次のように記述されることもある<ref>{{Cite book |last=Porat |first=B. |title=Digital Processing of Random Signals: Theory & Methods |year=1994 |publisher = Prentice Hall |isbn=0-13-063751-3 |page=19}}</ref>：
*: <math>\underset{n\to\infty}{\operatorname{l.i.m.}} X_n = X.</math>
{{math|''r'' > 1}} に関する {{mvar|r}}次平均収束は、（[[マルコフの不等式]]により）確率収束を意味する。また、{{math|''r'' > ''s'' ≥ 1}} である時、{{mvar|r}}次平均収束は {{mvar|s}}次平均収束を意味する。このことから、二乗平均収束は平均収束を意味することが分かる。

== 性質 ==
様々な収束の概念の間の包含関係を以下に記述する。それらは、矢の記号を使うことで、次のように表される：
: <math>\begin{matrix}
  \xrightarrow{L^s} &\underset{s>r\geq1}{\Rightarrow} &\xrightarrow{L^r} & & \\
  & &\Downarrow & & \\
  \xrightarrow{a.s.} &\Rightarrow &\xrightarrow{\ p\ } &\Rightarrow &\xrightarrow{\ d\ }
\end{matrix}</math>

いくつかの特別な場合とともに、これらの性質を次のようにまとめる：
*概収束は、確率収束を意味する<ref name="vdv2">{{harvnb|van der Vaart|1998|loc=Theorem 2.7}}</ref>{{sup|[[:en:Proofs of convergence of random variables#propA1|[proof]]]}}：
*: <math>X_n\ \xrightarrow{as}\ X  \quad\Rightarrow\quad  X_n\ \xrightarrow{p}\ X</math>
*確率収束は、概収束するような部分列 <math>(k_n)</math> が存在することを意味する<ref>{{Cite book|last=Gut|first=Allan|title=Probability: A graduate course|year=2005|publisher=Springer|location=Theorem 3.4|isbn=0-387-22833-0}}</ref>：
*: <math>X_n\ \xrightarrow{p}\ X \quad \Rightarrow \quad X_{k_n}\ \xrightarrow{as}\ X</math>
*確率収束は、分布収束を意味する<ref name="vdv2"/>{{sup|[[:en:Proofs of convergence of random variables#propA2|[proof]]]}}：
*: <math>X_n\ \xrightarrow{p}\ X \quad\Rightarrow\quad  X_n\ \xrightarrow{d}\ X</math>
* {{mvar|r}}次平均収束は、確率収束を意味する：
*: <math>X_n\ \xrightarrow{L^r}\ X  \quad\Rightarrow\quad  X_n\ \xrightarrow{p}\ X</math>
*{{mvar|r}}次平均収束は、より低次（ただしそれらはいずれも {{math|1}} より大きいものとする）の平均収束を意味する：
*: <math>X_n\ \xrightarrow{L^r}\ X  \quad\Rightarrow\quad  X_n\ \xrightarrow{L^s}\ X,</math> <span style="position:relative;top:.4em;left:2em">provided ''r'' ≥ ''s'' ≥ 1.</span>
*{{mvar|X{{sub|n}}}} が定数 {{mvar|c}} へと分布収束するなら、{{mvar|X{{sub|n}}}} は {{mvar|c}} へと確率収束する<ref name="vdv2"/>{{sup|[[:en:Proofs of convergence of random variables#propB1|[proof]]]}}：
*: <math>X_n\ \xrightarrow{d}\ c \quad\Rightarrow\quad X_n\ \xrightarrow{p}\ c,</math> <span style="position:relative;top:.4em;left:2em">provided ''c'' is a constant.</span>
*{{mvar|X{{sub|n}}}} が {{mvar|X}} へと分布収束し、{{mvar|X{{sub|n}}}} と {{mvar|Y{{sub|n}}}} の差が {{math|0}} へと確率収束するなら、{{mvar|Y{{sub|n}}}} もまた {{mvar|X}} へ分布収束する<ref name="vdv2"/>{{sup|[[:en:Proofs of convergence of random variables#propB2|[proof]]]}}：
*: <math>X_n\ \xrightarrow{d}\ X,\ \ |X_n-Y_n| \ \xrightarrow{p} \ 0\ \quad \Rightarrow\quad  Y_n \ \xrightarrow{d}\ X</math>
*{{mvar|X{{sub|n}}}} が {{mvar|X}} へ分布収束し、{{mvar|Y{{sub|n}}}} が定数 {{mvar|c}} へ分布収束するなら、それらの結合ベクトル ({{mvar|X{{sub|n}}}}, {{mvar|Y{{sub|n}}}}) は {{math|(''X'', ''c'')}} へ分布収束する<ref name="vdv2"/>{{sup|[[:en:Proofs of convergence of random variables#propB3|[proof]]]}}：
*: <math>X_n \ \xrightarrow{d} \ X,\ \ Y_n \ \xrightarrow{d} \ c\ \quad \Rightarrow \quad (X_n,Y_n)\ \xrightarrow{d} \ (X,c)</math> <span style="position:relative;top:.4em;left:2em">provided {{mvar|c}} is a constant.</span>
ここで {{mvar|Y{{sub|n}}}} が定数へ収束するという条件が重要であることに注意されたい。もしその収束がある確率変数 {{mvar|Y}} へのものであったら、{{math|(''X{{sub|n}}'', ''Y{{sub|n}}'')}} が {{math|(''X'', ''Y'')}} へ収束するという結論は得られない。
*{{mvar|X{{sub|n}}}} が {{mvar|X}} へ確率収束し、{{mvar|Y{{sub|n}}}} が {{mvar|Y}} へ確率収束するなら、それらの結合ベクトル {{math|(''X{{sub|n}}'', ''Y{{sub|n}}'')}} は {{math|(''X'', ''Y'')}} へ確率収束する<ref name="vdv2"/>{{sup|[[:en:Proofs of convergence of random variables#propB4|[proof]]]}}：
*: <math>X_n\ \xrightarrow{p}\ X,\ \ Y_n\ \xrightarrow{p}\ Y\ \quad\Rightarrow\quad (X_n,Y_n)\ \xrightarrow{p}\ (X,Y)</math>
* {{mvar|X{{sub|n}}}} が {{mvar|X}} へ確率収束し、すべての {{mvar|n}} およびある {{mvar|b}} に対して {{math|'''P'''({{!}}''X{{sub|n}}''{{!}} ≤ ''b'') {{=}} 1}} が成立するなら、{{mvar|X{{sub|n}}}} はすべての {{math|''r'' ≥ 1}} に対して {{mvar|X}} へと {{mvar|r}}次平均収束する。言い換えると、{{mvar|X{{sub|n}}}} が {{mvar|X}} へと確率収束し、すべての {{mvar|X{{sub|n}}}} がほとんど確実に上下とも有界であるなら、{{mvar|X{{sub|n}}}} は任意の {{mvar|r}} について {{mvar|X}} へ {{mvar|r}}次平均収束する。
* '''概収束表現'''：通常、分布収束は概収束を意味するものではない。しかし、{{math|''X''{{sub|0}}}} へ分布収束するある与えられた列 {{math|(''X{{sub|n}}'')}} に対しては、新しい確率空間 {{math|(Ω, ''F'', P)}} とその上で定義される確率変数 {{math|(''Y{{sub|n}}'', ''n'' {{=}} 0, 1, …)}} で、各 {{math|''n'' ≥ 0}} に対して {{mvar|Y{{sub|n}}}} は分布として {{mvar|X{{sub|n}}}} に等しく、また {{mvar|Y{{sub|n}}}} は {{math|''Y''{{sub|0}}}} へと概収束するようなものを見つけることが常に可能である<ref>{{harvnb|van der Vaart|1998|loc=Th.2.19}}</ref>。
* すべての {{math|''ε'' > 0}} に対して
*:<math>\sum_n \mathbb{P} \left(|X_n - X| > \varepsilon\right) < \infty</math>
:であるとき、{{mvar|X{{sub|n}}}} は {{mvar|X}} へとほとんど完全に (almost completely) 収束すると言う。{{mvar|X{{sub|n}}}} が {{mvar|X}} へほとんど完全に収束するなら、それはまた {{mvar|X}} へ概収束もする。言い換えると、もし {{mvar|X{{sub|n}}}} が十分に早く {{mvar|X}} へ確率収束する{{Efn|すなわち、上述の末尾確率の列が任意の {{math|''ε'' > 0}} に対して直和可能である。}}なら、{{mvar|X{{sub|n}}}} は {{mvar|X}} へ概収束もする。これは、[[ボレル・カンテリの補題]]からの直接的な帰結である。
* {{mvar|S{{sub|n}}}} を {{mvar|n}} 個の実独立な確率変数の和
*:<math>S_n = X_1+\cdots+X_n</math>
:としたとき、{{mvar|S{{sub|n}}}} が概収束することと確率収束することは同値である。
* [[優収束定理]]は、概収束が {{math|''L''{{sup|1}}}}-収束を意味するための十分条件を与える：
*:<math>
\left. \begin{array}{ccc}
X_n\xrightarrow{a.s.} X
\\ \\
|X_n| < Y
\\ \\
\mathrm{E}(Y) < \infty
\end{array}\right\} \quad\Rightarrow \quad X_n\xrightarrow{L^1} X
</math>
* {{math|''L''{{sup|1}}}} 収束のための必要十分条件は、<math>X_n\xrightarrow{P} X</math> かつ列 {{math|(''X{{sub|n}}'')}} が[[一様可積分性|一様可積分]]であることである。

== 脚注 ==
===注釈===
{{Notelist}}
===出典===
{{reflist}}

== 参考文献 ==
{{refbegin}}
* {{cite book
  | last = Bickel
  | first = Peter J.
  | coauthors = Klaassen, Chris A.J.; Ritov, Ya’acov; Wellner, Jon A.
  | year = 1998
  | title = Efficient and adaptive estimation for semiparametric models
  | publisher = Springer-Verlag
  | location = New York
  | isbn = 0-387-98473-9
  | lccn = QA276.8.E374
  | ref = CITEREFBickelKlaassenRitovWellner1998
  }}
* {{cite book
  | last = Billingsley
  | first = Patrick
  | title = Probability and Measure
  | year = 1986
  | edition = 2nd
  | series = Wiley Series in Probability and Mathematical Statistics
  | publisher = Wiley
  }}
* {{cite book
  | last = Billingsley
  | first = Patrick
  | year = 1999
  | title = Convergence of probability measures
  | publisher = John Wiley & Sons
  | edition = 2nd
  | pages = 1–28
  | isbn = 0-471-19745-9
  }}
* {{cite book
  | last = Dudley
  | first = R.M.
  | year = 2002
  | title = Real analysis and probability
  | publisher = [[ケンブリッジ大学出版局|Cambridge University Press]]
  | location = Cambridge, UK
  | isbn = 0-521-80972-X
  }}
* {{cite book
  | first = G.R.
  | last = Grimmett
  | coauthors = Stirzaker, D.R.
  | year = 1992
  | title = Probability and random processes
  | edition = 2nd
  | publisher = Clarendon Press, Oxford
  | pages = 271–285
  | isbn = 0-19-853665-8
  }}
* {{cite book
  | first = M.
  | last = Jacobsen
  | year = 1992
  | title = Videregående Sandsynlighedsregning (Advanced Probability Theory)
  | edition = 3rd
  | publisher = HCØ-tryk, Copenhagen
  | pages = 18–20
  | isbn = 87-91180-71-6
  }}
* {{cite book
  | last1 = Ledoux
  | first1 = Michel
  | last2 = Talagrand | first2 = Michel | author2-link = :en:Michel Talagrand
  | title = Probability in Banach spaces
  | publisher = Springer-Verlag
  | location = Berlin
  | year = 1991
  | pages = xii+480
  | isbn = 3-540-52013-9
  | mr = 1102015 
  }}
* {{cite book
  | last = Romano
  | first = Joseph P.
  | coauthor = Siegel, Andrew F.
  | year = 1985
  | title = Counterexamples in probability and statistics
  | publisher = Chapman & Hall
  | location = Great Britain
  | isbn = 0-412-98901-8
  | lccn = 85019024
  | ref = CITEREFRomanoSiegel1985
  }}
* {{cite book
  | last = van der Vaart
  | first = Aad W.
  | coauthor = Wellner, Jon A.
  | year = 1996
  | title = Weak convergence and empirical processes
  | publisher = Springer-Verlag
  | location = New York
  | isbn = 0-387-94640-3
  | lccn = 95049099
  | ref = CITEREFvan_der_VaartWellner1996
  }}
* {{cite book
  | last = van der Vaart
  | first = Aad W.
  | title = Asymptotic statistics
  | year = 1998
  | publisher = Cambridge University Press
  | location = New York
  | isbn = 978-0-521-49603-2
  | lccn = 98015176
  | ref = CITEREFvan_der_Vaart1998
  }}
* {{cite book
  | last = Williams
  | first = D.
  | title = Probability with Martingales
  | publisher = Cambridge University Press
  | year = 1991
  | isbn = 0-521-40605-6
  }}
* {{Cite book
  |last = Wong
  |first = E.
  |coauthors = Hájek, B.
  |title = Stochastic Processes in Engineering Systems
  |publisher = Springer–Verlag
  |location = New York
  |year = 1985
  }}
{{refend}}
{{cz|title=Stochastic convergence}}

== 関連項目 ==
{{wikibooks
  | 1 = Econometric Theory
  | 2 = Asymptotic Convergence
  | 3 = Convergence of random variables
  }}
* {{仮リンク|測度の収束|en|Convergence of measures}}
* {{仮リンク|連続確率過程|en|Continuous stochastic process}}：[[確率過程]]の連続性についての問題は、本質的には、収束や、多くの同様の概念や関係についての問題である。
* {{仮リンク|漸近分布|en|Asymptotic distribution}}
* {{仮リンク|確率論における大文字Oの表記|en|Big O in probability notation}}
* [[スコロホッドの表現定理]]

{{確率論}}
{{DEFAULTSORT:かくりつへんすうのしゆうそく}}
[[Category:確率論]]
[[Category:統計学]]
[[Category:数学に関する記事]]
[[Category:収束]]