ベイズ確率のソースを表示

{{ベイズ統計学}}
'''ベイズ確率'''（ベイズかくりつ、{{lang-en-short|Bayesian probability}}）とは、確率の概念を解釈したもので、[[頻度主義統計学|ある現象の頻度]]や傾向の代わりに、確率を知識の状態<ref name="ghxaib2">{{cite book|author=Jaynes, E.T.|year=1986|contribution=Bayesian Methods: General Background|title=Maximum-Entropy and Bayesian Methods in Applied Statistics|editor=Justice, J. H.|location=Cambridge|publisher=Cambridge University Press|citeseerx=10.1.1.41.1055}}</ref>を表す合理的な期待値<ref>{{Cite journal|last=Cox|first=R.T.|author-link=Richard Threlkeld Cox|year=1946|title=Probability, Frequency, and Reasonable Expectation|journal=American Journal of Physics|volume=14|issue=1|pages=1–10|bibcode=1946AmJPh..14....1C|doi=10.1119/1.1990764}}</ref>、あるいは個人的な信念の定量化と解釈したものである<ref name="Finetti, B. 1974">{{Cite book|last=de Finetti|first=Bruno|title=Theory of Probability: A critical introductory treatment|year=2017|publisher=John Wiley & Sons Ltd.|location=Chichester|isbn=9781119286370}}</ref>。

ベイズ確率の解釈は、[[命題論理]]を拡張したものであり、[[真理値|真偽]]が不明な命題を用いた推論を可能にするものと考えられる<ref name="Hailperin, T. 1996">{{Cite book|last=Hailperin|first=Theodore|title=Sentential Probability Logic: Origins, Development, Current Status, and Technical Applications|year=1996|publisher=Associated University Presses|location=London|isbn=0934223459}}</ref>。ベイズの考え方では仮説に確率を付与するが、頻度論的な推論では確率を付与せずに仮説を検証するのが一般的である。

ベイズ確率は証拠能力のある確率のカテゴリーに属する。仮説の確率を評価するために、ベイズ確率論者は[[事前確率]]を指定する。仮説の確率を評価するために、ベイズの確率論者は事前確率を指定し、新しい関連データ（証拠）に照らし合わせて[[事後確率]]に更新する<ref name="paulos">{{Cite web|authorlink=John Allen Paulos|author=Paulos|first=John Allen|url=https://www.nytimes.com/2011/08/07/books/review/the-theory-that-would-not-die-by-sharon-bertsch-mcgrayne-book-review.html|title=The Mathematics of Changing Your Mind [by Sharon Bertsch McGrayne]|date=5 August 2011|accessdate=2011-08-06}}</ref>。ベイジアン解釈では、この計算を行うための標準的な手順と式が用意されている。

ベイジアンという言葉は、18世紀の数学者・神学者である[[トーマス・ベイズ]]に由来する。ベイズは、現在[[ベイズ推定]]として知られているものを用いて、統計的データ分析の自明でない問題を初めて数学的に扱った人物である<ref name="HOS">{{Cite book|last=Stigler|first=Stephen M.|title=The history of statistics|date=March 1990|publisher=Harvard University Press|isbn=9780674403413}}</ref>。また、数学者の[[ピエール＝シモン・ラプラス]]は、現在ではベイズ確率と呼ばれているものを開拓し、普及させた<ref name="HOS" />。

== ベイジアンの方法論 ==
ベイズ法は、以下のような概念と手順によって特徴づけられる。

* 情報不足に起因する不確実性を含む、統計モデルにおける不確実性のすべての原因をモデル化するために、[[確率変数]]、より一般的には未知の量<ref name="rbp">{{cite journal|year=2009|title=New axioms for rigorous Bayesian probability|url=http://projecteuclid.org/download/pdf_1/euclid.ba/1340369856|journal=Bayesian Analysis|volume=4|issue=3|pages=599–606|doi=10.1214/09-BA422|author1=Dupré, Maurice J.|author2=Tipler, Frank J.|citeseerx=10.1.1.612.3036}}</ref>を使用すること（[[:en:Uncertainty quantification#Aleatoric and epistemic|アレトロール的不確実性およびエピステミックな不確実性]]も参照）。
* 利用可能な（事前の）情報を考慮して、事前の確率分布を決定する必要がある。
* [[ベイズの定理]]の逐次使用（'''逐次ベイズ推定'''）：より多くのデータが利用可能になった場合、ベイズの公式を用いて事後分布を計算し、その後、事後分布が次の事前分布となる。
* 頻度主義者にとって、[[帰無仮説|仮説]]は（真か偽かの）[[命題]]であり、頻度主義者にとっての仮説の確率は0か1であるが、ベイズ統計学では、真理値が不確かであれば、仮説に割り当てられる確率も0から1の範囲になる。

==歴史==
ベイズ確率（およびベイズ統計学）は、ベイズの定理の特別な場合を証明した[[トーマス・ベイズ]]にちなんだ命名（実際の命名は1950年代）ではあるが、ベイズ自身が現在のようなベイズ確率やベイズ推定の考え方を持っていたかどうかは定かでない。

ベイズ確率の考え方を積極的に用いたのは[[ピエール＝シモン・ラプラス]]（ベイズの定理の一般的な場合を証明した）で、それを「[[土星]]の[[質量]]を確率的に見積もる」というような問題に応用した。しかし彼以後は長らくこの考え方は顧みられなかった。土星の質量は推測値だからと言っても確率的に分布するわけではなく、[[観測]][[誤差]]の方が確率的に分布するのであると頻度主義では考える。特に19世紀末以降に発展した数理[[統計学]]は専ら頻度主義に基づいて厳密な理論を構築した。

確率の主観的解釈（のちにベイズ主義と呼ばれる）は[[1931年]]に哲学者・数学者の[[フランク・ラムゼイ (数学者)|フランク・ラムゼイ]]によって提唱され、彼は別の主観確率（論理確率）の支持者だった[[ケインズ]]と論争をしているが、彼自身はこれを頻度主義的解釈の単なる補助としか考えなかった。これをさらに厳密に取り上げたのは[[1937年]]、統計学者[[ブルーノ・デ・フィネッティ]]である。さらに初めて詳細な分析を加えたのは1954年、{{仮リンク|レオナード・ジミー・サヴェッジ|en|Leonard Jimmie Savage}}であって、彼の考え方にはベイズ確率・ベイズ主義という呼び名が適用された。そのほか初期の研究者には{{仮リンク|バーナード・クープマン|en|Bernard Koopman}}、[[エイブラハム・ウォールド]]らがいる。これらの研究は現在広く受け入れられるようになってきたが、頻度主義者とベイズ主義者の亀裂は現在でも尾を引いており、両主義の支持者の一部は互いに議論せず共通の学会に参加しないといった状況が続いている。

== 頻度確率 ==
ベイズ主義の基本的な考え方は、数学的確率論において現れる[[ベイズの定理]]を、主観的確率におけるデータ集積に応じて改訂し、さらに経験的に解釈し、統計問題に適用することである。このような確率理解に基づいて功利を計算し、合理的意思決定の問題として考えていく。つまり、ベイズの定理における ''P''(''B''|''A'') のうち、データ ''B'' を得たときの ''A'' が成り立つ[[条件付き確率]]を求め、新しいデータ ''B''<sub>1</sub>, ''B''<sub>2</sub>, ''B''<sub>3</sub>, …, ''B''<sub>''n''</sub> が得られるたびに、''A'' の生起確率を更新する。この応用として[[:en:Richard_Jeffrey|リチャード・ジェフリー]]の証拠的意思決定理論も編み出されている。

このような手法は、観測された頻度分布あるいは想定された[[母集団]]の割合から導かれるのが確率であるとする頻度確率の概念とは対照的である。また、統計学的方法が大きく異なる場合も多い。ただし、ベイズ主義と頻度主義とで同じ結論が得られる問題も多い。他方、統計学的仮説検定について、ベイズ主義と頻度主義との差が現れやすい。頻度主義では推定したいパラメータは一つの真の値をとると考えるが、ベイズ主義においてはパラメータは確率変数であると考える。

ここで、ベイズ主義者"Bayesian"が考える確率と頻度主義者"Frequentist"が考える確率とが全く異なる値となる例を一つ示す。

ここに1枚のインチキコインがあるとする。すなわち、表か裏のどちらかが出やすくなっている。
ただし、どちらが出やすいのかはわからない。
では、このコインを投げたとして表が出る確率をどう計算すべきか?

; ベイズ主義者が正しいと考えるであろう確率
: 表が出る確率は、{{frac|1|2}}である。
: 理由：表と裏のどちらが出やすいのか全く不明である。それ故、表の出る確率も裏の出る確率も全く平等である。それ故、理由不十分の原理により、ともに{{frac|1|2}}とする以外にない。
; 頻度主義者が正しいと考えるであろう確率
: 表が出る確率は、0から1までのいずれかであるが、{{frac|1|2}}ではない。
: 理由：コインを何度も投げると、［表の出た回数 / 投げた回数］は、ある値に近づく（[[大数の法則]]）。それが求める確率である。
: ただし、このコインはインチキコインなのだから{{frac|1|2}}には絶対にならない。

要するに、ベイズ主義者は、その時点で有する情報をもとに計算された確率を重視する。
（新たな情報が入手されれば確率は改定される。）

これに対して頻度主義者は、無限回試行を前提とした確率を重視する。

== ベイズ推定 ==
{{main|ベイズ推定}}
ベイズの定理を用いて、新しい証拠に照らして命題<math>\theta_i</math>の尤もらしさ（確率）の値<math>p_i</math>を改訂していく方法が[[ベイズ推定]]である。改訂前の値を[[事前確率]]、改訂後を[[事後確率]]と呼ぶ。事後確率は最良な推定結果そのものとなる。

例えばラプラスはこの方法で土星の質量を見積もった（土星の質量の推定値の事後確率分布<math>p(m_\text{sat})</math>の期待値<math>\bar{m}_\text{sat}</math>を計算した）。

しかし頻度主義による確率の定義では、このような適用はできない。土星質量の推定値は確率変数ではないからである。「土星の質量とはどんな母集団から抽出されたものか?」という問いに答えられなければ、これは頻度主義者の議論の対象にはならない。

== 応用 ==
ベイズ確率は現在いろいろな方面で応用されている。一方で頻度主義に基づく統計学の理論体系に対しては、かえって実用性を犠牲にしているとのベイジアンからの批判がある。むしろベイズ主義のほうが人間の思考様式になじむというわけである。ベイズ推定は、まず複数の仮説について尤もらしさ（信念の度合）を考え、実験や観測により新しい情報（データ）を収集し、それらを組み合わせてベイズの定理によってその確率を改訂するという点で、科学的方法のモデルとしても提案されている。また[[ベイズ因子]]（従来の統計学における[[尤度関数|尤度]]を用いる方法に似ている）を利用する方法は[[オッカムの剃刀]]に対応するものとされている。

ベイズ推定を用いた方法は近年、[[スパム (メール)|スパム]]を見つける方法（[[ベイジアンフィルタ]]）として利用され成果を上げている。すでに分かっているスパムの選別法をフィルターに示し、次いで単語の頻度を用いてスパムと必要な[[電子メール]]とを識別するのである。

== 脚注 ==
<references />

== 関連項目 ==
*[[最大エントロピー原理]]
*[[マルコフ連鎖モンテカルロ法]]（MCMC）
*[[ベイジアンネットワーク]]

{{統計学}}
{{確率論}}

{{DEFAULTSORT:へいすかくりつ}}
[[Category:確率論]]
[[Category:ベイズ統計]]
[[Category:数学の哲学]]
[[Category:トーマス・ベイズ]]
[[Category:数学のエポニム]]
[[Category:数学に関する記事]]