特性関数 (確率論)

テンプレート:Math の一様確率変数の特性関数。原点を中心とする対称性のある確率変数であるため、この関数は実数値を返す。ただし、一般に特性関数は複素数を返す。

確率論と統計学において、任意の確率変数に対する特性関数（とくせいかんすう、テンプレート:Lang-en-short）とは、その確率分布を完全に定義する関数である。したがって、確率密度関数や累積分布関数の代わりに特性関数を解析の基盤とすることもできる。確率変数の重み付き総和で分布を定義する単純な特性関数も存在する。

1 変量の分布以外にも、ベクトルまたは行列型の確率変数についての特性関数もあり、さらに一般化することもできる。

実数引数をとる関数と考えたとき、特性関数は積率母関数とは異なり、常に存在する。特性関数の振る舞いとその分布の属性には、モーメントの存在や密度関数の存在などの関係がある。

導入

特性関数は確率変数を記述する代替手段を提供する。累積分布関数

$F_X(x)=𝔼[{\mathrm{𝟏}}_{\{X\le x\}}]$

は確率変数 テンプレート:Mvar の確率分布の振る舞いと属性を完全に決定するが、それと同様に特性関数

${\phi }_X(t)=𝔼[e^{itX}]$

も確率変数 テンプレート:Mvar の確率分布の振る舞いと属性を完全に決定する。どちらか一方が分かっていればもう一方を求めることができ、その確率変数の特徴についてそれぞれ異なる洞察を与える。しかし、これらの関数を単純な標準的関数で表せるかどうかは、場合によって異なる。

確率変数が確率密度関数を持つ場合、特性関数と密度関数は互いにもう一方のフーリエ変換になっているという意味で双対である。確率変数に積率母関数がある場合、特性関数は複素領域に拡張されうる。

${\phi }_X(-it)=M_X(t)$

なお、確率密度関数や積率母関数が存在しない場合でも、ある確率分布の特性関数は常に存在する。

特性関数は、特に独立した確率変数の線型結合の分析で有効である。他にも、確率変数のテンプレート:仮リンクの理論においても重要である。

定義

スカラーの確率変数 テンプレート:Mvar について、その特性関数は、テンプレート:Mvar の期待値として定義される。ここで テンプレート:Mvar は虚数単位、テンプレート:Math2 は特性関数の引数である。

${\phi }_X:ℝ\to ℂ;{\phi }_X(t)=𝔼[e^{itX}]=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}d{F}_X(x)(=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}{f}_X(x)dx)$

ここで テンプレート:Mvar は テンプレート:Mvar の累積分布関数、積分はリーマン＝スティルチェス型である。確率変数 テンプレート:Mvar に確率密度関数 テンプレート:Mvar がある場合、その特性関数は確率密度関数のフーリエ変換でありテンプレート:Sfn、上記の括弧内の式が対応する。

なお、特性関数の定義に出現する定数は一般的なフーリエ変換のものとは異なるテンプレート:Sfn。例えば書籍によっては テンプレート:Math と定義しておりテンプレート:Sfn、これは本質的にはパラメータの変更である。他にも、確率測度 テンプレート:Mvar の特性関数を テンプレート:Math、確率密度関数 テンプレート:Mvar に対応する特性関数を テンプレート:Math と表すこともある。

特性関数の記法は、多変量の確率変数やさらに複雑な確率要素に一般化される。特性関数の引数は確率変数 テンプレート:Mvar が値を持つ空間の連続的双対空間に常に属する。主な場合における定義を以下に示す。

• テンプレート:Mvar が テンプレート:Mvar-次元の確率ベクトルの場合、テンプレート:Math2 について、

  ${\phi }_X(t)=𝔼[e^{i{t}^{\prime }X}],$

• テンプレート:Mvar がテンプレート:Math-次元の確率行列の場合、テンプレート:Math2 について、

  ${\phi }_X(t)=𝔼[e^{i\mathrm{tr}(t^{\prime }X)}],$

• テンプレート:Mvar が複素確率変数の場合、テンプレート:Math2 について、

  ${\phi }_X(t)=𝔼[e^{i\mathrm{Re}(\bar{t}X)}],$

• テンプレート:Mvar が テンプレート:Mvar-次元の複素確率ベクトルの場合、テンプレート:Math について、

  ${\phi }_X(t)=𝔼[e^{i\mathrm{Re}(t^{*}X)}],$

• テンプレート:Math が確率過程の場合、テンプレート:Mvar のほとんど全ての実現値について積分 テンプレート:Math が収束するような全ての関数 テンプレート:Math についてテンプレート:Sfn、

  ${\phi }_X(t)=𝔼[e^{i\underset{ℝ}{\int }t(s)X(s)ds}].$

ここで テンプレート:Mvar（プライム）は テンプレート:Mvar 転置行列、テンプレート:Math は行列の跡作用素、テンプレート:Math は複素数の実部、テンプレート:Math は テンプレート:Mvar の複素共役、テンプレート:Math は共役転置行列を意味する。

具体例

分布	特性関数 テンプレート:Math
退化 テンプレート:Mvar	$e^{ita}$
ベルヌーイ テンプレート:Math	$1-p+p{e}^{it}$
二項 テンプレート:Math	$(1-p+p{e}^{it}{)}^n$
ポアソン テンプレート:Math	$e^{\lambda (e^{it}-1)}$
一様 テンプレート:Math	$\frac{e^{itb}-e^{ita}}{it(b-a)}$
ラプラス テンプレート:Math	$\frac{e^{it\mu }}{1+b^2{t}^2}$
正規 テンプレート:Math	$e^{it\mu -\frac{1}{2}{\sigma }^2{t}^2}$
カイ二乗 テンプレート:Math	$(1-2it{)}^{-k/2}$
コーシー テンプレート:Math	$e^{it\mu -\theta |t|}$
ガンマ テンプレート:Math	$(1-it\theta {)}^{-k}$
指数 テンプレート:Math	$(1-it{\lambda }^{-1}{)}^{-1}$
多変量正規 テンプレート:Math	$e^{i{t}^{\prime }\mu -\frac{1}{2}{t}^{\prime }\mathrm{\Sigma }t}$

性質

• 確率変数の特性関数は、測度が有限な空間上の有界な連続関数の積分であるため、常に存在する。
• 特性関数は空間全体について一様連続である。
• ゼロ付近では根を持たない (テンプレート:Math)。
• 有界である (テンプレート:Math)。
• エルミート関数である（テンプレート:Math）。原点を中心として対称性のある確率変数の特性関数は実数関数であり偶関数である。
• 累積分布関数と特性関数の間には全単射が存在する。すなわち、2 つの任意の確率変数 テンプレート:Math と テンプレート:Math について、次が成り立つ：

  $F_{X_1}=F_{X_2}\iff {\phi }_{X_1}={\phi }_{X_2}.$

• 確率変数 テンプレート:Mvar に最大 テンプレート:Mvar-次のモーメントがある場合、その特性関数 テンプレート:Mvar は実数直線全体について テンプレート:Mvar 階連続微分可能である。このとき、次が成り立つ：

  $\mathrm{E}{X}^k=(-i{)}^k{\phi }_X^{(k)}(0).$

• 特性関数 テンプレート:Mvar がゼロにおいて テンプレート:Mvar 階の導関数を持つなら、確率変数 テンプレート:Mvar は テンプレート:Mvar が偶数なら最大で テンプレート:Mvar-次のモーメントを持つが、テンプレート:Mvar が奇数なら最大で テンプレート:Math-次までである。
• テンプレート:Math2 が独立確率変数で、テンプレート:Math2 が何らかの定数としたとき、テンプレート:Mvar の線型結合の特性関数は次のようになる。

  ${\phi }_{a_1{X}_1+\dots +a_n{X}_n}(t)={\phi }_{X_1}(a_{1}t)\cdot \dots \cdot {\phi }_{X_n}(a_{n}t).$

• 特性関数の裾野の振る舞いは、対応する確率密度関数の平滑性を決定する。

連続性

上述した確率分布と特性関数の全単射は「連続」である。すなわち、累積分布関数の族 テンプレート:Math が何らかの分布 テンプレート:Math にテンプレート:仮リンクするとき、対応する一連の特性関数 テンプレート:Math も収束し、極限 テンプレート:Math はそのままの テンプレート:Mvar の特性関数に対応する。これをより形式的に述べると、次のようになる。

レヴィの連続性定理 テンプレート:En：テンプレート:Mvar-変量確率変数の列 テンプレート:Math が確率変数 テンプレート:Mvar に分布において収束する場合、常に列 テンプレート:Math は原点で連続な関数 テンプレート:Mvar に各点収束する。この テンプレート:Mvar は テンプレート:Mvar の特性関数であるテンプレート:Sfn。

この定理は大数の法則や中心極限定理の証明によく使われる。

反転公式

累積分布関数と特性関数には1対1対応が存在するので、一方を知っていれば常にもう一方を求めることができる。上に挙げた特性関数の定義によれば、累積分布関数 テンプレート:Mvar（または確率密度関数 テンプレート:Mvar）を知っていれば テンプレート:Mvar を計算できる。一方、特性関数 テンプレート:Mvar を知っていて対応する累積分布関数を求めたい場合、以下に挙げる反転定理を利用できる。

定理

特性関数 テンプレート:Mvar が積分可能なら、テンプレート:Mvar は絶対連続であり、テンプレート:Mvar の確率密度関数は以下のように与えられる（テンプレート:Mvar がスカラーの場合）。

$f_X(x)={F_X}^{\prime }(x)=\frac{1}{2\pi }\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{-itx}{\phi }_X(t)dt$

多変量の場合の確率密度関数は、ルベーグ測度 テンプレート:Mvar に対する分布 テンプレート:Mvar のラドン＝ニコディム微分として理解される。

$f_X(x)=\frac{d{\mu }_X}{d\lambda }(x)=\frac{1}{(2\pi {)}^n}\underset{{ℝ}^n}{\int }{e}^{-i(t\cdot x)}{\phi }_X(t)\lambda (dt)$

定理（レヴィ）

累積分布関数 テンプレート:Mvar の特性関数を テンプレート:Mvar とし、2 つの点 テンプレート:Math で定義される $\{x\mid a<x<b\}$ が テンプレート:Mvar の連続性集合ならば（1 変量では、この条件は テンプレート:Mvar が テンプレート:Mvar と テンプレート:Mvar で連続なことと等価である）、

$F_X(b)-F_X(a)=\frac{1}{2\pi }\underset{T\to \mathrm{\infty }}{\lim }\underset{-T}{\overset{+T}{\int }}\frac{e^{-ita}-e^{-itb}}{it}{\phi }_X(t)dt,$   テンプレート:Mvar がスカラーの場合

${\mu }_X(\{a<x<b\})=\frac{1}{(2\pi {)}^n}\underset{T_1\to \mathrm{\infty }}{\lim }\cdots \underset{T_n\to \mathrm{\infty }}{\lim }\underset{\{-T\le t\le T\}}{\int }\prod _{k=1}^n\left(\frac{e^{-i{t}_k{a}_k}-e^{-i{t}_k{b}_k}}{i{t}_k}\right){\phi }_X(t)\lambda (dt)$,   テンプレート:Mvar がベクトル型確率変数の場合

定理

テンプレート:Mvar が テンプレート:Mvar について原子的ならば（1 変量の場合、これは テンプレート:Mvar の不連続点を意味する）、

$F_X(a)-F_X(a-0)=\underset{T\to \mathrm{\infty }}{\lim }\frac{1}{2T}\underset{-T}{\overset{+T}{\int }}{e}^{-ita}{\phi }_X(t)dt$,   テンプレート:Mvar がスカラー型確率変数の場合

${\mu }_X(\{a\})=\underset{T_1\to \mathrm{\infty }}{\lim }\cdots \underset{T_n\to \mathrm{\infty }}{\lim }\left(\prod _{k=1}^n\frac{1}{2T_k}\right)\underset{\{-T\le t\le T\}}{\int }{e}^{-i(t\cdot x)}{\phi }_X(t)\lambda (dt)$,   テンプレート:Mvar がベクトル型確率変数の場合

定理 (Gil-Pelaez)テンプレート:Sfn

1 変量確率変数 テンプレート:Mvar について、テンプレート:Mvar が テンプレート:Mvar の連続点ならば、

$F_X(x)=\frac{1}{2}-\frac{1}{\pi }\underset{0}{\overset{\mathrm{\infty }}{\int }}\frac{\mathrm{Im}[e^{-itx}{\phi }_X(t)]}{t}dt$

特性関数の判定基準

減少しない càdlàg 関数（右連続左極限関数）テンプレート:Mvar で、極限が テンプレート:Math および テンプレート:Math となる場合、テンプレート:Mvar は何らかの確率変数の累積分布関数に対応している。

他にも、与えられた関数 テンプレート:Mvar について、それが何らかの確率変数の特性関数かどうかを判定する単純な判定基準が存在する。これについての中心的成果としてテンプレート:仮リンクがあるが、その主な条件である非負定性の判定が非常に難しいため、これが利用できる場面は多くはない。他にも テンプレート:En, テンプレート:Cs, テンプレート:Sv などの定理もあるが、それらも応用が難しい。一方 テンプレート:Hu の定理は非常に単純な凸条件を提供するが、それは十分条件であって必要条件ではない。この条件を満たす特性関数を テンプレート:En と呼ぶ。

• ボホナーの定理 テンプレート:En：任意の関数 $\phi :{ℝ}^n\to ℂ$ が何らかの確率変数の特性関数であるとき、常に テンプレート:Mvar は非負定性で原点で連続であり、かつ テンプレート:Math である。
• ヒンチンの判定条件 テンプレート:En：原点で値が テンプレート:Math で絶対連続な複素数値関数 テンプレート:Mvar は、以下のように表現できるときのみ特性関数といえる。

$\phi (t)=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}g(t+\theta )\overline{g(\theta )}d\theta$

• マティアスの定理 テンプレート:En：原点で値が テンプレート:Math で、実数値で偶関数で連続で絶対積分可能な関数 テンプレート:Mvar は、以下が成り立つ場合のみ特性関数といえる。

$(-1{)}^n\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}\phi (pt)e^{-t^2/2}{H}_{2n}(t)dt\ge 0$

ここで テンプレート:Math であり、常に テンプレート:Math である。テンプレート:Math は、テンプレート:Math-次のエルミート多項式を意味する。

ポリアの定理を使い、有限区間では同じだが、それ以外の区間では異なる 2 つの確率変数を構築した例

• ポリアの定理 テンプレート:En：テンプレート:Mvar が実数値の連続関数で以下の条件を満たす場合、
  • テンプレート:Math,
  • テンプレート:Mvar は偶関数,
  • テンプレート:Mvar は テンプレート:Math について凸関数,
  • テンプレート:Math,

テンプレート:Math は絶対連続で対称な分布の特性関数である。

• 有限または可算な個数の特性関数の凸線型結合 $\sum _n{a}_n{\phi }_n(t)$（ただし、$a_n\ge 0,\sum _n{a}_n=1$）も特性関数である。
• 有限個の特性関数の積 $\prod _n{\phi }_n(t)$ も特性関数である。原点で連続な関数に収束するなら、無限個の積でも成り立つ。
• テンプレート:Mvar が特性関数、テンプレート:Mvar がある実数としたとき、テンプレート:Math, テンプレート:Math, テンプレート:Math, テンプレート:Math も全て特性関数である。

利用

連続性定理があるため、特性関数は中心極限定理の証明でよく使われる。

分布の基本的操作

特性関数は、独立な確率変数の線型関数を操作する際に特に便利である。例えば、テンプレート:Math を独立な（同分布である必要はない）確率変数の列とし、

$S_n=\sum _{i=1}^n{a}_i{X}_i$

とする。ここで テンプレート:Mvar は定数である。すると、テンプレート:Mvar の特性関数は次のように定義できる。

${\phi }_{S_n}(t)={\phi }_{X_1}(a_{1}t){\phi }_{X_2}(a_{2}t)\cdots {\phi }_{X_n}(a_{n}t)$

特に ${\phi }_{X+Y}(t)={\phi }_X(t){\phi }_Y(t)$ となる。これを示すには、特性関数の定義を書いてみればよい。

${\phi }_{X+Y}(t)=E\left(e^{it(X+Y)}\right)=E\left(e^{itX}{e}^{itY}\right)=E\left(e^{itX}\right)E\left(e^{itY}\right)={\phi }_X(t){\phi }_Y(t)$

テンプレート:Mvar と テンプレート:Mvar の独立性は、3 つ目の式と 4 つ目の式が等しいことを示すのに必要となる。

もう一つの興味深い例として、テンプレート:Math2 の場合、テンプレート:Mvar は標本平均となる。この場合 テンプレート:Math で平均を表し、

${\phi }_{\bar{X}}(t)={({\phi }_X(t/n))}^n$

となる。

モーメント

特性関数は確率変数のモーメントを求める場合にも使える。テンプレート:Mvar-次のモーメントがある場合、特性関数は テンプレート:Mvar 階微分可能で、次が成り立つ：

$𝔼[X^n]=i^{-n}{\phi }_X^{(n)}(0)=i^{-n}{[\frac{d^n}{d{t}^n}{\phi }_X(t)]}_{t=0}.$

例えば、テンプレート:Mvar が標準的なコーシー分布に従うとする。すると ${\phi }_X(t)=e^{-|t|}$ である。コーシー分布には期待値がなく、この特性関数は点 テンプレート:Math2 で微分可能ではない。また、テンプレート:Mvar 回の独立な観測についての標本の平均 テンプレート:Mvar の特性関数は、上の節にあるように ${\phi }_{\bar{X}}(t)=(e^{-|t|/n}{)}^n=e^{-|t|}$ となる。これは標準のコーシー分布の特性関数であり、標本の平均と母集団は同じ分布である。

特性関数の対数はキュムラント母関数であり、キュムラントを求める際に有用である。ただし、キュムラント母関数を積率母関数の対数と定義する場合もあり、その場合は特性関数の対数を第 2 キュムラント母関数と呼ぶ。

データ解析

標本データに累積分布関数をあてはめるとき、特性関数を使うことができる。確率密度関数の閉形式が使えないため最尤法が適用しにくい場合、安定分布の当てはめも含め、特性関数を使ったあてはめが有効である。この場合の推定手順は、データから計算された経験的な特性関数と理論的な特性関数をマッチさせるという方法である。テンプレート:Harvnb と テンプレート:Harvnb は、そのような推定手順の理論的背景を提供している。さらに、テンプレート:Harvnb では、最尤法の適用が難しい場合に、経験的な特性関数を時系列モデルに適合させるという応用を解説している。

例

尺度母数 テンプレート:Mvar、形状母数 テンプレート:Mvar のガンマ分布の特性関数は次の通りである。

$(1-\theta it{)}^{-k}$

ここで、次のような 2 つのガンマ分布を考える。

$X\sim \mathrm{\Gamma }(k_1,\theta )\text{ and }Y\sim \mathrm{\Gamma }(k_2,\theta )$

テンプレート:Mvar と テンプレート:Mvar が互いに独立のとき、テンプレート:Math がどのような分布になるかを求めたい。それぞれの特性関数は次の通りである。

${\phi }_X(t)=(1-\theta it{)}^{-k_1},{\phi }_Y(t)=(1-\theta it{)}^{-k_2}$

テンプレート:Mvar と テンプレート:Mvar が独立であることと、特性関数の基本性質から、次が導かれる。

${\phi }_{X+Y}(t)={\phi }_X(t){\phi }_Y(t)=(1-\theta it{)}^{-k_1}(1-\theta it{)}^{-k_2}={(1-\theta it)}^{-(k_1+k_2)}$

これは、尺度母数 テンプレート:Mvar、形状母数 テンプレート:Math のガンマ分布の特性関数に他ならない。したがって、最終的に次の結果が得られる。

$X+Y\sim \mathrm{\Gamma }(k_1+k_2,\theta )$

この結果は、尺度母数が同じ テンプレート:Mvar 個の独立なガンマ分布の確率変数に拡張することができ、以下の関係が導かれる。

$\mathrm{\forall }i\in \{1,\dots ,n\}:X_i\sim \mathrm{\Gamma }(k_i,\theta )\Rightarrow \sum _{i=1}^n{X}_i\sim \mathrm{\Gamma }(\sum _{i=1}^n{k}_i,\theta )$

関連する概念

関連する概念として、積率母関数とテンプレート:Illがある。特性関数は全ての確率分布について存在するが、積率母関数はそうとは限らない。

特性関数は、フーリエ変換と密接な関係がある。確率密度関数 テンプレート:Math の特性関数は、テンプレート:Math の連続フーリエ変換 テンプレート:Math の複素共役である。

${\phi }_X(t)=⟨e^{itX}⟩=\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}p(x)dx=\stackrel{‾}{(\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{-itx}p(x)dx)}=\overline{P(t)}$

同様に テンプレート:Math への逆フーリエ変換で テンプレート:Math を得られる。

$p(x)=\frac{1}{2\pi }\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}P(t)dt=\frac{1}{2\pi }\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}{e}^{itx}\overline{{\phi }_X(t)}dt$

確率変数が密度関数を持たない場合でも、特性関数はその確率変数に対応した測度のフーリエ変換と見なすことができる。

参考文献

• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite journal
• テンプレート:Cite journal
• テンプレート:Cite journal
• テンプレート:Cite journal
• テンプレート:Cite book