BHHH法

ベルント・ホール・ホール・ハウスマン法（ベルント・ホール・ホール・ハウスマンほう、テンプレート:Lang-en-short、略称：BHHH法）とは、数理最適化において負のヘッセ行列を勾配の外積に置き換えたニュートン・ラフソン法に類似したアルゴリズムである。この近似は情報行列等式に基づいており、尤度関数が最大化されるように割り当てられる。BHHH法はアーンスト・ベルント、テンプレート:仮リンク、テンプレート:仮リンク、ジェリー・A・ハウスマンに因んで名づけられた。

使用例

データを非線形モデルによってあてはめるときの係数を推定するために最適化を行う。最適化に用いられるアルゴリズムでは以下のような構造を持つことが多い。最適化を行う関数を Q(β) とすると、各反復によって求まる点 ${\beta }_k$ は:

${\beta }_{k+1}={\beta }_k-{\lambda }_k{A}_k\frac{\partial Q}{\partial \beta }({\beta }_k),$

によって求まる。

ただし、${\beta }_k$ は k 番目に求まった点であり、${\lambda }_k$ はステップサイズを表すパラメータでアルゴリズムによってステップサイズの決定方法が異なる。BHHH法では ${\lambda }_k$ を点 ${\beta }_{k+1}$ がある基準を満たすまで直線探索によって求める。また、$Q$ は以下のように表される:

$Q=\sum _{i=1}^N{Q}_i$

そして、$A_k$ は以下の式で求まる:

$A_k={[\sum _{i=1}^N\frac{\partial \ln Q_i}{\partial \beta }({\beta }_k)\frac{\partial \ln Q_i}{\partial \beta }({\beta }_k{)}^{\prime }]}^{-1}.$

ニュートン・ラフソン法のような他の反復法は $A_k$ が異なった式で表されている。BHHH法は特殊な条件下では反復を繰り返すことによって収束することが保証されている点が利点となるテンプレート:Citation needed。

参考文献

• V. Martin, S. Hurn, and D. Harris, Econometric Modelling with Time Series, Chapter 3 'Numerical Estimation Methods'. Cambridge University Press, 2015.
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book
• テンプレート:Cite book

関連項目

• DFP法
• BFGS法