放射基底関数のソースを表示

{{仮リンク|函数近似|en|function approximation}}において、各々適当な点に関して球対称となる実数値函数からなる基底を考えるとき、各[[基底函数]]は'''放射基底関数'''（{{lang-en-short|''radial basis function''}}、'''RBF'''、'''動径基底関数'''）と呼ばれる。一般に、函数 {{mvar|&phi;}} が[[動径函数]]あるいは[[球対称]] ({{lang-en-short|radial}}) であるとは、{{math|''&phi;''('''x''') {{=}} ''{{hat|&phi;}}''({{norm|'''x'''}})}}, すなわちその値が偏角成分に依存せず動径成分（つまり[[原点 (数学)|原点]]からの距離）のみに依存して決まることを言う。従って動径基底函数は適当な点 {{mvar|c}} を'''中心'''として、{{mvar|c}} からの距離のみに依存して決まる ({{math|&phi;('''x'''; '''c''') {{=}} &phi;({{norm|'''x''' &minus; '''c'''}})}})。ここで、[[ノルム]]はふつう[[ユークリッド距離]]で考えるが、べつの[[距離函数]]を取ることもできる。

動径基底函数の和としての近似の過程は、単純な種類の[[ニューラルネットワーク]]としても解釈することができる。これはもともとは David Broomhead と David Lowe による1988年の結果<ref>[http://www.anc.ed.ac.uk/rbf/intro/node8.html Radial Basis Function networks]</ref><ref>{{cite journal |first = David H. |last = Broomhead |first2 = David |last2 = Lowe |title = Multivariable Functional Interpolation and Adaptive Networks |journal = Complex Systems |volume = 2 |pages = 321--355 |year = 1988 |url = https://www.complex-systems.com/pdf/02-3-5.pdf |archiveurl = https://web.archive.org/web/20140714173428/https://www.complex-systems.com/pdf/02-3-5.pdf |archivedate = 2014年7月14日 |ref = harv |deadlinkdate = 2017年10月 }}</ref>（これは1977年に始まるMichael J. D. Powell の独創的な研究<ref>{{cite journal |title = Restart procedures for the conjugate gradient method |author = [[:en:Michael J. D. Powell|Michael J. D. Powell]] |journal = [[:en:Mathematical Programming|Mathematical Programming]] |publisher = Springer |volume = 12 |number = 1 |pages = 241--254 |year = 1977 |url = http://link.springer.com/content/pdf/10.1007/BF01593790.pdf }}</ref><ref>{{cite thesis |type = M.Sc. |first = Ferat |last = Sahin |title = A Radial Basis Function Approach to a Color Image Classification Problem in a Real Time Industrial Application |publisher = [[バージニア工科大学|Virginia Tech]] |year = 1997 |quote = Radial basis functions were first introduced by Powell to solve the real multivariate interpolation problem. |page = 26 |url = http://scholar.lib.vt.edu/theses/available/etd-6197-223641/unrestricted/Ch3.pdf }}</ref><ref name="CITEREFBroomheadLowe1988">{{Harvnb|Broomhead|Lowe|1988|p=347}}: "We would like to thank Professor M.J.D. Powell at the Department of Applied Mathematics and Theoretical Physics at Cambridge University for providing the initial stimulus for this work."</ref><!--this doesn't seem to be working, probably a bug with {{sfn}}: <ref>{{sfn|Broomhead|Lowe|1988|p=347}}: "We would like to thank Professor M.J.D. Powell at the Department of Applied Mathematics and Theoretical Physics at Cambridge University for providing the initial stimulus for this work."</ref>-->に由来する）によって表面化した文脈に属する。

動径基底函数は[[サポートベクターマシン]]における{{仮リンク|動径基底函数核|label=核函数|en|Radial basis function kernel}}としても用いられる<ref>{{cite web |url=https://beta.oreilly.com/learning/intro-to-svm?utm_source=Python+Weekly+Newsletter&utm_campaign=7a0a10d8b8-Python_Weekly_Issue_191_May_14_2015 |title=Introduction to Support Vector Machines |last=VanderPlas |first=Jake |publisher=[O'Reilly] |date=6 May 2015 |website= |accessdate=14 May 2015}}</ref>。

== RBFの種類 ==
以下では中心 {{math|'''c'''}} からの距離を {{math|''r'' {{=}} {{norm|'''x''' &minus; '''c'''}}}} と書くことにすれば、よく使われる放射基底関数として次を挙げることができる。
* [[ガウス関数|ガウシアン]]RBF:
*: <math>\phi(r) = e^{-(\varepsilon r)^2}</math>
* 多重二乗 (Multiquadric) RBF:
*: <math>\phi(r) = \sqrt{1 + (\varepsilon r)^2} </math>
* 逆二乗 (Inverse quadratic) RBF:
*: <math>\phi(r) = \frac{1}{1+(\varepsilon r)^2} </math>
* 逆多重二乗 (Inverse multiquadric) RBF:
*: <math>\phi(r) = \frac{1}{\sqrt{1 + (\varepsilon r)^2}} </math>
* {{仮リンク|多重調和スプライン|en|Polyharmonic spline}}RBF:
*: <math>\phi(r) = r^k,\; k=1,3,5,\dots</math>
*: <math>\phi(r) = r^k \ln(r),\; k=2,4,6,\dots </math>
* {{仮リンク|薄板スプライン|en|Thin plate spline}}RBF (多重調和スプラインの特別の場合):
*: <math>\phi(r) = r^2 \ln(r)\;</math>

==RBFネットワーク==
放射基底関数は次の形式の{{仮リンク|関数近似|en|Function approximation}}の構築に使われることが多い。
{{Indent|<math>y(\mathbf{x}) = \sum_{i=1}^N w_i \, \phi(||\mathbf{x} - \mathbf{c}_i||),</math>}}
ここで、この近似関数 ''y''('''''x''''') は ''N'' 個の放射基底関数の総和で表され、個々の放射基底関数はそれぞれ異なる中心点 '''''c'''''<sub>''i''</sub> を持ち、それぞれ固有の係数 ''w''<sub>''i''</sub> で重み付けされている。この種の近似手法は、十分に単純な[[カオス理論|カオス]]的振る舞いを示す[[時系列]]の予測や[[非線型システム論|非線形系]]の[[制御理論|制御]]に使われる。

これはまた、{{仮リンク|RBFネットワーク|en|Radial basis function network}}と呼ばれる単純な単層[[ニューラルネットワーク]]にも利用されている。この場合、放射基底関数群がネットワークの[[活性化関数]]の役割を果たす。[[コンパクト空間|コンパクト]]な区間の任意の連続関数は、放射基底関数の個数が十分大きければ、基本的にそれらの総和の形式で任意の正確度で表すことができる。

[[ファイル:Unnormalized radial basis functions.svg|thumb|350px|right|2つの1次元入力のガウス関数型の正規化されていない放射基底関数。中心点は ''c''<sub>1</sub>=0.75 と ''c''<sub>2</sub>=3.25]]

=== 重み付けの見積もり ===
各放射基底関数の重み付けは、ニューラルネットワークの標準的な反復学習によって学習可能である。しかし、それら関数の総和は線形であるため、線形[[最小二乗法]]を使えば学習前に重み付けを見積もることが可能である。

== 参考文献 ==
{{脚注ヘルプ}}
{{Reflist}}

== 関連文献 ==
{{more footnotes|date=June 2013}}
* {{Citation |last1 = Buhmann |first1 = Martin D. |title = Radial Basis Functions: Theory and Implementations |publisher = [[Cambridge University Press]] |isbn = 978-0-521-63338-3 |year = 2003 }}.
* Hardy, R.L., Multiquadric equations of topography and other irregular surfaces. Journal of Geophysical Research, 76(8):1905–1915, 1971.
* Hardy, R.L., 1990, Theory and applications of the multiquadric-biharmonic method, 20 years of Discovery, 1968 1988, Comp. math Applic. Vol 19, no. 8/9, pp.&nbsp;163 208 
* {{Citation |last1 = Press |first1 = WH |last2 = Teukolsky |first2 = SA |last3 = Vetterling |first3 = WT |last4 = Flannery |first4 = BP |year = 2007 |title = Numerical Recipes: The Art of Scientific Computing |edition = 3rd |publisher = Cambridge University Press| publication-place=New York |isbn = 978-0-521-88068-8 |chapter = Section 3.7.1. Radial Basis Function Interpolation|chapter-url=http://apps.nrbook.com/empanel/index.html?pg=139 }}
* Sirayanone, S., 1988, Comparative studies of kriging, multiquadric-biharmonic, and other methods for solving mineral resource problems, PhD. Dissertation, Dept. of Earth Sciences,Iowa State University, Ames, Iowa.
* Sirayanone S. and Hardy, R.L., "The Multiquadric-biharmonic Method as Used for Mineral Resources, Meteorological, and Other Applications," Journal of Applied Sciences and Computations Vol. 1, pp.&nbsp;437–475, 1995.

== 外部リンク ==
* {{Wayback|url=http://www.scholarpedia.org/article/Radial_basis_function |title=Radial basis function |date=20100401013132}} - [[スカラーペディア]]百科事典「放射基底関数」の項目。

{{DEFAULTSORT:ほうしやきていかんすう}}

[[Category:機械学習]]
[[Category:数値解析]]
[[Category:人工ニューラルネットワーク]]
[[Category:数学に関する記事]]