シグモイド関数

シグモイド関数（ゲイン5）

シグモイド関数（シグモイドかんすう、テンプレート:Lang-en-short）は、次の式

${\varsigma }_a(x)=\frac{1}{1+e^{-ax}}=\frac{\tanh (ax/2)+1}{2}$

で表される実関数である。ここで、$a$ をゲイン (gain) と呼ぶ。 シグモイド関数は、生物の神経細胞が持つ性質をモデル化したものとして用いられる。

狭義のシグモイド関数は、ゲインを1とした、標準シグモイド関数（テンプレート:Lang-en-short）

${\varsigma }_1(x)=\frac{1}{1+e^{-x}}=\frac{\tanh (x/2)+1}{2}$

を指す。

名称

標準シグモイド関数

シグモイド（テンプレート:Lang-en-short）とは、シグモイド曲線（テンプレート:Lang-en-short）ともいい、ギリシャ文字のシグマ（語中では テンプレート:Lang だがここでは語末形の テンプレート:Lang のこと）に似た形と言う意味である。ただし、単にシグモイドまたはシグモイド曲線と言った場合は、シグモイド関数と似た性質を持つテンプレート:Lang型の関数（累積正規分布関数、ゴンペルツ関数、グーデルマン関数など）を総称するのが普通である。

標準シグモイド関数はロジット (logit) の逆関数であり、これになぞらえて統計処理の数値計算ライブラリでは標準シグモイド関数を expit 関数と呼んでいるものもある。

性質

$(-\mathrm{\infty },\mathrm{\infty })\to (0,1)$ の単調増加連続関数で、後述するただ1つの変曲点を持つ。

$y=0$ と $y=1$ を漸近線に持ち、

$\begin{array}{cc}\underset{x\to \mathrm{\infty }}{\lim }{\varsigma }_a(x)& =1\\ \underset{x\to -\mathrm{\infty }}{\lim }{\varsigma }_a(x)& =0\\ \underset{x\to \pm \mathrm{\infty }}{\lim }{{\varsigma }_a}^{\prime }(x)& =0\end{array}$

である。

また、$x=0$ では、

$\begin{array}{cc}{\varsigma }_a(0)& =\frac{1}{2}\\ {{\varsigma }_a}^{\prime }(0)& =\frac{a}{4}\\ {{\varsigma }_a}^{″}(0)& =0\end{array}$

である。つまり、変曲点は $(0,\frac{1}{2})$ である。 シグモイド関数のグラフは、$(0,\frac{1}{2})$ を中心に点対称である。すなわち、${\varsigma }_a(x)-\frac{1}{2}$ は奇関数であり、${\varsigma }_a(-x)=1-{\varsigma }_a(x)$ を満たす。

逆関数は、

${\varsigma }_a^{-1}(y)=\frac{1}{a}\ln \left(\frac{y}{1-y}\right)=\frac{1}{a}\mathrm{logit}y$

と、ロジット関数で表せる。特に、標準シグモイド関数とロジット関数は互いに逆関数である。

導関数と二階導関数は、

$\begin{array}{cc}{{\varsigma }_a}^{\prime }(x)& =\frac{a{e}^{-ax}}{(1+e^{-ax}{)}^2}=a{\varsigma }_a(x)\{1-{\varsigma }_a(x)\}\\ {{\varsigma }_a}^{″}(x)& =a^2{\varsigma }_a(x)\{1-{\varsigma }_a(x)\}\{1-2{\varsigma }_a(x)\}\end{array}$

と、シグモイド関数自身を使って簡潔に表せる。

自然対数と絡んで微分するとこのようになる。

$\begin{array}{cc}\frac{d}{dx}\ln ({\varsigma }_a(x))& =a{\varsigma }_a(-x)=a(1-{\varsigma }_a(x))\\ \frac{d}{dx}\ln (1-{\varsigma }_a(x))& =-a{\varsigma }_a(x)\end{array}$

他の関数との関係

テンプレート:Lang型の関数の比較

シグモイド関数は、双曲線正接関数 $\tanh x=\frac{e^x-e^{-x}}{e^x+e^{-x}}$ を使って ${\varsigma }_a(x)=\frac{\tanh (ax/2)+1}{2}$ とも表せる。またロジスティック関数 $N=\frac{K}{1+\exp rK(t_0-t)}$において $r=a,K=1,t_0=0$ とした場合に当たる。

応用

導関数をシグモイド関数自身で簡単に導出できるため、微分成分が必要となるバックプロパゲーションに適している。ニューラルネットワークにおける活性化関数などで用いられる。多次元版をソフトマックス関数と言う。

関連項目

• フェルミ分布関数
• ロジスティック関数
• ソフトマックス関数

外部リンク

• テンプレート:高校数学の美しい物語