残差平方和のソースを表示

[[統計学]]において、'''残差平方和'''（ざんさへいほうわ、{{lang-en-short|residual sum of squares, '''RSS'''}}）は、[[残差]]の平方（二乗）の[[加法|和]]である。残差二乗和、SSR（sum of squared residuals）やSSE（sum of squared errors of prediction）とも呼ばれる。残差平方和はデータと推定モデルとの差異を評価している尺度である。小さいRSSの値はデータに対してモデルがぴったりとフィットしていること示している。

一般的に、{{仮リンク|平方和の分解|en|Partition of sums of squares}}
: ({{仮リンク|全平方和|en|Total sum of squares}}) = ({{仮リンク|回帰平方和|en|Explained sum of squares}}) + (残差平方和)
が成り立つ<ref>{{cite book
|title=統計・OR活用辞典
|publisher=[[東京書籍]]
|year=1984
|page=174
|id={{全国書誌番号|85011785}}
}}</ref>。

==説明変数==
単一の説明変数を持つモデルでは、RSSは以下の式で与えられる。
:<math>\mathrm{RSS} = \sum_{i=1}^n (y_i - f(x_i))^2</math>
この時 ''y''<sub>''i''</sub> は ''i'' 番目の変数の値、''x''<sub>''i''</sub> は ''i'' 番目の説明変数の値、<math>f(x_i)</math>（<math>\hat{y_i}</math>とも）は''y''<sub>''i''</sub>の予測値である。標準線形単純[[回帰分析|回帰モデル]]では、 <math>y_i = a+bx_i+\varepsilon_i\,</math>（''a'' および ''b'' は[[係数]]、''y'' および ''x'' はそれぞれ[[従属変数]]および[[独立変数]]、&epsilon;は誤差項）である。残差平方和は &epsilon;<sub>''i''</sub> の[[推定量]]の平方の和であり以下の式で表わされる。
:<math>\mathrm{RSS} = \sum_{i=1}^n \varepsilon_i^2 = \sum_{i=1}^n (y_i - (\alpha + \beta x_i))^2, </math>
この時、α は定数項 <math>a</math> の推定値、β は[[回帰係数]] ''b'' の推定値である。

<!--
==OLS残差平方和の行列表現==
''n''個の観測値と''k''個の一般回帰モデル
The general regression model with ''n'' observations and ''k'' explanators, the first of which is a constant unit vector whose coefficient is the regression intercept, is 

:<math> y = X \beta + e</math>

where ''y'' is an ''n'' × 1 vector of dependent variable observations, each column of the ''n'' × ''k'' matrix ''X'' is a vector of observations on one of the ''k'' explanators, <math>\beta </math> is a ''k'' × 1 vector of true coefficients,  and ''e'' is an ''n''× 1 vector of the true underlying errors.  The [[ordinary least squares]] estimator for <math>\beta</math> is

:<math> \hat \beta = (X^T X)^{-1}X^T y.</math>

The residual vector <math>\hat e</math> is <math>y - X \hat \beta = y - X (X^T X)^{-1}X^T y</math>, so the residual sum of squares <math>\hat e ^T \hat e</math> is, after simplification,

:<math>  RSS = y^T y - y^T X(X^T X)^{-1} X^T y = y^T [I - X(X^T X)^{-1} X^T] y.</math>
-->

==脚注==
{{reflist}}

==関連項目==
*[[残差]]
*[[決定係数]]
*[[自由度]]
*[[カイ二乗分布]]

{{DEFAULTSORT:さんさへいほうわ}}
[[Category:回帰分析]]
[[Category:最小二乗法]]
[[Category:誤差と残差]]
[[Category:統計学]]
[[Category:数学に関する記事]]