デミング回帰のソースを表示

{{翻訳直後|[[:en:Special:Permalink/1238533584|en: Deming regression]]|date=2024年8月}}
[[ファイル:Total_least_squares.svg|サムネイル|デミング回帰: 赤線は{{Mvar|x,y}}両方向への誤差を示す。典型的な最小二乗方では{{Mvar|y}}軸と平行な方向への誤差しか考えないことと対照的である。上図では誤差は垂直に測られており、{{Mvar|x}}と{{Mvar|y}}の分散が等しい場合にあたる。]]
[[統計学]]において、'''デミング回帰'''（デミングかいき、{{Lang-en-short|Deming regression}}）とは、[[W・エドワーズ・デミング]]にちなんで名付けられた2次元データセットへの{{仮リンク|直線あてはめ|en|Line fitting}}を行う{{仮リンク|変数誤差モデル|en|Errors-in-variables models}}である。{{仮リンク|単純線形回帰|en|Simple linear regression}}とはことなり、{{Mvar|x}}軸および{{Mvar|y}}軸両方の観測誤差を考慮するモデルで、{{仮リンク|総最小自乗法|en|Total least squares}}の特殊ケースと考えることができる。

デミング回帰は2つの変数の誤差が[[独立 (確率論)|独立]]で[[正規分布]]し、かつその分散の比{{Mvar|&delta;}}が既知の場合の[[最尤推定]]である{{Sfn|Linnet|1993}}。実用上、この比は関連するデータソースから推定されることもあるが、デミング回帰の手続きにおいてこの比の誤差については考慮しない。

デミング回帰の難易度は単純線形回帰と比較してほとんど上がらない。臨床化学において用いられる統計ソフトウェアパッケージのほとんどはデミング回帰を行うことができる。

{{Math|1=''&delta;'' = 1}}の場合のこのモデルは{{Harvtxt|Adcock|1878}}が導入した。任意の{{Mvar|&delta;}}への一般化は{{Harvtxt|Kummell|1879}}によりなされた。しかし、このアイデアは50年以上見過され、{{Harvtxt|Koopmans|1936}}が再導入したのち{{Harvtxt|Deming|1943}}によりさらに広められた。[[臨床化学]]および関連分野においてデミングの著書は特に有名となり、同分野ではこの手法はデミング回帰と呼ばれるようになった{{Sfn|Cornbleet|Gochman|1979}}。

== 定義 ==
回帰直線上の「真の」値{{Math|(''y<sub>i</sub>''<sup>*</sup>, ''x<sub>i</sub>''<sup>*</sup>)}}の計測値{{Math|(''y<sub>i</sub>'', ''x<sub>i</sub>'')}}が

: <math>\begin{align}
  y_i &= y^*_i + \varepsilon_i\\
  x_i &= x^*_i + \eta_i
  \end{align}</math>

のように互いに独立な誤差{{Mvar|&epsilon;}}および{{Mvar|&eta;}}を持ち、分散の比

: <math> \delta = \frac{\sigma_\varepsilon^2}{\sigma_\eta^2} </math>

が既知であるものとする。

実用上、'''変数'''{{Mvar|x}}および{{Mvar|y}}の分散は未知であることが多く、{{Mvar|&delta;}}の推定は難しい。もし{{Mvar|x}}および{{Mvar|y}}の測定方法が同じであればそれらの分散は等しく、{{Math|1=''&delta;'' = 1}}となる尤度が高い。

このとき、データ点に「もっともよくあてはまる」直線

: <math>y^* = \beta_0 + \beta_1 x^*</math>

を求めたい。

デミング回帰では、次の重みつき二乗残差{{Mvar|SSR}}が最小となる直線を求める{{Sfn|Fuller|1987|loc=Ch. 1.3.3}}。

: <math>SSR = \sum_{i=1}^n\bigg(\frac{\varepsilon_i^2}{\sigma_\varepsilon^2} + \frac{\eta_i^2}{\sigma_\eta^2}\bigg) = \frac{1}{\sigma_\epsilon^2} \sum_{i=1}^n\Big((y_i-\beta_0-\beta_1x^*_i)^2 + \delta(x_i-x^*_i)^2\Big) \ \to\ \min_{\beta_0,\beta_1,x_1^*,\ldots,x_n^*} SSR</math>

完全な導出は{{Harvtxt|Jensen|2007}}を参照のこと。

== 解 ==
この問題の解は2次標本モーメントにより表わすことができる。すなわち、まず次の[[統計量]]を計算する(和は{{Math|1=''i'' = 1 ... ''n''}}についてとるものとする)。

: <math>\begin{align}
\overline{x} &= \tfrac{1}{n}\sum x_i & \overline{y} &= \tfrac{1}{n}\sum y_i \\
s_{xx}  &= \tfrac{1}{n}\sum (x_i-\overline{x})^2   &&= \overline{x^2} - \overline{x}^2 \\
s_{xy}  &= \tfrac{1}{n}\sum (x_i-\overline{x})(y_i-\overline{y})   &&= \overline{x y} - \overline{x} \, \overline{y} \\
s_{yy}  &= \tfrac{1}{n}\sum (y_i-\overline{y})^2   &&= \overline{y^2} - \overline{y}^2
\end{align}</math>

すると、モデルパラメータの最小二乗推定値は以下のように計算できる{{Sfn|Glaister|2001}}。

: <math>\begin{align}
  & \hat\beta_1 = \frac{s_{yy}-\delta s_{xx} + \sqrt{(s_{yy}-\delta s_{xx})^2 + 4\delta s_{xy}^2}}{2s_{xy}} \\
  & \hat\beta_0 = \overline{y} - \hat\beta_1\overline{x}\\
  & \hat{x}_i^* = x_i + \frac{\hat\beta_1}{\hat\beta_1^2+\delta}(y_i-\hat\beta_0-\hat\beta_1x_i)
  \end{align}</math>

== 直交回帰 ==
誤差分散が等しい、すなわち{{Math|1=''&delta;'' = 1}}の場合には、デミング回帰は直交回帰と一致する。直交回帰では[[点と直線の距離|データ点から回帰直線への直交距離]]の二乗和を最小化する。この場合、各データ点を[[複素平面]]上の点{{Math|1=''z<sub>j</sub>'' = ''x<sub>j</sub>'' +  ''iy<sub>j</sub>''}}と表わし、データ点の[[幾何中心]](すなわちデータ点の横軸および縦軸上の位置の平均を取った点)<math>\overline z = \tfrac{1}{n} \sum z_j</math>と各データ点との差の二乗和を<math>S=\sum{(z_j - \overline z)^2}</math>と書くことにすると{{Sfn|Minda|Phelps|2008|loc=Theorem 2.3}}、

* {{Math|1=''S'' = 0}}のとき、幾何中心を通るすべての直線が最適直交回帰直線である。
* {{Math|''S'' &ne; 0}}のとき、直交回帰直線は幾何中心を通り原点から{{Math|{{sqrt|''S''}}}}へのベクトルに平行となる。

直交回帰の[[三角関数]]表現は[[1913年]]にCoolidgeが発表した{{Sfn|Coolidge|1913}}。

=== 応用 ===
平面上に、[[共線]]でない3つの点があるとき、これらの点を[[頂点]]とする[[三角形]]は一意の[[シュタイナーの内接楕円]]をもち、この楕円は三角形の各辺にその中点で接する。この楕円の長軸は3つの点の直交回帰直線と一致する{{Sfn|Minda|Phelps|2008|loc=Corollary 2.4}}。2つのレポーター{{仮リンク|合成生物学回路|en|Synthetic biological circuit}}のふるまいの観測値をデミング回帰にかけることで[[細胞]]の内因{{仮リンク|細胞ノイズ|en|Cellular noise|label=ノイズ}} を定量化することも行われる{{Sfn|Quarton|2020}}。

人間が[[散布図]]に回帰直線を書くとき、その直線は通常の最小二乗回帰直線よりも直交回帰直線に近い<ref>{{Cite journal|last=Ciccione|first=Lorenzo|last2=Dehaene|first2=Stanislas|date=August 2021|title=Can humans perform mental regression on a graph? Accuracy and bias in the perception of scatterplots|journal=Cognitive Psychology|volume=128|pages=101406|doi=10.1016/j.cogpsych.2021.101406}}</ref>。

== ヨーク回帰 ==
ヨーク回帰は、デミング回帰を拡張して{{Mvar|x}}および{{Mvar|y}}の誤差が互いに独立でなく[[相関]]を持つ場合を扱えるようにしたものである<ref>{{Cite journal|last=York|first=Derek|last2=Evensen|first2=Norman M.|last3=Martı́nez|first3=Margarita López|last4=De Basabe Delgado|first4=Jonás|date=2004-02-12|title=Unified equations for the slope, intercept, and standard errors of the best straight line|url=https://pubs.aip.org/aapt/ajp/article-abstract/72/3/367/1042020/Unified-equations-for-the-slope-intercept-and?redirectedFrom=fulltext|journal=American Journal of Physics|volume=72|issue=3|pages=367–375|doi=10.1119/1.1632486|issn=0002-9505}}</ref>。

== 関連項目 ==
* {{仮リンク|直線あてはめ|en|Line fitting}}
* {{仮リンク|希釈バイアス|en|Regression dilution}}

== 出典 ==
{{Reflist}}

== 参照文献 ==
* {{Cite journal|last=Adcock|first=R. J.|year=1878|title=A problem in least squares|journal=The Analyst|volume=5|issue=2|pages=53–54|doi=10.2307/2635758|JSTOR=2635758}}
* {{Cite journal|last=Coolidge|first=J. L.|authorlink= J. L. Coolidge|year=1913|title=Two geometrical applications of the mathematics of least squares|journal=The American Mathematical Monthly|volume=20|issue=6|pages=187–190|doi=10.2307/2973072|JSTOR=2973072}}
* {{Cite journal|last=Cornbleet|first=P.J.|last2=Gochman|first2=N.|year=1979|title=Incorrect Least–Squares Regression Coefficients|journal=Clinical Chemistry|volume=25|issue=3|pages=432–438|doi=10.1093/clinchem/25.3.432|pmid=262186}}
* {{Cite book |last=Deming |first=W. E. |author-link=W. Edwards Deming |year=1943 |title=Statistical adjustment of data |publisher=Wiley, NY (Dover Publications edition, 1985) |isbn=0-486-64685-8}}
* {{Cite book |last=Fuller |first=Wayne A. |year=1987 |title=Measurement error models |publisher=John Wiley & Sons, Inc |isbn=0-471-86187-1}}
* {{Cite journal|last=Glaister|first=P.|year=2001|title=Least squares revisited|journal=[[The Mathematical Gazette]]|volume=85|pages=104–107|doi=10.2307/3620485|JSTOR=3620485}}
* {{Cite web |author=Jensen |first=Anders Christian |year=2007 |title=Deming regression, MethComp package |url=http://staff.pubhealth.ku.dk/~bxc/MethComp/Deming.pdf |publisher=Steno Diabetes Center |access-date=2024-08-20}}
* {{Cite book |last=Koopmans |first=T. C. |year=1936 |title=Linear regression analysis of economic time series |publisher=DeErven F. Bohn, Haarlem, Netherlands}}
* {{Cite journal|last=Kummell|first=C. H.|year=1879|title=Reduction of observation equations which contain more than one observed quantity|journal=The Analyst|volume=6|issue=4|pages=97–105|doi=10.2307/2635646|JSTOR=2635646}}
* {{Cite journal|last=Linnet|first=K.|year=1993|title=Evaluation of regression procedures for method comparison studies|url=http://www.clinchem.org/cgi/reprint/39/3/424|journal=Clinical Chemistry|volume=39|issue=3|pages=424–432|doi=10.1093/clinchem/39.3.424|pmid=8448852}}
* {{Cite journal|last=Minda|first=D.|author-link=David Minda|last2=Phelps|first2=S.|year=2008|title=Triangles, ellipses, and cubic polynomials|journal=[[American Mathematical Monthly]]|volume=115|issue=8|pages=679–689|doi=10.1080/00029890.2008.11920581|MR=2456092}}
* {{Cite journal|last=Quarton|first=T. G.|year=2020|title=Uncoupling gene expression noise along the central dogma using genome engineered human cell lines|journal=Nucleic Acids Research|volume=48|issue=16|pages=9406–9413|doi=10.1093/nar/gkaa668|pmc=7498316|pmid=32810265}}

{{DEFAULTSORT:てみんくかいき}}
[[Category:回帰分析]]
[[Category:曲線あてはめ]]
[[Category:数学に関する記事]]