公平性 (機械学習)のソースを表示

<!-- 英語版にはこのタグが有り： {{Multiple issues|{{Manual|date=December 2019}}
{{Technical|date=December 2019}}}}-->
<!-- {{出典の明記|date=2023年2月}} -->
[[機械学習]]における'''公平性'''（こうへいせい、{{Lang-en-short|fairness}}）は、機械学習モデルを用いた自動意思決定の過程での[[アルゴリズムバイアス]]を是正する取り組みのことを指す。機械学習のプロセスを経たコンピュータによる意思決定が機微な{{仮リンク|従属変数と独立変数|en|dependent and independent variables|label=変数}}に基づいている場合、そのような意思決定は不公平とみなされる場合がある。機微な変数の具体例には、[[性別]]、[[民族]]、[[性的指向]]、[[障害]]の有無などが挙げられる。他の多くの倫理的な概念と同様に、公平性やバイアスの定義は常に論争の的となってきた。一般に、意思決定が人々の生活に影響を与える場合、公平性やバイアスの問題が重要になってくると考えられる。機械学習の分野では、アルゴリズムバイアスの問題はよく知られており、広く研究の対象となっている。結果は多様な要素によって歪められ、特定の集団や個人にとって不公平とみなされる場合がある。このような事例の例として、ソーシャルメディアサイトがパーソナライズされたニュースを消費者に配信する場合などが挙げられる。

== 背景 ==

機械学習における公平性の議論は比較的最近の論点である。2016年からその論点における研究で急な増加があった<ref>{{ harvnb | Caton | Haas | 2020 }}</ref>。この増加はある程度アメリカ合衆国の裁判所で[[累犯]]を予測するのに広く用いられる、[[COMPAS (ソフトウェア) | COMPAS]]ソフトウェアが、人種上のバイアスであること主張するところの、[[プロパブリカ]]による影響力のある報告とみなされる<ref name = ":0">{{harvnb | Mattu }}</ref><!-- 原文は悪文っぽいと思います（あくまで利用者個人の見解です）。-->。一つの研究の論点および議論は、機械学習のモデルを判断するには困難にさせるものである、普遍性をもった定義は無くそして異なった定義はたがいに矛盾しうるものとしての、公平性の定義である<ref>{{ harvnb | Friedler | Scheidegger | Venkatasubramanian | 2021  }}</ref>。他の研究の論点は、発生論（{{lang-en-short | origins of bias }}）、類型論（{{ lang-en-short | types of bias }}）、および低減方法論（{{ lang-en-short | methods to reduce bias}}）を含む<ref>{{ harvnb | Mehrabi | Morstatter | Saxena | Lerman | Galstyan | 2021 }}</ref>。

近年高度な技術を持った企業は機械学習での[[思い込み|バイアス]]の探知と低減の方法に関する道具（[[ソフトウェアツール]]、略してツール）と取扱書をつくらせた。ソフトウェアバイアスを低減しその公平性を上昇させる特別なアルゴリズムをもった[[Python]]と[[R言語]]のツールを[[IBM]]は持っている<ref name = IBM>{{ harvnb | IBM1 }}</ref><ref>{{ harvnb | IBM2 | 2020 }}</ref>。[[Google]]は機械学習でのバイアスを研究し撃退する指針とツールを発表した<ref>{{ 
harvnb | Google1 }}</ref><ref>{{ harvnb | tensorflow1 }}</ref>。[[フェイスブック]]は彼らのツールの利用、公平性の流れ（{{lang-en-short|Fairness Flow}}）、彼らの[[人工知能]]でのバイアスの探知を報告した<ref>{{ harvnb | facebook1 }}</ref>。しかしながら、それら企業の努力は十分でなく、そのような従業員によるツールの少しの利用を報じることは、ツールの利用が選択的であっても、そしてそれが可能であっても、すべての彼らのプログラムにたいして使うことはできないことを、論評者たちは主張した<ref>{{ harvnb |  Wiggers | 2021 }}</ref>。

== 論争 ==

{{ main | [[アルゴリズムバイアス#打撃]] }}
法律上のシステムでのアルゴリズム的な意思決定の利用は、吟味のもとでの利用での注目に値する領域でありつづけてきた。2014年に、[[アメリカ合衆国司法長官]][[エリック・ハンプトン・ホルダー]]は、「リスクアセスメント」の方法が、被告の教育水準や社会経済的背景のような、彼らの管理の下ではない要因に過度に焦点をあてさせるかもしれないという問題を提起した<ref>{{ harvnb | Meeting | 2014 }}</ref>。COMPASに関するプロパブリカによる2016年の報告は、黒人の被告が白人の被告よりもたいてい二度高リスクとして誤って分類される可能性が高く、これに対して白人において逆の誤りがなされることを主張した<ref name = ":0"/>。COMPASの製作者の、Northepointe Inc.は、彼らのツールが公正でプロパブリカが統計的誤りをしたことを主張して、その報告と争った<ref>{{ harvnb | Dieterich | Mendoza | Brennan | 2016 }}</ref>。これは引き続きプロパブリカにより再度反論された<ref>{{ harvnb | Angwin | 2016 }}</ref>。

== 集団公平性規準 ==

[[分類 (統計学) |分類]]問題において、アルゴリズムは、既知の特性<math display="inline"> X </math>から、目的の変数である、離散的な特性<math display="inline"> Y </math>を予測する関数を学習する。<math display="inline"> A </math>を、含まれた幾つかの特性を変換するかまたは、機微な特性（性別、民族、性的指向、その他）として考える<math display="inline"> X </math>において'陰的に'（{{lang-en-short|implicitly }}）変換するものである、離散的な[[確率変数]]とする。最後に、分類子（{{lang-en-short |classifier}}）の予測を<math display="inline"> R </math>で記す。
今、幾つかのこれら機微な変数によって影響されない予測であるかどうか、与えられた分類子が公平であるならば、三つの主な評価規準を定義する<ref name = "Barocas">{{ harvnb | Barocas | Hardt | Narayanan | 2023 }}</ref>。

=== 独立性 ===

確立変数<math display="inline">(R,A)</math>が、もしその機微な特性変数<math display="inline"> A </math>が予測子<math display="inline"> R </math> と確率的に独立であるとき、'''独立性'''を満たすと呼び、
<math display="block"> R \bot A. </math>
と記す。この記法は次の式でも表すことができる：
<math display="block"> P(R = r\ |\ A = a) = P(R = r\ |\ A = b) \quad \forall r \in R \quad \forall a,b \in A </math>
これは、各々の目的クラスの分類比率は機微な特性変数<math>A</math>を尊重する異なった集団に属する人々に等しいことを意味する。

=== 分離性 ===

確立変数<math display="inline">(R,A,Y)</math>が、もしその機微な特性変数<math display="inline"> A </math>が目的変数<math display="inline"> Y </math>によって与えられる予測子<math display="inline"> R </math> と確率的に独立であるとき、'''分離性'''を満たすと呼び、
<math display="block"> R \bot A\ |\ Y. </math>
と記す。この記法は次の式でも表すことができる：
<math display="block"> P(R = r\ |\ Y = q, A = a) = P(R = r\ |\ Y = q, A = b) \quad \forall r \in R \quad q \in Y \quad \forall a,b \in A </math>
これは、機微な属性<math>A</math>に関する判別 <math>R</math>のすべての独立性は真の目的変数<math>Y</math>の実際の独立性と一致されなくてはならないことを意味する。

=== 充分性 ===

確立変数<math display="inline">(R,A,Y)</math>が、もしその機微な特性変数<math display="inline"> A </math>が予測子<math display="inline"> R </math>によって与えられる　目的変数<math display="inline"> Y </math>と確率的に独立であるとき、'''充分性'''を満たすと呼び、
<math display="block"> Y \bot A\ |\ R. </math>
と記す。この記法は次の式でも表すことができる：
<math display="block"> P(Y = q\ |\ R = r, A = a) = P(Y = q\ |\ R = r, A = b) \quad \forall q \in Y \quad r \in R \quad \forall a,b \in A </math>

=== 定義の間の関係 ===

上記に与えた三つの定義に関する主要な結果を要約すると：
* <math display="inline"> Y </math>が二値判別的であることを考えると、もし<math display="inline"> A </math>と<math display="inline"> Y </math>が独立でなく、かつ<math display="inline"> R </math>と<math display="inline"> Y </math>が独立でもなければ、独立性と分離性はともに保たれない。
* もし[[同時分布]]としての<math display="inline"> (R,A,Y) </math>がすべてのそのとりうる値についての'陽確率'（{{lang-en-short|positive probabirity}}）をもち、かつ<math display="inline"> A </math>と<math display="inline"> Y </math>が独立でないならば、分離性と充分性はともに保たれない。

=== 集団公平性の定義の数学的定式化 ===

==== 基本定義 ====

{{ main | 混同行列}}
公平性の統計的測定の多くは異なった計測にあるので、それらを定義することから始める。[[二進法|二値]]の分類による作業の場合、予測のものと実際の両方の分類は二つの値をとり得る：陽値と陰値。予測と実際の結果の間の、異なった可能な関係の説明から今始める<ref name="metrics_paper">{{ harvnb | Verma | Rubin | 2018 }}</ref>：[[File:Binary confusion matrix.jpg|frame|混同行列]]
<!-- たいぶ中略してます。 -->
{{clear}}
[[File:RelationsEng.jpg|frame| {{ harv | Barocas | Hardt | Narayanan | 2023 }}で示された公平性規準の相互の関係。]]
次の規準はこの節の最初の、'''独立性'''、'''分離性'''、'''充分性'''の三つの主な定義の計測として理解できる。
右の表において、それらの間の関係をみることができる。

==== 予測結果に基づく定義 ====

この節における定義は客体の多様な確率分布についての予測結果<math display="inline"> R </math>に焦点をあてる。これらは最も単純で最も直接的な公平性の記述である。
* '''統計的平価'''（{{lang-en-short | statistical [[wikt:parity|parity]]}}）、'''承認（または容認<ref>"acceptace"の訳につき以下同じ。</ref>）比率平価'''（{{lang-en-short | [[wikt:acceptance|acceptance]] rate parity}}）または'''比較分析'''（{{lang-en-short|[[wikt:benchmarking | benchmarking]]}}）とも呼ばれる、'''人口統計的平価'''（{{lang-en-short|demographic parity}}）。もし保護ならびに非保護の集団での客体が陽評価への割り当てへ等確率であるならば、分類子はこの定義を満足する。これは、次式を満足する場合である：
<math display="block"> P(R = +\ |\ A = a) = P(R = +\ |\ A = b) \quad \forall a,b \in A </math><!-- この節の残り略。 -->

==== 予測と実際の結果に基づく定義 ====

これらの定義は予測結果<math display="inline"> R </math>だけでなく、それを実際の結果<math display="inline"> Y </math>と比較することも考慮する。
* '''全体精度平等'''（{{lang-en-short|overall accurancy equality}}）。保護ならびに非保護の集団における客体が等予測精度を有するならば、分類子はこの定義を満たす。これは、ひとつの分類からの客体の確率がそれに承認される。これは次式を満足する場合である：
<math display="block"> P(R = Y\ |\ A = a) = P(R = Y\ |\ A = b) \quad \forall a,b \in A </math><!-- この節のその他のものについて略。 -->

==== 予測された確率と実際の結果に基づく定義 ====

これらの定義は実際の結果<math display="inline"> Y </math>とその予測された確率得点<math display="inline"> S </math>に基づく。
* '''較正'''（{{lang-en-short| calibration}}）、または'''条件の度数の突合せ'''（{{lang-en-short|matching conditional frequencies}}）とも呼ばれる、'''検査公平性'''（{{lang-en-short|test-fairness}}）。諸個人が保護または非保護の集団のどちらかに属するときに、同一の予測確率得点<math display="inline"> S </math>をもつ彼ら個人が同一の陽分類での分類になる確率を有するならば、分類子はこの規準を満たす：
<math display="block"> P(Y = +\ |\ S = s,A = a) = P(Y = +\ |\ S = s,A = b) \quad \forall s \in S \quad \forall a,b \in A </math><!--この他のものにつき略。-->

=== 社会的厚生関数 ===

何人かの学者はアルゴリズム的公平の定義を[[社会的厚生関数]]の術語で提示した。社会的厚生関数の使用は、アルゴリズムによって影響を受ける人々についての効用の用語をもって、アルゴリズムの設計者に公平性を考慮にいれ正確さを予測するようにさせることを彼らは主張する。それは設計者に原則的な方法での効率性と[[wikt:公平|公平]]性（{{lang-en-short|[[wikt:equity|equity]]}}）の[[トレードオフ|一得一失]]をさせる<ref name="chen-hooker-2021">{{ harvnb | Chen | Hooker | 2021 }}</ref>。
アルゴリズム設計者は恵まれない集団の絶対的な利得を認識するために社会的厚生関数を使うべきであることを{{仮リンク|センディル・ムッライナタン|en|Sendhil Mullainathan}}は述べた。例えば、犯罪の割合が一定である間も、純粋に人間による判定（{{lang-en-short|[[wikt:judgment|judgment]]}}）よりも、黒人、ヒスパニック、など人種的少数派全般に対する拘留率を引き下げる、[[未決拘禁]]での意思決定アルゴリズムを使う研究が見られる<ref>{{ harvnb | Mullainathan | 2018 }}</ref>。

== 個別公平性規準 ==

公平性の定義における重要なひとつ大きな差異は集団と個別の概念の間のものである<ref name = "mitchell2021">{{ harvnb | Mitchell | Potash | Barocas | d'Amour | Lum | 2021 }}</ref>
<ref name = "castelnovo2022">{{ harvnb | Castelnovo | Crupi | Greco | Regoli | Penco | Cosentini | 2022 }}</ref><ref name="metrics_paper"/><ref name = "mehrabi2021"> {{ harvnb | Mehrabi | Morstatter | Saxena | Lerman | Galstyan | 2021 }} </ref>。率直にいえば、集団公平性規準が、たいてい機微属性（たとえば、性別、民族、年齢、その他…）によって識別する、集団水準で数量比較するのに対し、個別規準は諸個人を比較する。言い換えれば、その規準は「似通った諸個人は似通った処理をすべきである」ことに従う。

'''不知を通した公平性'''（{{lang-en-short|Fairness Through Unawareness}}、略してFTU）と通常称されるもの、あるいは（自動的な）決定を行う際に陽に機微特徴を用いないことを規定するものである、'無分別'（{{lang-en-short|Blindness}}）によるものである、公平性に対するとても直観的な取り組み方がある。二人の個人が、その同じ結果を受け入れるような彼らの機微属性の値についてだけ異なっているため、これは個別公平性の概念に有効である。<!-- 続く2段落は略 -->

最も一般的な個別公平性の概念は2012年に{{日本語版にない記事リンク|シンシア・ドワーク|en|Cynthia Dwork}}とその共同研究者らによる先駆的な仕事において導入された<ref>{{ harvnb | Dwork | Hardt | Pitassi | Reingold | Zemel | 2012 }}</ref>。そして、モデル写像における[[リプシッツ連続|リプシッツ条件]]として表現される、入力としての特徴をとる決定写像が「似通った個人らは同じように写像する」ようにできることを組み立てられるべきであるところの原理の、ある数学的な翻訳として考えられる。彼らは、特定の状況でどの個人らが'似ている'かを査定することにおいて、適当な目的‐関係の距離計量の選択の重要性を強調したので、精確にはFTUとは対位法の、'''認識を通した公平性'''（{{lang-en-short| Fairness Through Awareness}}、略してFTA）と彼らはこの取り組み方を呼んだ。再び、この問題は、特定の文脈でいかなる変数が「正当」なものとして取り上げられうるかに関して持ち上がる論点にとても関連する。

== 因果関係にもとづく測定 ==

因果性公平性（{{lang-en-short|causal fairness}}）は、どちらのリソースの割り当てが公正な個人的な処理の受け入れに公平であるかの尊重をもった、特性の或る組み合わせにおいてだけ異なる者の、二つの似通った個々の利用者またはアプリケーションのものによる度数を測定する<ref  name ="causal">{{ harvnb | Galhotra | Brun | Meliou | 2017 }}</ref><!-- 原文のこの書き出しの一文は難読でした、ので誤訳っぽいかも… -->。公平性計測に関する学術的な研究の全部の分野は、機械学習モデルでの偏見を評価することに、因果性モデルを波及するよう発展してきた。この対処法は通常、同一に観測されるデータの分布は作用における変数の間の、ひょっとすると偏見のなんらかの形によって結果が影響されているか否かの違った表現の、違った因果性関係を隠しているかもしれない事実によって、根拠を示す<ref name="Barocas"/>。

{{ harv | Kusner | Loftus | Russell | Silva | 2017 }}は{{ 仮リンク | 因果性モデル分析 | en | causal model#Counterfactuals | label = 反事実 }}（{{ lang-en-short | [[wikt:counterfactuals|counterfactuals]]}}）を用いることを提案する、そしてもし任意の個人について、
機微情報が変化したときに反事実シナリオにおいて結果が変化しなければ、意思決定過程の'''反事実公平性'''（{{lang-en-short|counterfactually fair}}）が満たされるものとして定義する。その数学的な定式化は次式を導く：
　
<math>     
P(R_{A\leftarrow a}=1\ |\ A=a,X=x) = P(R_{A\leftarrow b}=1\ |\ A=a,X=x),\quad\forall a,b;
</math>

ここに：機微属性が<math>A=a</math>でその他の特徴が<math>X=x</math>であるランダムな個人
と、<math>A = b</math>を有する同じような個人について、彼らは承認になる機会が同じになるべきであるとする。<!--この段落の残りについて略。-->

== バイアス軽減戦略 ==

3つの異なった方法により機械学習アルゴリズムに公平性を施しうる：[[データ前処理]]、ソフトウェアの学習（{{lang-en-short|training}}）における[[数理最適化]]、もしくはアルゴリズムの後処理の結果。

=== 前処理 ===

大抵、分類は単独では問題ではない；[[データセット]]も偏見化されている。<math display="inline"> A = a </math>と尊重するデータセット<math display="inline"> D </math>の偏見は次のように定義される：
<math display="block"> disc_{A=a}(D) = \frac{|\{X\in D| X(A) \neq a, X(Y) = +\}|}{|\{X \in D | X(A) \neq a \}|} - \frac{|\{X\in D| X(A) = a, X(Y) = +\}|}{|\{X \in D | X(A) = a \}|}</math><!-- 最初の1段落だけです。 -->

==== 再計量 ====

再計量（{{lang-en-short | reweighing}}）は前処理アルゴリズムの一例である。その考え方は、
指定された集団の尊重による計量された[[差別|偏見]]が0になるように、各々のデータセットにある計量を割り当てることである<ref name="reweighing">{{harvnb | Kamiran | Calders | 2011 }}</ref>。

センシティブ変数<math display="inline"> A </math>をデータセット<math display="inline"> D </math>が差別せず、目的変数<math display="inline"> Y </math>が[[独立 (確率論)|独立]]で、[[同時分布]]の確率が次のような確率の積であるならば：
<math display="block"> P_{exp}(A = a \wedge Y = +) = P(A = a) \times P(Y = +) = \frac{|\{X \in D | X(A) = a\}|}{|D|} \times \frac{|\{X \in D| X(Y) = + \}|}{|D|}</math><!-- 2番目の段落まで。 -->

=== 処理中に行う方法 ===

別の対処法は学習時に[[思い込み|偏見]]を直すことである。アルゴリズムの最適化をする目標に対して制約を課することによりこれはなされうる<ref name="zafar">{{ harvnb | Zafar | Valera | Rodríguez | Gummadi }} </ref>。保護された集団とその残りの個人らについての一定の測定の同じ比率を保つことによって、これらの制約はアルゴリズムに公平性を改善するようせしめる。たとえば、誤った陽割合が、保護された集団での個人と保護された集団の他のものとで同じになる、
目標の条件を[[アルゴリズム]]に追加することができる。

この取り組み方でのおもに用いられる測定は誤った陽割合、誤った陰割合、及び全部の誤分類割合である。アルゴリズムの目標にこれら制約のたった一つもしくは幾つかを追加することができる。
誤った陰割合の等しさは、これは機会の平等を意味するから、真の陽割合の等しさを意味することに注意せよ。問題についての制約を課したのち、解決しないかもしれない、そうなのでそれらにおける緩和が逆に必要かもしれない。

高精度に公平性を改善ことにおいてこのテクニックはよい結果を達成する、そして改善のための公平性の測定を[[プログラマー]]に選ばせる。しかしながら、各々の機械学習の作業は異なった適用可能な方法を必要とし、そして分類法での、常に可能とは限らないコードは修正が必要かもしれない<ref name="datascience">{{ harvnb | Ziyuan | 2018}}</ref>。

==== 突出した偏見の除去 ====

同じ最急降下による方法（[[最急降下法]]を見よ）を通じて同時に二つの[[分類 (統計学) |分類]]を矯正する。一つに、'予測器'（{{lang-en-short|predictor}}）は、それの重み<math display="inline"> W </math>で修正された、何らかの[[損失関数]]<math display="inline">L_{P}(\hat{y},y)</math>を最小化させる、<math display="inline"> X </math>で与えられる入力の、目的変数の、<math display="inline"> Y </math>の予測の作業を達成しようとする。二つに、'反対器'（{{lang-en-short|adversary}}）は、なんらかの損失関数<math display="inline">L_{A}(\hat{a},a) </math>を最小化するような、その重み<math display="inline"> U </math>で修正された<math display="inline"> \hat{Y} </math>が与えられ、機微変数の<math display="inline"> A </math>の予測を達成しようとする<ref name="adversarial1">{{ harvnb | Zhang | Lemoine | Mitchell | 2018 }}</ref><ref name="adversarial2">{{ harvnb |  Xu | 2019 }}</ref>。

正確に進めるのに、ここで重要な点は、前述の<math display="inline"> \hat{Y} </math>は、その離散的な予測ではなく、分類法の生の出力を意味しているに違いないことである；たとえば、[[ニューラルネットワーク|人工ニューラルネットワーク]]や分類問題をもって、[[ソフトマックス関数|ソフトマックス層]]の出力を<math display="inline"> \hat{Y} </math>は意味する。

毎学習段階に勾配<math display="inline"> \nabla_{U}L_{A} </math>に応じて<math display="inline"> L_{A} </math>を最小化するよう<math display="inline"> U </math>を更新し、次の式により<math display="inline"> W </math>を修正する：
<math display="block"> \nabla_{W}L_{P} - proj_{\nabla_{W}L_{A}}\nabla_{W}L_{P} - \alpha \nabla_{W}L_{A} </math>
ここに、<math display="alpha"> \alpha </math>は毎段階で変化しうる、調整可能な{{仮リンク|超パラメータ最適化ー|en|Hyperparameter optimization|label = 超パラメーター}}である。

[[File:AdvFig2.jpg|frame|{{ harvnb | Zhang | Lemoine | Mitchell | 2018 }}で示されたような、突出した偏見の除去で用いられるベクトルの図示。]]
直観的な考えは、'反対器'が <math display="inline"> \hat{Y} </math>からの機微変数の予測に失敗するから、'予測器'が<math display="inline"> L_{P} </math>（すなわち<math display="inline"> \nabla_{W}L_{P} </math>）を最小化をするときに、同時に、<math display="inline"> L_{A} </math>（すなわち<math display="inline"> - \alpha \nabla_{W}L_{A} </math>）をも最大化させたいことである。<!-- この節の残りについて略。 -->
{{clear}}

=== 後処理 ===

最後の方法は公平を達成する分類の結果を修正することを試みる。この方法では、各々の個人に対する得点を返すような分類を用い、そしてそれらについての2値の推測（{{lang-en-short|prediction}}）を必要とする。低得点が陰なものを得そうなのに対して、高得点は陽な結果を得そうにみえる、しかし、望む場合に然りと答えるように、その決定をするような{{ 日本語版にない記事リンク | 閾値 | en | critical value }}を調整することができる。その閾値の値の変動は真の陽のものと真の陰のものにおける一得一失に影響を与えることに注意せよ。

==== 選択的な分類を避けること ====

<math display="inline"> P(+|X) </math>を、事例<math display="inline"> X </math>が陽な分類＋に属するところの[[確率]]としての分類により計算される確率とするような、[[分類 (統計学)|分類]]を考える。 <math display="inline"> P(+|X) </math>が1もしくは0に近い場合、その事例 <math display="inline"> X </math>は一定の高い頻度をもって順に＋か－に属することをもって表される。けれども、<math display="inline"> P(+|X) </math>が0.5に近いならば分類が大きく不確かになる<ref name="roc">{{ harvnb | Kamiran | Karim | Zhang | 2012 }}</ref>。

== 関連項目 ==
* [[アルゴリズムバイアス]]
* [[機械学習]]

== 脚注 ==

{{ reflist | 2 }}

== 引用文献 ==
=== ウェブサイト ===
* {{ citation <!-- Cite web --> |last=Mattu |first=Julia Angwin,Jeff Larson,Lauren Kirchner,Surya |title=Machine Bias <!-- |url=https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing --> |access-date=2022-04-16 |website=ProPublica |language=en | ref = {{ harvid | Mattu }} }}
* {{ citation | first1 = Muhammad Bilal | last1 =  Zafar | first2 = Isabel | last2 = Valera | first3 = Manuel Gómez | last3 = Rodríguez | first4 = Krishna P. | last4 = Gummadi <!-- | url = https://people.mpi-sws.org/~mzafar/papers/disparate_mistreatment.pdf --> |  title = Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment | accessdate = 1 December 2019 | ref = harv }}
* {{ citation <!-- Cite web --> |title=AI Fairness 360 
 <!-- |url=https://aif360.mybluemix.net/ --> |access-date=2022-11-18 |website=aif360.mybluemix.net | ref = {{ harvid | IBM1 }} }}
* {{ citation <!-- Cite web --> |title=Responsible AI practices <!-- |url=https://ai.google/responsibilities/responsible-ai-practices/ --> |access-date=2022-11-18 |website=Google AI |language=en | ref = {{ harvid | Google1 }} }}
* {{ citation <!-- Cite web --> |title=How we're using Fairness Flow to help build AI that works better for everyone <!-- |url=https://ai.facebook.com/blog/how-were-using-fairness-flow-to-help-build-ai-that-works-better-for-everyone/ --> |access-date=2022-11-18 |website=ai.facebook.com |language=en | ref = {{ harvid | facebook1 }} }}
* {{ citation | year = 2011 | date = 2011-12-03 | first1 = Faisal | last1 = Kamiran | first2 = Toon | last2 = Calders | title = Data preprocessing techniques for classification without discrimination | accessdate = 2019-12-17 <!-- | url = httpd://link.springer.com/content/pdf/10.1007%2Fs10115-011-0463-8.pdf --> | ref = harv }}
* {{ citation | first1 = Faisal | last1 = Kamiran | first2 = Asim | last2 = Karim | first3 = Xiangliang | last3 = Zhang <!-- | url = http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.722.3030&rep=rep1&type=pdf --> | title = Decision Theory for Discrimination-aware Classification | accessdate = Retrieved 17 December 2019 | year = 2012 | ref = harv }}
* {{ citation <!-- Cite web --> |date=2014-08-01 |title=Attorney General Eric Holder Speaks at the National Association of Criminal Defense Lawyers 57th Annual Meeting and 13th State Criminal Justice Network Conference <!-- |url=https://www.justice.gov/opa/speech/attorney-general-eric-holder-speaks-national-association-criminal-defense-lawyers-57th --> |access-date=2022-04-16 |website=www.justice.gov |language=en | ref = {{ harvid | Meeting | 2014 }} }}
* {{ citation <!-- Cite journal --> |last1=Dieterich |first1=William |last2=Mendoza |first2=Christina |last3=Brennan |first3=Tim |date=2016 |title=COMPAS Risk Scales: Demonstrating Accuracy Equity and Predictive Parity <!-- |url=https://njoselson.github.io/pdfs/ProPublica_Commentary_Final_070616.pdf 
 --> |journal=Northpointe Inc | ref = harv }}
* {{ citation <!-- Cite web --> |last=Angwin |first=Jeff Larson,Julia |title=Technical Response to Northpointe <!-- |url=https://www.propublica.org/article/technical-response-to-northpointe --> |access-date=2022-11-18 |website=ProPublica |language=en | year = 2016 | date = July 29, 2016 | ref = harv }}
* {{ citation | last1 = Verma | first1 = Sahil | first2 = Julia  | last2 = Rubin <!-- | url = https://doi.org/10.23919/FAIRWARE.2018.8452913 --> | title = Fairness definitions explained | work = 2018 IEEE/ACM international workshop on software fairness (fairware) | pages = 1-7 | publisher = IEEE | year = 2018 | ref = harv }}
* {{ citation | author = Ziyuan Zhong <!-- | authorlink = w:en:Ziyuan Zhong | url = https://towardsdatascience.com/a-tutorial-on-fairness-in-machine-learning-3ff8ba1040cb --> | title = Tutorial on Fairness in Machine Learning | accessdate = 1 December 2019 | year = 2018 | date = 2018-10-22 | ref = {{ harvid | Ziyuan | 2018}} }}
* {{ citation | first = Joyce | last = Xu <!-- | url = https://towardsdatascience.com/algorithmic-solutions-to-algorithmic-bias-aef59eaf6565 --> | title = Algorithmic Solutions to Algorithmic Bias: A Technical Guide | accessdate =  17 December 2019 | year = 2019 | date = 2019-01-18 | ref = harv }}
* {{ citation <!-- cite web --> |title=IBM AI Fairness 360 open source toolkit adds new functionalities |date=4 June 2020 <!-- |url=http://www.techrepublic.com/google-amp/article/ibm-ai-fairness-360-open-source-toolkit-adds-new-functionalities/ -->  |publisher=Tech Republic | ref = {{ harvid | IBM2 | 2020 }}}}
* {{ citation <!-- Cite web --> |date=2021-03-31 |title=AI experts warn Facebook's anti-bias tool is 'completely insufficient' <!-- |url=https://venturebeat.com/business/ai-experts-warn-facebooks-anti-bias-tool-is-completely-insufficient/ --> |access-date=2022-11-18 |website=VentureBeat |language=en-US | last = Wiggers | first = Kyle | ref = harv }}
* {{Citation |title=Fairness Indicators |date=2022-11-10 <!-- |url=https://github.com/tensorflow/fairness-indicators --> |publisher=tensorflow |access-date=2022-11-18 | ref = {{ harvid | tensorflow1 }} }} 

=== 書籍 ===
* {{cite book <!-- | chapter-url=https://doi.org/10.1145/2090236.2090255 | doi=10.1145/2090236.2090255 --> | chapter=Fairness through awareness | title=Proceedings of the 3rd Innovations in Theoretical Computer Science Conference on - ITCS '12 | year=2012 | last1=Dwork | first1=Cynthia | last2=Hardt | first2=Moritz | last3=Pitassi | first3=Toniann | last4=Reingold | first4=Omer | last5=Zemel | first5=Richard | pages=214–226 | isbn=9781450311151 <!-- | s2cid=13496699 --> | ref = harv }}
* {{cite book |last1=Galhotra |first1=Sainyam |last2=Brun |first2=Yuriy |last3=Meliou |first3=Alexandra |title=Fairness Testing: Testing Software for Discrimination |journal=Proceedings of the 11th Joint Meeting of the European Software Engineering Conference and ACM SIGSOFT Symposium on the Foundations of Software Engineering (ESEC/FSE) |date=2017 |pages=498–510 <!--|doi=10.1145/3106237.3106277 --> |isbn=9781450351058 <!-- |arxiv=1709.03221 |s2cid=6324652 --> | ref = harv }}
* {{ citation | last1 = Kusner | first1 = M. J. | last2 = Loftus | first2 = J. | last3 = 
 Russell | first3 = C. | last4 = Silva | first4 = R. | year = 2017 <!-- | url =  https://proceedings.neurips.cc/paper/2017/hash/a486cd07e4ac3d270571622f4f316ec5-Abstract.html --> | chapter = Counterfactual fairness | title = Advances in neural information processing systems, 30. | isbn = 9781510860964 | ref = harv }} 
* {{ citation | first1 = Solon | last1 =  Barocas  <!-- | authorlink = w:en: Solon Barocas --> | first2 = Moritz | last2 = Hardt | first3 = Arvind | last3 = Narayanan <!-- | url = http://www.fairmlbook.org --> | 
 title = Fairness and Machine Learning: Limitations and Opportunities | accessdate = 15 December 2019 | publisher = [[w:en:MIT Press|MIT Press]] | isbn = 9780262048613 | year = 2023 | date = 2023-11-28 | ref = harv }} <!-- この内容はMIT Press から出版される予定のようです。-->

=== AV媒体 ===
* {{cite AV media <!-- |url=https://www.youtube.com/watch?v=rp965fnd3qE -->|df=ja|title=Algorithmic Fairness and the Social Welfare Function|last=Mullainathan|first=Sendhil|author-link=:en:Sendhil Mullainathan|date=June 19, 2018|publication-date=|journal=Keynote at the 19th ACM Conference on Economics and Computation (EC'18)|url=https://www.youtube.com/watch?v=rp965fnd3qE|publisher=YouTube|quote=In other words, if you have a social welfare function where what you care about is harm, and you care about harm to the African Americans, there you go: 12 percent less African Americans in jail overnight.... Before we get into the minutiae of relative harm, the welfare function is defined in absolute harm, so we should actually calculate the absolute harm first.|minutes=48|ref={{SfnRef|Mullainathan|2018}} }}

=== 雑誌 ===
* {{cite journal <!-- | doi=10.1146/annurev-statistics-042720-125902 --> | title=Algorithmic Fairness: Choices, Assumptions, and Definitions | year=2021 | last1=Mitchell | first1=Shira | last2=Potash | first2=Eric | last3=Barocas | first3=Solon | last4=d'Amour | first4=Alexander | last5=Lum | first5=Kristian | journal=Annual Review of Statistics and Its Application | volume=8 | issue=1 | pages=141–163 <!-- | bibcode=2021AnRSA...8..141M | s2cid=228893833 | doi-access=free --> | date = 2021-03 | ref = harv }}
* {{Cite journal |last1=Friedler |first1=Sorelle A. |last2=Scheidegger |first2=Carlos |last3=Venkatasubramanian |first3=Suresh |date=April 2021 |title=The (Im)possibility of fairness: different value systems require different mechanisms for fair decision making <!-- |url=https://dl.acm.org/doi/10.1145/3433949 --> |journal=Communications of the ACM |language=en |volume=64 |issue=4 |pages=136–143 <!-- |doi=10.1145/3433949 |s2cid=1769114 |issn=0001-0782 --> | ref = harv }}
* {{Cite journal |last1=Mehrabi |first1=Ninareh |last2=Morstatter |first2=Fred |last3=Saxena |first3=Nripsuta |last4=Lerman |first4=Kristina |last5=Galstyan |first5=Aram |date=2021-07-13 |title=A Survey on Bias and Fairness in Machine Learning 
 <!-- |url=https://doi.org/10.1145/3457607 --> |journal=ACM Computing Surveys |volume=54 |issue=6 |pages=115:1–115:35 <!-- |doi=10.1145/3457607 |arxiv=1908.09635 |s2cid=201666566 |issn=0360-0300 --> | ref = harv }}
* {{cite journal <!-- | url=https://doi.org/10.1038/s41598-022-07939-1 | doi=10.1038/s41598-022-07939-1 --> | title=A clarification of the nuances in the fairness metrics landscape | year=2022 | last1=Castelnovo | first1=Alessandro | last2=Crupi | first2=Riccardo | last3=Greco | first3=Greta | last4=Regoli | first4=Daniele | last5=Penco | first5=Ilaria Giuseppina | last6=Cosentini | first6=Andrea Claudio | journal=Scientific Reports | volume=12 | issue=1 | page=4209 <!-- | pmid=35273279 | pmc=8913820 | arxiv=2106.00467 | bibcode=2022NatSR..12.4209C --> | ref = harv }}

=== ウェブアーカイブ ===

* {{ citation | author1 = Brian Hu Zhang | author2 = Blake Lemoine | author3 = Margaret Mitchell <!-- | url = https://arxiv.org/abs/1801.07593 --> | title = Mitigating Unwanted Biases with Adversarial Learning | accessdate = 17 December 2019 | year = 2018 | date = 2018-01-22 | ref = {{ harvid | Zhang | Lemoine | Mitchell | 2018}} }} 
* {{citation <!-- Cite arXiv --> |last1=Caton |first1=Simon |last2=Haas |first2=Christian |date=2020-10-04 |title=Fairness in Machine Learning: A Survey <!-- |arxiv=2010.04053 --> | ref = harv }}
* {{ citation <!-- cite arXiv | eprint=2102.00311 --> |last1=Chen|first1=Violet (Xinying) <!-- | authorlink1 = w:en:Violet Chen --> |  last2=Hooker|first2=J. N.|title=Welfare-based Fairness through Optimization|year=2021 <!-- |class=cs.AI --> | ref = harv }}

{{DEFAULTSORT:こうへいせい}}
[[Category:機械学習]]
[[Category:コンピュータと社会]]
[[Category:差別]]
[[Category:情報倫理]]
[[Category:人工知能の哲学]]
[[Category:バイアス]]