Fairness
The requirement that a system treat people equitably — with several mathematical definitions that provably conflict.
Fairness klingt nach einer Eigenschaft, ist aber viele: gleiche Genauigkeit über Gruppen hinweg, gleiche Falsch-Positiv-Raten, gleiche Ergebnisse. Es ist mathematisch bewiesen, dass sich außer in trivialen Fällen nicht alle vernünftigen Definitionen gleichzeitig erfüllen lassen. Fairness-Arbeit heißt deshalb: entscheiden, welche Definition dein Kontext verlangt, und diese Entscheidung begründen.
In der Praxis: Gleiche Fehlerraten über Gruppen hinweg zu erzwingen, kann ungleiche Zusagequoten erzwingen — und umgekehrt.