Fairness
The requirement that a system treat people equitably — with several mathematical definitions that provably conflict.
Equidade parece uma propriedade só, mas são várias: acurácia igual entre grupos, taxas iguais de falso positivo, resultados iguais. Está matematicamente provado que não dá para satisfazer todas as definições razoáveis ao mesmo tempo, exceto em casos triviais. Então trabalhar com equidade significa escolher qual definição o seu contexto exige e defender essa escolha.
Na prática: Igualar as taxas de erro entre grupos pode forçar taxas de aprovação desiguais, e vice-versa.