Algorithmic Bias
When a system produces systematically different outcomes for different groups, without justification.
Le biais algorithmique naît de données d’entraînement déséquilibrées, de variables indirectes qui font office de substituts à des attributs protégés, et de choix sur ce qu’il faut optimiser. Il n’exige presque jamais que quiconque l’ait voulu. Parce qu’il est systématique et non aléatoire, il passe à l’échelle — et c’est exactement ce qui le rend pire que le biais d’une seule personne.
En pratique : Un code postal qui encode discrètement l’origine ethnique et oriente les décisions de crédit.