Trust, Risk & Safety beginner

Bias

Systematic skew in a model's outputs — a data and design property, not a moral accusation.

En IA, le mot biais recouvre deux sens que l’on confond : un sens statistique (un décalage systématique) et un sens sociétal (un traitement inéquitable de certains groupes). Le NIST distingue les biais systémiques, statistiques et cognitifs humains, parce que chacun appelle un remède différent. Nommer celui dont on parle, c’est déjà la moitié du travail.

En pratique : Un modèle entraîné sur dix ans de données de recrutement reproduit dix ans de pratiques de recrutement.