Bias
Systematic skew in a model's outputs — a data and design property, not a moral accusation.
Il bias nell’IA ha due significati che vengono confusi: uno statistico (uno scostamento sistematico) e uno sociale (trattamento iniquo di gruppi di persone). Il NIST distingue bias sistemico, statistico e cognitivo umano, perché ciascuno richiede un rimedio diverso. Dire di quale tipo si parla è già metà del lavoro per affrontarlo.
In pratica: Un modello addestrato su dieci anni di dati sulle assunzioni riproduce dieci anni di schemi di assunzione.