Algorithmic Bias
When a system produces systematically different outcomes for different groups, without justification.
Il bias algoritmico nasce da dati di addestramento distorti, da variabili proxy che sostituiscono attributi protetti e da scelte su cosa ottimizzare. Raramente richiede che qualcuno lo voglia. Poiché è sistematico e non casuale, si moltiplica su larga scala — ed è esattamente questo che lo rende peggiore del pregiudizio di una singola persona.
In pratica: Una variabile sul codice postale che codifica silenziosamente l’etnia e guida le decisioni sui prestiti.