Algorithmic Bias
When a system produces systematically different outcomes for different groups, without justification.
El sesgo algorítmico surge de datos de entrenamiento desbalanceados, de variables proxy que sustituyen a atributos protegidos y de las decisiones sobre qué optimizar. Rara vez hace falta que alguien lo pretenda. Como es sistemático y no aleatorio, escala — que es justamente lo que lo vuelve peor que el sesgo de una persona.
En la práctica: Un código postal que codifica en silencio el origen étnico y termina decidiendo créditos.