Algorithmic Bias
When a system produces systematically different outcomes for different groups, without justification.
O viés algorítmico nasce de dados de treinamento enviesados, de variáveis-proxy que substituem atributos protegidos e de escolhas sobre o que otimizar. Raramente exige que alguém tenha essa intenção. Por ser sistemático e não aleatório, ele escala — e é exatamente isso que o torna pior que o viés de uma pessoa.
Na prática: Uma variável de CEP codificando etnia em silêncio e definindo decisões de crédito.