Trust, Risk & Safety beginner

Bias

Systematic skew in a model's outputs — a data and design property, not a moral accusation.

Viés em IA tem dois sentidos que acabam confundidos: um estatístico (um desvio sistemático) e um social (tratamento injusto de grupos). O NIST distingue viés sistêmico, estatístico e cognitivo humano, porque cada um pede um remédio diferente. Nomear de qual deles você está falando já é metade do trabalho de enfrentá-lo.

Na prática: Um modelo treinado em dez anos de contratações reproduz dez anos de padrões de contratação.