Trust, Risk & Safety beginner

Bias

Systematic skew in a model's outputs — a data and design property, not a moral accusation.

El sesgo en IA tiene dos sentidos que se confunden: uno estadístico (una desviación sistemática) y uno social (trato injusto hacia ciertos grupos). NIST distingue entre sesgo sistémico, estadístico y cognitivo humano, porque cada uno necesita un remedio distinto. Nombrar de cuál estás hablando es la mitad del trabajo de atenderlo.

En la práctica: Un modelo entrenado con diez años de datos de contratación reproduce diez años de patrones de contratación.