Explainability
Also called: XAI, explainable AI
Being able to give a human a meaningful account of why a system produced a particular output.
La explicabilidad tiene que ver con la audiencia: una explicación debe ser utilizable por quien la necesita — un solicitante, un auditor, un ingeniero. Suele lograrse con métodos posteriores que aproximan el comportamiento del modelo en lugar de revelar su mecanismo real. Esa aproximación es una limitación real, no un tecnicismo.
En la práctica: ‘Rechazado principalmente por la relación deuda-ingreso y un historial crediticio corto.’