Explainability
Also called: XAI, explainable AI
Being able to give a human a meaningful account of why a system produced a particular output.
Explicabilidade é uma questão de público: a explicação precisa ser utilizável por quem dela precisa — um candidato, um auditor, um engenheiro. Muitas vezes ela é obtida com métodos post-hoc que aproximam o comportamento do modelo em vez de revelar seu mecanismo real. Essa aproximação é uma limitação de verdade, não um detalhe técnico.
Na prática: ‘Recusado principalmente pela relação dívida/renda e pelo histórico de crédito curto.’