Explainability
Also called: XAI, explainable AI
Being able to give a human a meaningful account of why a system produced a particular output.
Bei Erklärbarkeit geht es um das Publikum: Eine Erklärung muss für die Person brauchbar sein, die sie braucht — für Antragstellende, für Prüfende, für Entwickelnde. Oft entsteht sie durch nachgelagerte Verfahren, die das Verhalten des Modells annähern, statt seinen tatsächlichen Mechanismus offenzulegen. Diese Annäherung ist eine echte Einschränkung, keine Spitzfindigkeit.
In der Praxis: ‘Abgelehnt vor allem wegen des Verhältnisses von Schulden zu Einkommen und der kurzen Kredithistorie.’