Trustworthy AI
An umbrella for the properties an AI system needs to be relied on: valid, safe, secure, accountable, explainable, fair, privacy-enhanced.
Vertrauenswürdige KI ist der Rahmen, den NIST im AI Risk Management Framework nutzt: eine Liste von Eigenschaften, die ein System zeigen sollte, statt einer einzelnen Punktzahl, die es zu treffen gilt. Die Eigenschaften stehen teils im Zielkonflikt zueinander, die Arbeit besteht also darin, sie im jeweiligen Kontext auszubalancieren. Der Rahmen ist bewusst branchenneutral.
In der Praxis: Ein System kann genau und trotzdem nicht vertrauenswürdig sein, wenn niemand es erklären oder anfechten kann.