Trustworthy AI
An umbrella for the properties an AI system needs to be relied on: valid, safe, secure, accountable, explainable, fair, privacy-enhanced.
IA affidabile è l’inquadramento che il NIST usa nell’AI Risk Management Framework: elenca le caratteristiche che un sistema dovrebbe dimostrare, invece di un unico punteggio da raggiungere. Le caratteristiche si bilanciano l’una contro l’altra, quindi il lavoro sta nel trovare l’equilibrio giusto nel contesto. È volutamente indipendente dal settore.
In pratica: Un sistema può essere accurato e comunque inaffidabile se nessuno sa spiegarlo o contestarlo.